Robots.txt là một loại tệp đặc trưng không phải là HTML hay bất cứ vật dụng gì gần giống. Mục đích của tệp robots.txt là để đưa cho các phương tiện tìm biết content nào trên website của bạn có lẽ được các bot thu thập và lập chỉ mục.
Sitemap robots txt
Sitemap txt
Mục đích của file Robots.txt là gì? Khi các phương tiện search tìm tin tức về trang web của bạn, tệp Robots.txt khả năng cao là nơi đầu tiên họ tìm. Tệp này đưa cho các công cụ search biết những gì cần lập chỉ mục và những gì không tốt nhất nên lập chỉ mục. Bạn cũng có thể hỗ trợ vị trí website của mình trong sơ đồ trang web XML. công cụ tìm kiếm gửi “chương trình”, “rô-bốt” hoặc “trình thu thập dữ liệu” để tìm nạp dữ liệu web site của bạn, theo hướng dẫn trong tệp Robots.txt (nếu tệp “rô-bốt” không được gửi, công cụ tìm kiếm sẽ không gửi ). .txt chỉ ra rằng điều này không thể lập chỉ mục). 
Sitemap robot
File Robots.txt nằm ở đâu? Tệp sơ đồ web site robots.txt có thể nằm trong thư mục gốc. Bạn có thể thuận tiện tạo một tệp trống và đặt tên là Robots.txt. Điều này sẽ Giúp cho bạn tránh các lỗi web và hoàn tất hầu hết công việc của mình. công cụ tìm kiếm craw dữ liệu các trang web đẹp. Ví dụ trang web bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt File Robots mặc định của wordpress:
User-agent: * Disallow: /wp-admin/ Disallow: /wp-includes/
Hoặc Bạn thường tham khảo lập trình này
User-agent: * Disallow: /wp-admin/ User-agent: * Allow: / Disallow: /*?* Disallow: /*/?* Sitemap: https://web.sieutocviet.com/sitemap.xml
