Robots.txt là một loại tệp đặc thù không phải là HTML hay bất kỳ thứ gì gần giống. Mục đích của tệp robots.txt là để cho các công cụ tìm biết content nào trên web site của bạn thường xuyên được các bot thu thập và lập chỉ mục.
Sitemap robots txt
Sitemap txt
Mục đích của file Robots.txt là gì? Khi các công cụ search tìm kiếm thông tin về web site của bạn, tệp Robots.txt thường xuyên là nơi đầu tiên họ search. Tệp này đưa cho các phương tiện tìm biết những gì cần lập chỉ mục và những gì không cần lập chỉ mục. Bạn cũng khả năng cao cung cấp vị trí web site của mình trong sơ đồ website XML. công cụ tìm gửi “chương trình”, “rô-bốt” hoặc “trình thu thập dữ liệu” để craw dữ liệu web site của bạn, theo có các hướng dẫn trong tệp Robots.txt (nếu tệp “rô-bốt” không được gửi, công cụ tìm sẽ không gửi ). .txt chỉ ra rằng điều này không thể lập chỉ mục). 
Sitemap robot
File Robots.txt nằm ở đâu? Tệp sơ đồ web robots.txt thường nằm trong thư mục gốc. Bạn có thể tiện lợi tạo một tệp trống và đặt tên là Robots.txt. Điều này sẽ Giúp cho bạn giảm thiểu các lỗi web và hoàn tất hầu hết công việc của mình. công cụ tìm craw dữ liệu các trang website đẹp. Ví dụ website bạn là sieutocviet.com thì file robots sẽ là sieutocviet.com/robots.txt File Robots mặc định của wordpress:
User-agent: * Disallow: /wp-admin/ Disallow: /wp-includes/
Hoặc Bạn thường tham khảo lập trình này
User-agent: * Disallow: /wp-admin/ User-agent: * Allow: / Disallow: /*?* Disallow: /*/?* Sitemap: https://web.sieutocviet.com/sitemap.xml
