Công cụ này kiểm tra điều gì
Công cụ đọc các nhóm robots.txt và kiểm tra xem các tác nhân AI chính cho tìm kiếm, huấn luyện và hành động của người dùng, cũng như token kiểm soát, có được đề cập rõ ràng hay chỉ kế thừa quy tắc crawler chung.
Dán robots.txt để biết các token AI crawler chính cho tìm kiếm, huấn luyện và hành động do người dùng kích hoạt được cho phép, bị chặn hay chưa rõ ràng trước khi các hệ thống AI phát hiện trang của bạn.
Dán và kiểm tra ngay. Nội dung robots.txt của bạn chỉ ở trên thiết bị này.
Dán robots.txt để kiểm tra tín hiệu truy cập của OpenAI, Anthropic, Google, Perplexity và Common Crawl.
Công cụ đọc các nhóm robots.txt và kiểm tra xem các tác nhân AI chính cho tìm kiếm, huấn luyện và hành động của người dùng, cũng như token kiểm soát, có được đề cập rõ ràng hay chỉ kế thừa quy tắc crawler chung.
Robots.txt có thể ảnh hưởng đến việc công cụ trả lời AI, Agent duyệt web, crawler huấn luyện mô hình và crawler tập dữ liệu có thể truy cập các trang công khai để khám phá hoặc trích dẫn hay không.
Xem xét các tín hiệu kỹ thuật ảnh hưởng đến khả năng được công cụ trả lời phát hiện và mức độ sẵn sàng để trích dẫn.
Tạo hoặc xem xét tệp khám phá dành cho Agent bổ sung cho robots.txt.
Xem xét các tín hiệu kỹ thuật rộng hơn cho việc phát hiện và sử dụng bởi AI Agent.
Công cụ kiểm tra OAI-SearchBot, GPTBot, ChatGPT-User, ClaudeBot, Claude-SearchBot, Claude-User, Google-Extended, PerplexityBot và CCBot, cùng quy tắc dự phòng cho mọi crawler.
Hãy cho phép các Agent tập trung vào tìm kiếm khi khả năng hiển thị trên AI Search quan trọng. Đánh giá riêng các Agent huấn luyện khi kiểm soát việc tái sử dụng nội dung quan trọng hơn.
robots.txt là chính sách truy cập dành cho các crawler hợp tác, không phải bảo đảm pháp lý hoặc kỹ thuật chống lại mọi cách sử dụng nội dung.