robots.txt Checker
Free robots.txt checker for SEO. Instantly fetch and analyze robots.txt files for any website to view crawl directives, identify blocked pages and resources, and discover declared sitemaps. Check your site’s crawlability by Google, Bing, and major search engines, plus see if ChatGPT, Claude, Google AI, and other large language model (LLM) crawlers are allowed or blocked.
Check a site's robots.txt
Enter the site URL (e.g. https://example.com). We'll fetch and parse its robots.txt.
Site web en 7 jours
Site professionnel, en ligne en une semaine. Conçu pour convertir les visiteurs en clients.
Votre site web. En ligne en 7 jours ou moins. À partir de $999.
Solutions entreprise
Besoins complexes ? Nous avons construit des plateformes gérant plus de 10 M de requêtes par jour.