O ChatGPT consegue ver meu site? Como verificar
O ChatGPT só pode citar sua página se o crawler de busca da OpenAI, o OAI-SearchBot, puder buscá-la e receber o mesmo HTML que um navegador recebe. Verifique três coisas: seu robots.txt não bloqueia o OAI-SearchBot, seu firewall ou CDN não responde a ele com um 403 ou uma página de desafio, e o texto principal está no HTML inicial.
Muitos donos de site perguntam ao ChatGPT sobre o próprio produto, veem um concorrente citado no lugar e se perguntam se o ChatGPT consegue acessar o site. A pergunta tem uma resposta concreta e testável. A OpenAI publica os nomes de seus crawlers e o que cada um faz, então dá para verificar cada elo da cadeia: as regras do robots.txt, a resposta que seu servidor envia e o conteúdo dessa resposta.
Neste artigo
- Quais crawlers da OpenAI importam para as respostas do ChatGPT?
- Como verifico o robots.txt para o ChatGPT?
- Um firewall pode bloquear o ChatGPT mesmo quando o robots.txt permite?
- Como testar o que o OAI-SearchBot recebe?
- E se a página carrega, mas o ChatGPT ainda não diz nada útil?
- Como a AISeeWhy verifica isso?
Quais crawlers da OpenAI importam para as respostas do ChatGPT?
A OpenAI documenta três agentes que os donos de site costumam encontrar. Cada um tem uma função, e bloquear um não bloqueia os outros. A OpenAI afirma que cada configuração do robots.txt é independente.
OAI-SearchBotencontra e indexa páginas para os recursos de busca do ChatGPT. A OpenAI diz que sites que optaram por sair dele não aparecem nas respostas da busca do ChatGPT. É esse que decide se você pode ser citado.GPTBotcoleta conteúdo que pode ser usado para treinar os modelos de base da OpenAI. Bloqueá-lo indica que seu conteúdo não deve ser usado em treinamento. Isso não tira você das respostas de busca.ChatGPT-Uservisita uma página quando uma pessoa pede isso ao ChatGPT, por exemplo ao colar um link. A OpenAI diz que as regras do robots.txt podem não valer para essas visitas iniciadas pelo usuário, e que esse agente não é usado para decidir se um conteúdo aparece na busca.
Resumindo: OAI-SearchBot controla as citações, GPTBot controla o treinamento e ChatGPT-User cuida das visitas em tempo real a pedido do usuário.
Como verifico o robots.txt para o ChatGPT?
Abra https://yourdomain.com/robots.txt no navegador. Procure um grupo que cite OAI-SearchBot. Se não houver, o crawler segue o grupo User-agent: *. Um Disallow: / no grupo que se aplicar bloqueia o site inteiro.
Verifique também se o arquivo responde. Pela RFC 9309, se o robots.txt retorna erro de servidor (5xx) ou não pode ser acessado, o crawler deve presumir que o site inteiro está bloqueado. Um 404 não é problema: significa que não há regras. Um endereço de robots.txt que devolve uma página HTML com status 200 é um erro comum, porque os crawlers não encontram regras válidas nela.
Uma configuração que mantém a busca do ChatGPT e opta por sair do treinamento fica assim:
User-agent: OAI-SearchBot
Allow: /
User-agent: GPTBot
Disallow: /
User-agent: *
Allow: /
A OpenAI diz que as mudanças para a busca podem levar cerca de 24 horas para valer depois que você atualiza o robots.txt.
Um firewall pode bloquear o ChatGPT mesmo quando o robots.txt permite?
Sim, e é uma causa comum. O robots.txt é um pedido a crawlers bem-comportados, não um controle de acesso. Seu firewall, CDN ou proteção contra bots decide o que realmente é devolvido. Se ele trata um crawler de IA como bot indesejado, o crawler recebe um 403, um 429 ou uma página de desafio, como a tela “Just a moment...” da Cloudflare, enquanto as pessoas no navegador veem a página normalmente.
Por fora, parece um site aberto a todos. Só uma requisição que se identifica como o crawler mostra a diferença. Nesse caso, o robots.txt diz sim, o servidor diz não, e o servidor vence.
Como testar o que o OAI-SearchBot recebe?
Envie duas requisições para a mesma URL, uma com o user agent de um navegador e outra com o user agent do crawler, e compare o código de status e o tamanho. A OpenAI publica um user agent de exemplo para cada crawler; o número da versão pode mudar.
# As a browser
curl -s -o /dev/null -w "%{http_code} %{size_download}\n" \
-A "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36" \
https://example.com/page
# As OAI-SearchBot
curl -s -o /dev/null -w "%{http_code} %{size_download}\n" \
-A "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36; compatible; OAI-SearchBot/1.4; +https://openai.com/searchbot" \
https://example.com/page
Se o navegador recebe 200 com um corpo grande e o crawler recebe 403, 429, 503 ou um corpo bem menor, seu firewall está tratando o crawler de forma diferente. Há um limite: seu teste parte do seu próprio endereço IP, não do da OpenAI. Firewalls que verificam crawlers pelas faixas de IP publicadas (a OpenAI as lista em openai.com/searchbot.json) podem deixar o crawler real passar e bloquear o seu teste. Mesmo assim, um bloqueio nesse teste mostra como o firewall trata o user agent, e isso vale a pena corrigir.
E se a página carrega, mas o ChatGPT ainda não diz nada útil?
O acesso é só o primeiro passo. Se o HTML que chega é uma casca vazia preenchida depois por JavaScript, o crawler pode receber quase nenhum texto. Veja o HTML bruto com curl ou com o view-source do navegador: se o texto principal não está lá, provavelmente o crawler também não o vê.
Depois vêm os sinais de conteúdo: uma resposta curta e clara perto do topo da página, títulos que correspondem às perguntas que as pessoas fazem, um publicador e um autor identificados e datas visíveis. Isso não garante uma citação, mas facilita citar a página corretamente.
Como a AISeeWhy verifica isso?
A AISeeWhy busca sua página como OAI-SearchBot, GPTBot, ChatGPT-User e outros 11 crawlers, ao lado de um navegador comum, lê seu robots.txt pelas regras da RFC 9309 e aponta o firewall quando ele responde com bloqueio ou desafio. Cada problema vem com a correção para colar, e a verificação gratuita mostra sua nota e o primeiro problema.
Perguntas frequentes
Bloquear o GPTBot tira meu site da busca do ChatGPT?
Não. A OpenAI trata cada configuração de crawler como independente. O GPTBot está ligado ao treinamento, enquanto o OAI-SearchBot decide se as páginas podem aparecer nas respostas da busca do ChatGPT. Você pode bloquear um e permitir o outro.
O ChatGPT-User segue o robots.txt?
A OpenAI diz que, como essas visitas são iniciadas por um usuário, as regras do robots.txt podem não valer. Se você quer impedir essas visitas, uma regra no robots.txt não é um controle confiável.
Quanto tempo leva para uma mudança no robots.txt chegar ao ChatGPT?
A OpenAI diz que pode levar cerca de 24 horas após uma atualização do robots.txt para os sistemas dela se ajustarem para a busca.
Estar acessível basta para ser citado?
Não. O acesso torna a citação possível, mas não a garante. O que a página diz, e com que clareza, ainda decide se ela é usada em uma resposta.
Fontes
- OpenAI: visão geral dos crawlers da OpenAI
- RFC 9309: Robots Exclusion Protocol
- Cloudflare: gerenciar crawlers de IA (AI Crawl Control)