O ChatGPT consegue ver meu site? Como verificar

Publicado em

Resposta curta

O ChatGPT só pode citar sua página se o crawler de busca da OpenAI, o OAI-SearchBot, puder buscá-la e receber o mesmo HTML que um navegador recebe. Verifique três coisas: seu robots.txt não bloqueia o OAI-SearchBot, seu firewall ou CDN não responde a ele com um 403 ou uma página de desafio, e o texto principal está no HTML inicial.

Muitos donos de site perguntam ao ChatGPT sobre o próprio produto, veem um concorrente citado no lugar e se perguntam se o ChatGPT consegue acessar o site. A pergunta tem uma resposta concreta e testável. A OpenAI publica os nomes de seus crawlers e o que cada um faz, então dá para verificar cada elo da cadeia: as regras do robots.txt, a resposta que seu servidor envia e o conteúdo dessa resposta.

Neste artigo
  1. Quais crawlers da OpenAI importam para as respostas do ChatGPT?
  2. Como verifico o robots.txt para o ChatGPT?
  3. Um firewall pode bloquear o ChatGPT mesmo quando o robots.txt permite?
  4. Como testar o que o OAI-SearchBot recebe?
  5. E se a página carrega, mas o ChatGPT ainda não diz nada útil?
  6. Como a AISeeWhy verifica isso?

Quais crawlers da OpenAI importam para as respostas do ChatGPT?

A OpenAI documenta três agentes que os donos de site costumam encontrar. Cada um tem uma função, e bloquear um não bloqueia os outros. A OpenAI afirma que cada configuração do robots.txt é independente.

Resumindo: OAI-SearchBot controla as citações, GPTBot controla o treinamento e ChatGPT-User cuida das visitas em tempo real a pedido do usuário.

Como verifico o robots.txt para o ChatGPT?

Abra https://yourdomain.com/robots.txt no navegador. Procure um grupo que cite OAI-SearchBot. Se não houver, o crawler segue o grupo User-agent: *. Um Disallow: / no grupo que se aplicar bloqueia o site inteiro.

Verifique também se o arquivo responde. Pela RFC 9309, se o robots.txt retorna erro de servidor (5xx) ou não pode ser acessado, o crawler deve presumir que o site inteiro está bloqueado. Um 404 não é problema: significa que não há regras. Um endereço de robots.txt que devolve uma página HTML com status 200 é um erro comum, porque os crawlers não encontram regras válidas nela.

Uma configuração que mantém a busca do ChatGPT e opta por sair do treinamento fica assim:

User-agent: OAI-SearchBot
Allow: /

User-agent: GPTBot
Disallow: /

User-agent: *
Allow: /

A OpenAI diz que as mudanças para a busca podem levar cerca de 24 horas para valer depois que você atualiza o robots.txt.

Um firewall pode bloquear o ChatGPT mesmo quando o robots.txt permite?

Sim, e é uma causa comum. O robots.txt é um pedido a crawlers bem-comportados, não um controle de acesso. Seu firewall, CDN ou proteção contra bots decide o que realmente é devolvido. Se ele trata um crawler de IA como bot indesejado, o crawler recebe um 403, um 429 ou uma página de desafio, como a tela “Just a moment...” da Cloudflare, enquanto as pessoas no navegador veem a página normalmente.

Por fora, parece um site aberto a todos. Só uma requisição que se identifica como o crawler mostra a diferença. Nesse caso, o robots.txt diz sim, o servidor diz não, e o servidor vence.

Como testar o que o OAI-SearchBot recebe?

Envie duas requisições para a mesma URL, uma com o user agent de um navegador e outra com o user agent do crawler, e compare o código de status e o tamanho. A OpenAI publica um user agent de exemplo para cada crawler; o número da versão pode mudar.

# As a browser
curl -s -o /dev/null -w "%{http_code} %{size_download}\n" \
  -A "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36" \
  https://example.com/page

# As OAI-SearchBot
curl -s -o /dev/null -w "%{http_code} %{size_download}\n" \
  -A "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36; compatible; OAI-SearchBot/1.4; +https://openai.com/searchbot" \
  https://example.com/page

Se o navegador recebe 200 com um corpo grande e o crawler recebe 403, 429, 503 ou um corpo bem menor, seu firewall está tratando o crawler de forma diferente. Há um limite: seu teste parte do seu próprio endereço IP, não do da OpenAI. Firewalls que verificam crawlers pelas faixas de IP publicadas (a OpenAI as lista em openai.com/searchbot.json) podem deixar o crawler real passar e bloquear o seu teste. Mesmo assim, um bloqueio nesse teste mostra como o firewall trata o user agent, e isso vale a pena corrigir.

E se a página carrega, mas o ChatGPT ainda não diz nada útil?

O acesso é só o primeiro passo. Se o HTML que chega é uma casca vazia preenchida depois por JavaScript, o crawler pode receber quase nenhum texto. Veja o HTML bruto com curl ou com o view-source do navegador: se o texto principal não está lá, provavelmente o crawler também não o vê.

Depois vêm os sinais de conteúdo: uma resposta curta e clara perto do topo da página, títulos que correspondem às perguntas que as pessoas fazem, um publicador e um autor identificados e datas visíveis. Isso não garante uma citação, mas facilita citar a página corretamente.

Como a AISeeWhy verifica isso?

A AISeeWhy busca sua página como OAI-SearchBot, GPTBot, ChatGPT-User e outros 11 crawlers, ao lado de um navegador comum, lê seu robots.txt pelas regras da RFC 9309 e aponta o firewall quando ele responde com bloqueio ou desafio. Cada problema vem com a correção para colar, e a verificação gratuita mostra sua nota e o primeiro problema.

Perguntas frequentes

Bloquear o GPTBot tira meu site da busca do ChatGPT?

Não. A OpenAI trata cada configuração de crawler como independente. O GPTBot está ligado ao treinamento, enquanto o OAI-SearchBot decide se as páginas podem aparecer nas respostas da busca do ChatGPT. Você pode bloquear um e permitir o outro.

O ChatGPT-User segue o robots.txt?

A OpenAI diz que, como essas visitas são iniciadas por um usuário, as regras do robots.txt podem não valer. Se você quer impedir essas visitas, uma regra no robots.txt não é um controle confiável.

Quanto tempo leva para uma mudança no robots.txt chegar ao ChatGPT?

A OpenAI diz que pode levar cerca de 24 horas após uma atualização do robots.txt para os sistemas dela se ajustarem para a busca.

Estar acessível basta para ser citado?

Não. O acesso torna a citação possível, mas não a garante. O que a página diz, e com que clareza, ainda decide se ela é usada em uma resposta.

Fontes

Mais artigos