Amazonbot
Amazonbot è il crawler di Amazon per migliorare i suoi prodotti e servizi, e Amazon afferma che i suoi dati possono essere usati per addestrare i modelli AI di Amazon. Rispetta il robots.txt. Amazon gestisce agenti separati per la ricerca, Amzn-SearchBot, e per le richieste degli utenti come le domande ad Alexa, Amzn-User, ciascuno con il proprio token.
Cosa fa
Amazon afferma che Amazonbot serve a migliorare i suoi prodotti e servizi e che i suoi dati possono essere usati per addestrare i modelli AI di Amazon. Amazon dichiara che la sua scansione automatica rispetta il Robots Exclusion Protocol, comprese le regole su user agent, allow e disallow.
Amazon mantiene il robots.txt in cache fino a 30 giorni e non supporta Crawl-delay. Bloccare Amazonbot non copre Amzn-SearchBot né Amzn-User, che hanno token propri.
Token robots.txt
Amazonbot
Stringa user agent
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Amazonbot/0.1) Chrome/W.X.Y.Z Safari/537.36
Come consentirlo
User-agent: Amazonbot
Allow: /
Come bloccarlo
User-agent: Amazonbot
Disallow: /
Come verificare le visite reali
Amazon pubblica gli indirizzi IP usati da Amazonbot. Confronta l'IP di origine di una richiesta con quell'elenco; Amazon non documenta una verifica DNS inversa e chiede agli editori con domande di scrivere a amazonbot@amazon.com.