评分如何计算
AISeeWhy 测试 AI 爬虫和 AI 搜索能否读取并引用一个网页。所有影响评分的因素都列在本页。
公式
评分 = 100 − 15 × (P1 发现数) − 6 × (P2 发现数) − 2 × (P3 发现数),最低为 0。当评分达到 70 或以上且没有 P1 发现时,页面被标记为对 AI 可见。
优先级
- P1,严重:AI 搜索或 AI 助手无法读取该页面,或无法信任其内容。
- P2,重要:页面更难被理解、找到或引用。
- P3,建议项,或一种策略选择,例如拦截收集训练数据的爬虫。
测试内容
- 以 16 种 AI 和搜索爬虫、curl 以及桌面浏览器的身份抓取页面,使用每个爬虫公布的 user agent。收到错误、验证挑战或与浏览器不同页面的爬虫,会连同 HTTP 状态和防火墙特征一并报告。
- 按照 RFC 9309 为每个爬虫令牌解析 robots.txt,包括从不作为 user agent 发送的令牌(Google-Extended、Applebot-Extended)。
- 检测页面的结构化数据(JSON-LD)、答案优先的内容、日期、站点地图、hreflang 替代页面和 llms.txt。
- 遇到临时故障(网络错误、429、5xx)的爬虫会先重试一次,再计入结果。
外部测试的局限
- 请求来自 AISeeWhy 的服务器,而不是爬虫所有者的 IP 地址。按 IP 信任真实爬虫的防火墙可能会拦截我们却放行它们,反之亦然。服务器日志检测能显示真实爬虫收到了什么响应。
- 不运行 JavaScript,因为 AI 爬虫也不运行。
- 一个 URL 就是一个页面。整个网站请使用批量审计或站点地图。
- 评分越高,技术障碍越少,但这并不保证 AI 助手会提及或引用你。
规则
当前规则版本:2026.11。每当规则、优先级或公式发生变化,版本都会更新,每份报告都会显示生成时所用的版本。
| 发现 | 优先级 |
|---|---|
我们的探测请求被拦截,结果无法确定 access.all_blocked | P2 |
GPTBot 被拦截 access.blocked | P1–P3,取决于爬虫类型 |
GPTBot 被重定向到其他地址 access.redirect_diff | P1–P3,取决于爬虫类型 |
GPTBot 只能获取到占位页面 access.soft_block | P1–P3,取决于爬虫类型 |
联系邮箱被邮件地址混淆功能隐藏 content.email_obfuscated | P1 / P2 |
页面内容依赖 JavaScript content.js_only | P1 |
没有指向外部来源的链接 content.no_outbound_citations | P1 |
以问句形式书写的标题很少 content.no_question_headings | P2 |
H1 下方没有简短回答 content.quick_answer_missing | P1 |
无法获取该页面 fetch.error | P1 |
页面返回状态 403 fetch.status | P1 |
日期不一致:页面 2026-01-01,sitemap 2026-01-01 fresh.lastmod_mismatch | P2 |
没有修改日期 fresh.no_date | P3 |
Canonical URL 不在 hreflang URL 之中 hreflang.canonical_conflict | P2 |
hreflang 没有 x-default hreflang.no_x_default | P3 |
hreflang 链接没有互相指向 hreflang.not_reciprocal | P2 |
没有 llms.txt llms.missing | P3 |
页面未列入 llms.txt llms.page_not_listed | P3 |
robots.txt 允许 GPTBot,但服务器将其拦截 robots.access_conflict | P2 |
robots.txt 禁止了 GPTBot robots.disallowed | P1–P3,取决于爬虫类型 |
robots.txt 是一个 HTML 页面 robots.invalid | P2 |
robots.txt 中没有 Content-Signal robots.no_content_signal | P3 |
无法获取 robots.txt robots.unreachable | P1 |
Article 数据不完整 schema.article_incomplete | P2 |
页面上有问题,但没有 FAQPage 标记 schema.faq_missing | P3 |
JSON-LD 块不是有效的 JSON schema.invalid_json | P2 |
未标明发布者 schema.no_publisher | P1 |
发布者没有 sameAs 链接 schema.no_sameas | P3 |
没有结构化数据(JSON-LD) schema.none | P2 |
应用标记中没有价格 schema.software_no_offers | P1 |
未找到 sitemap sitemap.none | P2 |
无法获取 sitemap(状态 403) sitemap.unreachable | P2 |
无法读取 sitemap sitemap.unreadable | P2 |
页面不在 sitemap 中 sitemap.url_missing | P2 |