Почему мой сайт не показывается в Perplexity?
Perplexity может показать и привести ссылкой только те страницы, которые PerplexityBot разрешено загружать и которые он действительно получает. Обычные причины: правило robots.txt, запрещающее PerplexityBot, файрвол или CDN, отвечающие ему кодом 403 или страницей-проверкой, и текст, который появляется только после выполнения JavaScript. Проверьте все три пункта, затем разрешите опубликованные Perplexity диапазоны IP-адресов.
Вы спрашиваете Perplexity о своём продукте, а он цитирует конкурента, сайт с обзорами или ветку форума, но не ваши страницы. Иногда причина в релевантности. Часто это техническая блокировка, которую можно найти за несколько минут. Perplexity документирует, какие агенты он использует, что делает каждый из них и откуда приходит их трафик, поэтому каждое звено цепочки поддаётся проверке: robots.txt, ответ вашего сервера и содержимое этого ответа.
На этой странице
- Как Perplexity находит и читает страницы
- Не блокирует ли ваш robots.txt PerplexityBot
- Не блокирует ли Perplexity ваш файрвол или CDN
- Как разрешить Perplexity по опубликованным диапазонам IP
- Может ли рендеринг на JavaScript помешать Perplexity прочитать страницу
- Что делать, если всё открыто, а сайт всё равно не появляется
Как Perplexity находит и читает страницы
В документации Perplexity описаны два агента. Задачи у них разные, и проблема с любым из них может не пустить вашу страницу в ответ.
PerplexityBotпредназначен для показа сайтов и ссылок на них в поисковой выдаче Perplexity. Perplexity рекомендует разрешить его в robots.txt, если вы хотите там появляться, и сообщает, что он не используется для сбора контента для базовых моделей ИИ.Perplexity-Userобслуживает действия пользователей. Когда человек задаёт вопрос, агент может зайти на страницу, чтобы помочь с ответом, и дать на неё ссылку. По словам Perplexity, он не используется для веб-краулинга и сбора данных для обучения.
На практике PerplexityBot определяет, знает ли Perplexity о ваших страницах ещё до того, как кто-то задал вопрос, а Perplexity-User определяет, сможет ли он открыть страницу вживую, когда вопрос этого требует. Если вы хотите, чтобы вас цитировали, оба должны получать ту же страницу, что и браузер.
Не блокирует ли ваш robots.txt PerplexityBot
Откройте https://yourdomain.com/robots.txt и найдите группу, в которой указан PerplexityBot. Если такой группы нет, краулер следует группе User-agent: *. По RFC 9309 сопоставление не зависит от регистра, а именованная группа полностью заменяет группу *, а не дополняет её.
Такая блокировка встречается часто. В нашем исследовании файлов robots.txt 1000 самых популярных доменов 86 из 518 сайтов, отдавших robots.txt (16,6%), запретили для PerplexityBot главную страницу. Это самая высокая доля среди всех проверенных нами поисковых AI-краулеров; OAI-SearchBot заблокирован на 58 сайтах (11,2%). Часть этих сайтов, возможно, хотела остановить обучение ИИ, но Perplexity сообщает, что PerplexityBot не краулер для обучения, поэтому его блокировка лишает вас поисковой видимости и не служит этой цели.
Настройка, которая пускает Perplexity и оставляет закрытой приватную область, выглядит так:
User-agent: PerplexityBot
Allow: /
Disallow: /account/
User-agent: *
Allow: /
Disallow: /account/
Sitemap: https://example.com/sitemap.xml
Проверьте и то, что сам файл отвечает корректно. Если robots.txt возвращает ошибку сервера, по RFC 9309 краулер должен считать, что закрыт весь сайт. Если по адресу robots.txt отдаётся HTML-страница со статусом 200, действующих правил в ней нет. Perplexity сообщает, что изменения могут учитываться до 24 часов.
Не блокирует ли Perplexity ваш файрвол или CDN
robots.txt — это просьба, а не контроль доступа. Что на самом деле вернётся в ответ, решает ваш файрвол, CDN или защита от ботов, и Perplexity они могут ответить кодом 403, 429 или страницей-проверкой, пока ваши собственные заходы из браузера выглядят нормально. В документации Perplexity сказано, что сайтам за межсетевым экраном веб-приложений (WAF) может потребоваться явно разрешить его ботов.
Проверьте это: запросите один и тот же URL как браузер и как каждый из агентов Perplexity, затем сравните статус и размер:
for UA in "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36" \
"Mozilla/5.0 (compatible; PerplexityBot/1.0; +https://perplexity.ai/perplexitybot)" \
"Mozilla/5.0 (compatible; Perplexity-User/1.0; +https://perplexity.ai/perplexity-user)"; do
curl -s -o /dev/null -w "%{http_code} %{size_download}\n" -A "$UA" https://example.com/page
done
Код 403, 429 или 503 только для агентов Perplexity, страница с заголовком Just a moment... или ответ 200 заметно меньшего размера, чем у браузера, указывают на файрвол. Этот тест идёт с вашего IP-адреса, а не с адресов Perplexity, поэтому он показывает, как ваши правила относятся к user agent; правила по IP для настоящего краулера всё равно могут работать иначе.
Если вы используете Cloudflare, учтите два момента. В документации Perplexity повторяется заявление самой Cloudflare о том, что Bot Fight Mode нельзя обойти пользовательскими правилами WAF, поэтому, если эта функция устраивает Perplexity проверку, разрешающее правило не поможет. А в августе 2025 года Cloudflare сообщила, что исключила Perplexity из списка проверенных ботов после наблюдений, которые описала как недекларируемый краулинг; Perplexity с этим описанием не согласилась. Поэтому правила, пропускающие только проверенных ботов, могут не охватывать Perplexity. Проверяйте текущий статус в своей панели управления, а не предполагайте.
Как разрешить Perplexity по опубликованным диапазонам IP
Запрос, который называется PerplexityBot, может отправить кто угодно, поэтому разрешающее правило, сверяющее только user agent, пропустит и подражателей. Perplexity публикует диапазоны адресов обоих агентов и рекомендует сверять user agent и IP-адрес вместе:
curl -s https://www.perplexity.ai/perplexitybot.json | jq -r '.prefixes[] | .ipv4Prefix // .ipv6Prefix'
curl -s https://www.perplexity.ai/perplexity-user.json | jq -r '.prefixes[] | .ipv4Prefix // .ipv6Prefix'
Perplexity сообщает, что эти списки регулярно обновляются, и советует автоматизировать обновление правил WAF. Поместите разрешающее правило выше любых правил, которые блокируют запросы или требуют проверки: первым среди пользовательских правил в Cloudflare или с меньшим номером приоритета в AWS WAF. Затем следите за логами, потому что изменения файрвола могут распространяться не сразу.
Может ли рендеринг на JavaScript помешать Perplexity прочитать страницу
Может. В документации Perplexity о краулерах не сказано, выполняют ли его агенты JavaScript, поэтому надёжнее исходить из того, что нужный краулеру текст должен быть в HTML, который отдаёт сервер. Страницы, целиком собираемые в браузере, например одностраничные приложения без серверного рендеринга, могут приходить пустой оболочкой с индикатором загрузки.
Быстрая проверка: загрузите страницу через curl и найдите в выводе предложение из основного содержимого. Если его там нет, текст добавляется скриптами. Серверный рендеринг, статическая генерация или пререндеринг для краулеров решают это сразу для всех AI-краулеров, а не только для Perplexity.
Что делать, если всё открыто, а сайт всё равно не появляется
Читаемость — необходимое условие, а не гарантия. Perplexity не публикует, как он выбирает источники для цитирования, поэтому страница, которую могут прочитать все агенты, всё равно может проиграть страницам, отвечающим на вопрос прямее. Вы можете добиться того, чтобы ничто техническое не мешало: понятный заголовок страницы, ответ, данный в начале текста, и точные факты, совпадающие с тем, что вы говорите в других местах.
Помните и о том, чего robots.txt не охватывает. Perplexity сообщает, что Perplexity-User в целом игнорирует robots.txt, поскольку загрузку запросил пользователь. Поэтому правило для Perplexity-User не надёжный способ заблокировать живые визиты, а robots.txt, который его разрешает, не доказывает, что он проходит через ваш файрвол.
AISeeWhy запрашивает вашу страницу как PerplexityBot, Perplexity-User и ещё 12 краулеров, а также как обычный браузер, применяет ваши правила robots.txt для каждого из них, распознаёт страницы-проверки и показывает, какая часть текста приходит без JavaScript, так что вы видите, какое звено цепочки подводит.
Частые вопросы
Обучает ли Perplexity свои модели на моём контенте?
Perplexity сообщает, что PerplexityBot не используется для сбора контента для базовых моделей ИИ, а Perplexity-User не собирает контент для обучения. Поэтому запрет для PerplexityBot не служит отказом от обучения; он лишь снижает вашу видимость в поисковой выдаче Perplexity.
Через какое время после исправления robots.txt Perplexity это заметит?
Perplexity сообщает, что его системам может потребоваться до 24 часов, чтобы учесть изменения robots.txt. Изменения файрвола вступают в силу, когда их применяет ваш провайдер, но прежде чем судить о результате, дайте краулеру время вернуться.
Можно ли заблокировать Perplexity-User через robots.txt?
Ненадёжно. Perplexity сообщает, что этот агент в целом игнорирует robots.txt, поскольку загрузку запросил пользователь. Если его нужно остановить, надёжный способ — правило файрвола по опубликованным диапазонам IP.
Достаточно ли проверки user agent, чтобы опознать трафик Perplexity?
Нет. User agent легко подделать. Сравните IP-адрес источника с диапазонами, которые Perplexity публикует в perplexitybot.json и perplexity-user.json, и в правилах файрвола сверяйте и user agent, и IP.
Источники
- Perplexity: краулеры Perplexity
- RFC 9309: Robots Exclusion Protocol
- Cloudflare: Bot Fight Mode
- Cloudflare: Perplexity использует скрытых, недекларируемых краулеров, чтобы обходить запреты сайтов на краулинг
- Perplexity: агенты или боты? Разбираемся с ИИ в открытом вебе
- AISeeWhy: отчёт о доступе AI-краулеров, 2026-11