Убирает ли блокировка Google-Extended сайт из AI Overviews и AI Mode?

Опубликовано

Короткий ответ

Нет, согласно документации Google. Google-Extended управляет использованием вашего контента для обучения моделей Gemini и для привязки к источникам в Gemini Apps и Vertex AI. AI Overviews и AI Mode используют страницы, которые Googlebot загружает для Поиска. Чтобы ограничить их, Google указывает на элементы управления сниппетами, noindex и настройку Search Console, исключающую сайт из этих функций.

Google-Extended часто описывают как способ не пустить свой сайт в ИИ Google. Это верно лишь отчасти, и разрыв порождает путаницу в обе стороны: одни сайты блокируют его, рассчитывая исчезнуть из AI Overviews, и не видят изменений, другие обходят его стороной из опасения потерять поисковый трафик. Собственная документация Google довольно точно описывает, что делает каждый элемент управления. Ниже — что в ней сказано, где страницы не вполне согласованы и что проверить на своём сайте.

На этой странице
  1. Что такое Google-Extended
  2. Влияет ли блокировка Google-Extended на AI Overviews или AI Mode
  3. Что определяет, появитесь ли вы в AI Overviews и AI Mode
  4. Что будет, если заблокировать Googlebot
  5. Как проверить, что Google видит на вашем сайте
  6. Где смотреть трафик из AI Overviews

Что такое Google-Extended

Google описывает Google-Extended как самостоятельный токен продукта, который издатели могут использовать в robots.txt. У него нет ни собственного краулера, ни собственной строки user agent; страницы загружают существующие краулеры Google, а токен управляет тем, как этот контент можно использовать.

Согласно документации Google о краулерах, он охватывает два вида использования: обучение будущих поколений моделей Gemini, на которых работают Gemini Apps и Vertex AI API для Gemini, и привязку к источникам (grounding), то есть передачу модели контента из индекса Google Поиска в момент запроса, в Gemini Apps и в Grounding with Google Search в Vertex AI. На той же странице сказано, что Google-Extended не влияет на включение сайта в Google Поиск и не используется как сигнал ранжирования.

User-agent: Google-Extended
Disallow: /

Влияет ли блокировка Google-Extended на AI Overviews или AI Mode

В документации Google AI Overviews и AI Mode не указаны среди видов использования, которыми управляет Google-Extended. В руководстве Google по AI-функциям сказано, что страница может появиться в виде ссылки-источника в AI Overviews или AI Mode, если она проиндексирована и может показываться в Google Поиске со сниппетом, без дополнительных технических требований. Управлять краулингом в Поиске, по этому руководству, нужно правилами robots.txt для Googlebot, а не для Google-Extended.

Поэтому, по описанию Google, страница, которую Googlebot может загружать и индексировать и для которой может показываться сниппет, при запрете Google-Extended всё равно может появляться в AI Overviews и AI Mode.

Есть один нюанс, о котором стоит сказать прямо. На странице справки Search Console о новом элементе управления ИИ сказано, что для ограничения обучения моделей, генерирующих ответы в генеративных AI-функциях Поиска, нужно использовать Google-Extended. В документации Google о краулерах для этого токена упомянуты только Gemini Apps и Vertex AI. Две страницы описывают область действия по-разному. Ни на одной не сказано, что блокировка токена убирает сайт из AI Overviews.

Что определяет, появитесь ли вы в AI Overviews и AI Mode

Google описывает такие элементы управления, от самого узкого до самого широкого:

Google также сообщает, что для появления в AI Overviews или AI Mode не требуется ни специальной разметки schema.org, ни другой оптимизации.

Что будет, если заблокировать Googlebot

Блокировка Googlebot — самый грубый вариант. Google сообщает, что настройки краулинга для него влияют на Google Поиск, включая Discover и все функции Поиска. Сайт, запрещающий Googlebot, теряет обычную поисковую выдачу вместе с цитированием в AI Overviews и AI Mode.

Так поступают немногие крупные сайты. В нашем исследовании файлов robots.txt 1000 самых популярных доменов 94 из 518 сайтов с robots.txt (18,1%) запретили главную страницу для Google-Extended, а для Googlebot — только 14 (2,7%). Исследование охватывает правила robots.txt только для главной страницы и не может показать, чего эти сайты ждали от правила.

Как проверить, что Google видит на вашем сайте

Если ваших страниц нет в AI Overviews или AI Mode, пройдите ту же цепочку, что и при обычных результатах поиска:

Даже если все проверки пройдены, Google сам решает, какие страницы показывать по каждому запросу. Право на показ — не то же самое, что показ.

Где смотреть трафик из AI Overviews

Google сообщает, что трафик от сайтов, появляющихся в AI-функциях, входит в общий поисковый трафик в отчёте об эффективности Search Console. Вместе с элементами управления 2026 года Google объявила и аналитику генеративного ИИ в Search Console, которая показывает показы и то, какие страницы появляются в ответах ИИ, и сообщила, что появятся и другие показатели. Google-Extended в логах сервера увидеть нельзя, потому что у него нет собственного user agent.

AISeeWhy проверяет ваш robots.txt и для Googlebot, и для Google-Extended, проверяет, получает ли краулер Google ту же страницу, что и браузер, и сообщает о правилах nosnippet и noindex, которые не дадут странице попасть в AI Overviews и AI Mode.

Частые вопросы

Навредит ли блокировка Google-Extended моим позициям в Google?

Google сообщает, что Google-Extended не влияет на включение в Google Поиск и не используется как сигнал ранжирования.

Как убрать сайт из AI Overviews, но оставить в Google Поиске?

В Search Console есть настройка Search generative AI, которая исключает сайт из AI Overviews, AI Mode и генеративных AI-функций в Discover, не затрагивая остальной Поиск. nosnippet и max-snippet тоже ограничивают использование как прямого источника, но они меняют и обычные сниппеты.

Останавливает ли настройка ИИ в Search Console обучение ИИ?

Нет. В справке Google сказано, что настройка не охватывает обучение, и для этого указан Google-Extended.

Нужна ли особая разметка, чтобы появляться в AI Overviews?

Google сообщает, что никаких дополнительных требований и особых структурированных данных schema.org не нужно. Страница должна быть проиндексирована и иметь право на показ сниппета.

Можно ли заблокировать Google-Extended в файрволе как краулер?

Нет. У него нет собственного user agent, поэтому файрвол его не видит. Он работает только как токен robots.txt. Блокировка настоящих краулеров Google на уровне файрвола затронет Поиск.

Источники

Другие статьи