Убирает ли блокировка Google-Extended сайт из AI Overviews и AI Mode?
Нет, согласно документации Google. Google-Extended управляет использованием вашего контента для обучения моделей Gemini и для привязки к источникам в Gemini Apps и Vertex AI. AI Overviews и AI Mode используют страницы, которые Googlebot загружает для Поиска. Чтобы ограничить их, Google указывает на элементы управления сниппетами, noindex и настройку Search Console, исключающую сайт из этих функций.
Google-Extended часто описывают как способ не пустить свой сайт в ИИ Google. Это верно лишь отчасти, и разрыв порождает путаницу в обе стороны: одни сайты блокируют его, рассчитывая исчезнуть из AI Overviews, и не видят изменений, другие обходят его стороной из опасения потерять поисковый трафик. Собственная документация Google довольно точно описывает, что делает каждый элемент управления. Ниже — что в ней сказано, где страницы не вполне согласованы и что проверить на своём сайте.
На этой странице
Что такое Google-Extended
Google описывает Google-Extended как самостоятельный токен продукта, который издатели могут использовать в robots.txt. У него нет ни собственного краулера, ни собственной строки user agent; страницы загружают существующие краулеры Google, а токен управляет тем, как этот контент можно использовать.
Согласно документации Google о краулерах, он охватывает два вида использования: обучение будущих поколений моделей Gemini, на которых работают Gemini Apps и Vertex AI API для Gemini, и привязку к источникам (grounding), то есть передачу модели контента из индекса Google Поиска в момент запроса, в Gemini Apps и в Grounding with Google Search в Vertex AI. На той же странице сказано, что Google-Extended не влияет на включение сайта в Google Поиск и не используется как сигнал ранжирования.
User-agent: Google-Extended
Disallow: /
Влияет ли блокировка Google-Extended на AI Overviews или AI Mode
В документации Google AI Overviews и AI Mode не указаны среди видов использования, которыми управляет Google-Extended. В руководстве Google по AI-функциям сказано, что страница может появиться в виде ссылки-источника в AI Overviews или AI Mode, если она проиндексирована и может показываться в Google Поиске со сниппетом, без дополнительных технических требований. Управлять краулингом в Поиске, по этому руководству, нужно правилами robots.txt для Googlebot, а не для Google-Extended.
Поэтому, по описанию Google, страница, которую Googlebot может загружать и индексировать и для которой может показываться сниппет, при запрете Google-Extended всё равно может появляться в AI Overviews и AI Mode.
Есть один нюанс, о котором стоит сказать прямо. На странице справки Search Console о новом элементе управления ИИ сказано, что для ограничения обучения моделей, генерирующих ответы в генеративных AI-функциях Поиска, нужно использовать Google-Extended. В документации Google о краулерах для этого токена упомянуты только Gemini Apps и Vertex AI. Две страницы описывают область действия по-разному. Ни на одной не сказано, что блокировка токена убирает сайт из AI Overviews.
Что определяет, появитесь ли вы в AI Overviews и AI Mode
Google описывает такие элементы управления, от самого узкого до самого широкого:
nosnippet: Google сообщает, что это правило также не позволяет использовать контент как прямой источник для AI Overviews и AI Mode. Оно также убирает обычный текстовый сниппет в результатах поиска.max-snippet: ограничение длины также действует на то, какой объём контента можно использовать как прямой источник для AI Overviews и AI Mode.data-nosnippet: исключает отмеченные части страницы из сниппетов. В документации Google о нём AI Overviews и AI Mode отдельно не упомянуты.- Настройка Search generative AI в Search Console: управление для всего сайта с вариантами Include, Exclude и, для дочерних ресурсов, Inherit. Исключённый контент не появляется в AI Overviews, AI Mode и генеративных AI-функциях в Discover и не получает от них трафика и показов. Google сообщает, что с 31 августа 2026 года открыла это управление для всех сайтов по всему миру, что исключение обычно вступает в силу в течение 1–2 дней и что оно не служит сигналом ранжирования или включения для остального Поиска.
noindexили запрет дляGooglebot: они полностью убирают страницу из Google Поиска, а значит, и из AI-функций.
Google также сообщает, что для появления в AI Overviews или AI Mode не требуется ни специальной разметки schema.org, ни другой оптимизации.
Что будет, если заблокировать Googlebot
Блокировка Googlebot — самый грубый вариант. Google сообщает, что настройки краулинга для него влияют на Google Поиск, включая Discover и все функции Поиска. Сайт, запрещающий Googlebot, теряет обычную поисковую выдачу вместе с цитированием в AI Overviews и AI Mode.
Так поступают немногие крупные сайты. В нашем исследовании файлов robots.txt 1000 самых популярных доменов 94 из 518 сайтов с robots.txt (18,1%) запретили главную страницу для Google-Extended, а для Googlebot — только 14 (2,7%). Исследование охватывает правила robots.txt только для главной страницы и не может показать, чего эти сайты ждали от правила.
Как проверить, что Google видит на вашем сайте
Если ваших страниц нет в AI Overviews или AI Mode, пройдите ту же цепочку, что и при обычных результатах поиска:
- Индексация: в инструменте проверки URL в Search Console убедитесь, что страница проиндексирована и
Googlebotсмог её загрузить. - Сниппеты: проверьте метатег robots и заголовок
X-Robots-Tagнаnosnippet, малое значениеmax-snippetилиnoindex. - Настройка Search generative AI в Search Console: проверьте её для ресурса уровня домена и помните, что дочерние ресурсы по умолчанию наследуют её от родительского.
- robots.txt: убедитесь, что группа
Googlebotили, если группыGooglebotнет, группа*разрешает страницу. ГруппаGoogle-Extendedэтого не меняет. - Файрвол: убедитесь, что ваша CDN или защита от ботов не блокирует краулеров Google и не требует от них проверки. Прежде чем разрешать Googlebot, проверьте его обратным DNS или по опубликованным диапазонам IP Google.
- Рендеринг: Google выполняет JavaScript, но текст в исходном HTML всё равно самый надёжный вариант, и именно он нужен большинству других AI-краулеров.
Даже если все проверки пройдены, Google сам решает, какие страницы показывать по каждому запросу. Право на показ — не то же самое, что показ.
Где смотреть трафик из AI Overviews
Google сообщает, что трафик от сайтов, появляющихся в AI-функциях, входит в общий поисковый трафик в отчёте об эффективности Search Console. Вместе с элементами управления 2026 года Google объявила и аналитику генеративного ИИ в Search Console, которая показывает показы и то, какие страницы появляются в ответах ИИ, и сообщила, что появятся и другие показатели. Google-Extended в логах сервера увидеть нельзя, потому что у него нет собственного user agent.
AISeeWhy проверяет ваш robots.txt и для Googlebot, и для Google-Extended, проверяет, получает ли краулер Google ту же страницу, что и браузер, и сообщает о правилах nosnippet и noindex, которые не дадут странице попасть в AI Overviews и AI Mode.
Частые вопросы
Навредит ли блокировка Google-Extended моим позициям в Google?
Google сообщает, что Google-Extended не влияет на включение в Google Поиск и не используется как сигнал ранжирования.
Как убрать сайт из AI Overviews, но оставить в Google Поиске?
В Search Console есть настройка Search generative AI, которая исключает сайт из AI Overviews, AI Mode и генеративных AI-функций в Discover, не затрагивая остальной Поиск. nosnippet и max-snippet тоже ограничивают использование как прямого источника, но они меняют и обычные сниппеты.
Останавливает ли настройка ИИ в Search Console обучение ИИ?
Нет. В справке Google сказано, что настройка не охватывает обучение, и для этого указан Google-Extended.
Нужна ли особая разметка, чтобы появляться в AI Overviews?
Google сообщает, что никаких дополнительных требований и особых структурированных данных schema.org не нужно. Страница должна быть проиндексирована и иметь право на показ сниппета.
Можно ли заблокировать Google-Extended в файрволе как краулер?
Нет. У него нет собственного user agent, поэтому файрвол его не видит. Он работает только как токен robots.txt. Блокировка настоящих краулеров Google на уровне файрвола затронет Поиск.
Источники
- Google: распространённые краулеры, включая Google-Extended
- Google Search Central: AI-функции и ваш сайт
- Google Search Central: метатег robots, data-nosnippet и X-Robots-Tag
- Справка Google Search Console: управление генеративным ИИ в Поиске
- Google: новые возможности, управление и аналитика для владельцев сайтов
- Google: проверка краулеров и загрузчиков Google
- Google Search Central: основы JavaScript SEO
- AISeeWhy: отчёт о доступе AI-краулеров, 2026-11