Что такое llms.txt и стоит ли его добавлять

Опубликовано

Короткий ответ

llms.txt — предлагаемый Markdown-файл по адресу /llms.txt, который даёт AI-инструментам краткое описание сайта и список ссылок на самые полезные страницы. Это инициатива сообщества, а не стандарт, и крупные AI-поисковые краулеры не заявляют, что его используют. Добавить его недорого, но он не заменяет доступный для краулеров HTML.

llms.txt привлекает много внимания, его часто подают как robots.txt для AI. Но это другое: robots.txt говорит, что краулерам можно загружать, а llms.txt — путеводитель, который указывает AI-инструментам, что стоит читать. Здесь разобрано, что говорит предложение, что известно о его использовании и как составить такой файл.

На этой странице
  1. Откуда взялся llms.txt
  2. Что входит в файл llms.txt
  3. Кто на самом деле читает llms.txt сегодня
  4. Стоит ли добавлять его всё равно
  5. Как написать хороший llms.txt
  6. Как AISeeWhy относится к llms.txt

Откуда взялся llms.txt

Файл /llms.txt предложил Джереми Ховард (Jeremy Howard) в сентябре 2024 года, и предложение поддерживается на llmstxt.org. Его цель — стандартизировать один файл, который помогает языковым моделям и агентам работать с сайтом в момент ответа, например когда ассистенту для кода нужна документация библиотеки, а не для обучения.

Идея отвечает на реальную проблему. На веб-страницах есть навигация, скрипты, баннеры и вёрстка. Короткий отобранный файл Markdown со ссылками на чистые версии ключевых страниц модели проще использовать в ограниченном контекстном окне.

Что входит в файл llms.txt

Файл написан на Markdown в строгом порядке. Обязателен только первый элемент:

# Example Co

> Example Co makes scheduling software for clinics. This file lists our product, pricing and help pages.

## Product

- [Features](https://example.com/features): What the app does
- [Pricing](https://example.com/pricing): Plans and prices in USD

## Help

- [Getting started](https://example.com/help/start): Setup in 10 minutes

## Optional

- [Changelog](https://example.com/changelog)

Предложение также советует отдавать Markdown-версии страниц по тому же URL с добавлением .md, например page.html.md, чтобы инструменты могли получать чистый текст.

Кто на самом деле читает llms.txt сегодня

Здесь нужно быть осторожным. Сайт llmstxt.org пишет, что файлы чаще всего используют для документации к программному обеспечению, где им следуют агенты для кода. OpenAI, Anthropic, Google и Perplexity не называют llms.txt среди сигналов, которые используют их поисковые краулеры, в изученной нами документации по краулерам.

Google заходит дальше, говоря о собственных функциях Поиска. В его рекомендациях по AI Overviews и AI Mode сказано, что для появления в них не нужно создавать новые машиночитаемые файлы, текстовые файлы для AI или разметку. Для Google Поиска у llms.txt нет заявленной роли.

Так что честный ответ такой: некоторые AI-инструменты, в основном ассистенты для кода и агенты, которых направили на сайт, могут его читать. Краулеры, которые решают, процитирует ли AI-поиск вашу страницу, работают с вашим HTML.

Проверить, читает ли ваш файл хоть кто-то, можно самому. Поищите в логах сервера или CDN запросы к /llms.txt и посмотрите на user agent. Если за несколько недель запросов нет, это скажет о пользе файла для вашего сайта больше, чем любые общие утверждения.

Стоит ли добавлять его всё равно

Для большинства сайтов это недорогое дополнение с невысокой отдачей. Занимает несколько минут, не навредит видимости в поиске и может пригодиться агентам, которые его ищут. Больше всего пользы он даёт для документации, инструментов для разработчиков и продуктов с большим объёмом справочных материалов.

Чего он не может, так это исправить проблемы с доступом. Если файрвол блокирует AI-краулеров, ваш robots.txt их запрещает или контент появляется только после выполнения JavaScript, llms.txt ничего не изменит. Сначала исправьте это.

Как написать хороший llms.txt

Как AISeeWhy относится к llms.txt

AISeeWhy проверяет, есть ли на сайте llms.txt и указана ли в нём проверяемая страница. Поскольку AI-краулеры пока редко его читают, отсутствие файла — находка уровня P3, самого низкого приоритета, а в отчёт входит черновик, собранный из заголовка, описания страницы и карты сайта, который можно отредактировать и опубликовать.

Частые вопросы

Является ли llms.txt официальным стандартом?

Нет. Это инициатива сообщества, опубликованная на llmstxt.org. Это не стандарт IETF или W3C, и ни один AI-вендор не обязан его читать.

Блокирует ли llms.txt обучение AI?

Нет. Это список ссылок, а не набор разрешений. Чтобы отказаться от обучения, используйте токены обучения в robots.txt, такие как GPTBot, ClaudeBot или Google-Extended.

Нужен ли llms.txt, чтобы попасть в Google AI Overviews?

Нет. Google сообщает, что для появления в AI Overviews или AI Mode не нужны текстовые файлы для AI или специальная разметка. Страница должна быть проиндексирована и иметь право на показ сниппета.

Может ли llms.txt лежать в подпапке?

Нынешняя версия предложения допускает файл по вложенному пути, например /docs/llms.txt, который охватывает страницы под этим путём. Большинству сайтов достаточно одного файла в корне.

Источники

Другие статьи