Apa itu llms.txt, dan apakah layak ditambahkan?
llms.txt adalah file Markdown usulan di /llms.txt yang memberi alat AI ringkasan singkat situs Anda dan daftar tautan ke halaman-halaman yang paling berguna. Ini usulan komunitas, bukan standar, dan crawler pencarian AI utama tidak menyatakan memakainya. Menambahkannya murah, tetapi tidak menggantikan HTML yang bisa dirayapi.
llms.txt mendapat banyak perhatian, sering digambarkan sebagai robots.txt-nya AI. Padahal fungsinya berbeda: robots.txt menyatakan apa yang boleh diambil crawler, sedangkan llms.txt adalah panduan membaca yang mengarahkan alat AI ke konten yang layak dibaca. Berikut isi usulan tersebut, apa yang diketahui tentang pemakaiannya, dan cara menulisnya.
Di halaman ini
Dari mana llms.txt berasal?
Jeremy Howard mengusulkan file /llms.txt pada September 2024, dan usulannya dikelola di llmstxt.org. Tujuannya menstandarkan satu file yang membantu model bahasa dan agen memakai sebuah situs saat inferensi, misalnya ketika asisten coding memerlukan dokumentasi sebuah library, bukan untuk pelatihan.
Gagasan ini menjawab masalah yang nyata. Halaman web membawa navigasi, skrip, banner, dan tata letak. File Markdown yang ringkas dan terkurasi dengan tautan ke versi bersih halaman-halaman kunci lebih mudah diolah model di dalam jendela konteks yang terbatas.
Apa saja isi file llms.txt?
File ini berupa Markdown dengan urutan tetap. Hanya elemen pertama yang wajib:
- Satu H1 berisi nama situs atau proyek (wajib).
- Blockquote berisi ringkasan singkat tentang situs tersebut.
- Paragraf atau daftar opsional dengan detail tambahan, tanpa judul.
- Bagian H2, masing-masing berisi daftar tautan Markdown dalam bentuk
[name](url), boleh diikuti titik dua dan catatan. - Bagian opsional bernama
Optionaluntuk tautan sekunder yang bisa dilewati alat ketika membutuhkan konteks lebih sedikit.
# Example Co
> Example Co makes scheduling software for clinics. This file lists our product, pricing and help pages.
## Product
- [Features](https://example.com/features): What the app does
- [Pricing](https://example.com/pricing): Plans and prices in USD
## Help
- [Getting started](https://example.com/help/start): Setup in 10 minutes
## Optional
- [Changelog](https://example.com/changelog)
Usulan ini juga menyarankan menyediakan versi Markdown dari halaman pada URL yang sama dengan tambahan .md, misalnya page.html.md, agar alat bisa mengambil teks yang bersih.
Siapa yang benar-benar membaca llms.txt saat ini?
Di sinilah perlu berhati-hati. Situs llmstxt.org menyebut file ini paling banyak dipakai untuk dokumentasi perangkat lunak, yang diikuti oleh agen coding. OpenAI, Anthropic, Google, dan Perplexity tidak mencantumkan llms.txt di antara sinyal yang dipakai crawler pencarian mereka dalam dokumentasi crawler yang kami tinjau.
Google bahkan lebih tegas untuk fitur Search miliknya. Panduannya tentang AI Overviews dan AI Mode menyatakan Anda tidak perlu membuat file yang dapat dibaca mesin, file teks AI, atau markup baru agar muncul di dalamnya. Untuk Google Search, llms.txt tidak punya peran yang dinyatakan.
Jadi jawaban jujurnya: sebagian alat AI, terutama asisten coding dan agen yang diarahkan ke suatu situs, mungkin membacanya. Crawler yang menentukan apakah pencarian AI mengutip halaman Anda bekerja dari HTML Anda.
Anda bisa memeriksa sendiri apakah ada yang membaca file Anda. Cari permintaan ke /llms.txt di log server atau CDN Anda dan lihat user agent-nya. Jika tidak ada permintaan selama beberapa minggu, itu lebih menjelaskan nilainya bagi situs Anda daripada klaim umum mana pun.
Haruskah saya tetap menambahkannya?
Bagi sebagian besar situs, ini tambahan berbiaya rendah dengan kepastian rendah. Pembuatannya hanya beberapa menit, tidak merugikan visibilitas pencarian Anda, dan mungkin membantu agen yang mencarinya. Paling berguna untuk dokumentasi, alat developer, dan produk dengan banyak materi referensi.
Yang tidak bisa dilakukannya adalah memperbaiki masalah akses. Jika firewall memblokir crawler AI, robots.txt Anda melarang mereka, atau konten baru muncul setelah JavaScript berjalan, llms.txt tidak mengubah apa pun. Perbaiki hal-hal itu lebih dulu.
Bagaimana menulis llms.txt yang baik?
- Letakkan di
https://yourdomain.com/llms.txtdan sajikan sebagai teks biasa dengan status 200, bukan halaman HTML. - Tulis ringkasannya seperti Anda menjelaskan situs itu kepada rekan baru dalam dua kalimat: apa itu, untuk siapa.
- Cantumkan halaman yang menjawab pertanyaan nyata: produk, harga, dokumentasi, kebijakan. Lewati halaman tag dan arsip.
- Gunakan URL absolut dan jaga daftarnya cukup pendek agar tetap berguna; beberapa lusin tautan sudah cukup untuk kebanyakan situs.
- Jaga agar tetap terbaru. File yang menautkan ke halaman yang sudah dihapus lebih buruk daripada tidak ada file.
- Jangan memakainya untuk menyatakan izin. Aturan akses ada di robots.txt.
Bagaimana AISeeWhy memperlakukan llms.txt?
AISeeWhy memeriksa apakah situs Anda punya llms.txt dan apakah halaman yang diaudit tercantum di dalamnya. Karena crawler AI jarang membacanya saat ini, file yang tidak ada menjadi temuan P3, prioritas terendah, dan laporan menyertakan draf yang dibuat dari judul halaman, deskripsi, dan sitemap Anda yang bisa Anda edit dan publikasikan.
Pertanyaan yang sering diajukan
Apakah llms.txt standar resmi?
Bukan. Ini usulan komunitas yang dipublikasikan di llmstxt.org. Ini bukan standar IETF atau W3C, dan tidak ada vendor AI yang wajib membacanya.
Apakah llms.txt memblokir pelatihan AI?
Tidak. File ini daftar tautan, bukan kumpulan izin. Untuk menolak pelatihan, gunakan token pelatihan di robots.txt, seperti GPTBot, ClaudeBot, atau Google-Extended.
Apakah saya perlu llms.txt agar muncul di Google AI Overviews?
Tidak. Google menyatakan Anda tidak memerlukan file teks AI atau markup khusus untuk muncul di AI Overviews atau AI Mode. Halaman harus terindeks dan memenuhi syarat untuk menampilkan snippet.
Bisakah llms.txt berada di subfolder?
Versi usulan saat ini mengizinkan file di subpath, seperti /docs/llms.txt, yang mencakup halaman di bawah path tersebut. Kebanyakan situs hanya membutuhkan satu file di root.
Sumber
- llmstxt.org: The /llms.txt file
- Google Search Central: AI features and your website
- OpenAI: Overview of OpenAI crawlers