Mengapa situs saya tidak muncul di Perplexity?

Dipublikasikan

Jawaban singkat

Perplexity hanya bisa menampilkan dan menautkan halaman yang boleh di-crawl oleh PerplexityBot dan benar-benar diterimanya. Penyebab yang umum: aturan robots.txt yang melarang PerplexityBot, firewall atau CDN yang membalasnya dengan 403 atau halaman tantangan, dan teks yang baru muncul setelah JavaScript dijalankan. Periksa ketiganya, lalu izinkan rentang IP yang dipublikasikan Perplexity.

Anda bertanya ke Perplexity tentang produk Anda, lalu yang dikutip adalah pesaing, situs ulasan, atau utas forum, bukan halaman Anda sendiri. Kadang itu soal relevansi. Sering kali penyebabnya hambatan teknis yang bisa ditemukan dalam beberapa menit. Perplexity mendokumentasikan agen mana yang dipakainya, fungsi masing-masing, dan dari mana lalu lintasnya berasal, sehingga setiap mata rantainya bisa diperiksa: robots.txt, respons yang dikirim server Anda, dan isi respons itu.

Di halaman ini
  1. Bagaimana Perplexity menemukan dan membaca halaman?
  2. Apakah robots.txt Anda memblokir PerplexityBot?
  3. Apakah firewall atau CDN Anda memblokir Perplexity?
  4. Bagaimana cara mengizinkan Perplexity berdasarkan rentang IP yang dipublikasikannya?
  5. Bisakah rendering JavaScript membuat Perplexity tidak dapat membaca halaman?
  6. Bagaimana jika semuanya sudah terbuka tetapi situs saya tetap tidak muncul?

Bagaimana Perplexity menemukan dan membaca halaman?

Perplexity mendokumentasikan dua agen. Tugas keduanya berbeda, dan masalah pada salah satunya bisa membuat halaman Anda tidak muncul di jawaban.

Dalam praktiknya, PerplexityBot menentukan apakah Perplexity mengetahui halaman Anda sebelum ada yang bertanya, dan Perplexity-User menentukan apakah ia bisa membuka halaman secara langsung saat sebuah pertanyaan membutuhkannya. Jika Anda ingin dikutip, keduanya harus menerima halaman yang sama dengan yang diterima browser.

Apakah robots.txt Anda memblokir PerplexityBot?

Buka https://yourdomain.com/robots.txt dan cari grup yang menyebut PerplexityBot. Jika tidak ada, crawler mengikuti grup User-agent: *. Menurut RFC 9309, pencocokan tidak membedakan huruf besar dan kecil, dan grup yang disebut secara spesifik menggantikan grup * sepenuhnya, bukan menambahinya.

Pemblokiran ini umum terjadi. Dalam studi kami atas file robots.txt dari 1.000 domain terpopuler, 86 dari 518 situs yang menyajikan robots.txt (16,6%) melarang halaman beranda untuk PerplexityBot. Itu proporsi tertinggi di antara crawler pencarian AI yang kami uji; OAI-SearchBot diblokir di 58 situs (11,2%). Sebagian situs ini mungkin bermaksud menghentikan pelatihan AI, tetapi Perplexity menyatakan PerplexityBot bukan crawler pelatihan, sehingga memblokirnya mengorbankan visibilitas pencarian tanpa memenuhi tujuan itu.

Pengaturan yang mengizinkan Perplexity dan tetap menutup area privat terlihat seperti ini:

User-agent: PerplexityBot
Allow: /
Disallow: /account/

User-agent: *
Allow: /
Disallow: /account/

Sitemap: https://example.com/sitemap.xml

Periksa juga apakah file itu sendiri merespons dengan benar. Jika robots.txt mengembalikan error server, RFC 9309 menyatakan crawler harus menganggap seluruh situs dilarang. Alamat robots.txt yang mengembalikan halaman HTML dengan status 200 tidak berisi aturan yang valid. Perplexity menyebut perubahan bisa memerlukan hingga 24 jam untuk tercermin.

Apakah firewall atau CDN Anda memblokir Perplexity?

robots.txt adalah permintaan, bukan kontrol akses. Yang benar-benar menentukan respons adalah firewall, CDN, atau perlindungan bot Anda, dan mereka bisa membalas Perplexity dengan 403, 429, atau halaman tantangan sementara kunjungan browser Anda sendiri tampak normal. Dokumentasi Perplexity menyebut bahwa situs di balik web application firewall mungkin perlu mengizinkan bot-nya secara eksplisit.

Ujilah dengan meminta URL yang sama sebagai browser dan sebagai masing-masing agen Perplexity, lalu bandingkan status dan ukurannya:

for UA in "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36" \
          "Mozilla/5.0 (compatible; PerplexityBot/1.0; +https://perplexity.ai/perplexitybot)" \
          "Mozilla/5.0 (compatible; Perplexity-User/1.0; +https://perplexity.ai/perplexity-user)"; do
  curl -s -o /dev/null -w "%{http_code} %{size_download}\n" -A "$UA" https://example.com/page
done

Status 403, 429, atau 503 hanya untuk agen Perplexity, halaman berjudul Just a moment..., atau respons 200 yang jauh lebih kecil daripada milik browser, semuanya menunjuk ke firewall. Uji ini berasal dari alamat IP Anda, bukan dari Perplexity, jadi yang terlihat adalah perlakuan aturan Anda terhadap user agent; aturan berbasis IP masih bisa berbeda untuk crawler yang sebenarnya.

Jika Anda memakai Cloudflare, perhatikan dua hal. Dokumentasi Perplexity mengulang pernyataan Cloudflare sendiri bahwa Bot Fight Mode tidak bisa dilewati dengan aturan kustom WAF, sehingga jika fitur itu menantang Perplexity, aturan izin tidak akan membantu. Lalu pada Agustus 2025 Cloudflare menyatakan telah mengeluarkan Perplexity dari daftar bot terverifikasinya setelah mengamati apa yang disebutnya crawling tanpa deklarasi; Perplexity membantah penjelasan itu. Aturan yang hanya meloloskan bot terverifikasi karena itu mungkin tidak mencakup Perplexity. Periksa status terbarunya di dasbor Anda, jangan berasumsi.

Bagaimana cara mengizinkan Perplexity berdasarkan rentang IP yang dipublikasikannya?

Siapa pun bisa mengirim permintaan yang mengaku sebagai PerplexityBot, sehingga aturan izin yang hanya mencocokkan user agent juga meloloskan peniru. Perplexity mempublikasikan rentang alamat kedua agennya dan menyarankan agar user agent dan alamat IP dicocokkan bersamaan:

curl -s https://www.perplexity.ai/perplexitybot.json | jq -r '.prefixes[] | .ipv4Prefix // .ipv6Prefix'
curl -s https://www.perplexity.ai/perplexity-user.json | jq -r '.prefixes[] | .ipv4Prefix // .ipv6Prefix'

Perplexity menyatakan daftar ini diperbarui secara berkala dan menyarankan agar pembaruan aturan WAF Anda diotomatisasi. Letakkan aturan izin di atas setiap aturan yang memblokir atau menantang permintaan: pertama di aturan kustom Cloudflare, atau dengan nomor prioritas lebih rendah di AWS WAF. Setelah itu pantau log Anda, karena perubahan firewall bisa memerlukan waktu untuk menyebar.

Bisakah rendering JavaScript membuat Perplexity tidak dapat membaca halaman?

Bisa. Dokumentasi crawler Perplexity tidak menyebut apakah agennya menjalankan JavaScript, jadi asumsi yang aman adalah teks yang dibutuhkan crawler harus ada di HTML yang dikirim server. Halaman yang seluruhnya dibangun di browser, seperti single-page app tanpa rendering di server, bisa tiba sebagai cangkang kosong dengan indikator pemuatan.

Cara cepat memeriksanya: ambil halaman dengan curl dan cari satu kalimat dari konten utama Anda di hasilnya. Jika tidak ada, teksnya ditambahkan oleh skrip. Rendering di sisi server, pembuatan statis, atau prerendering untuk crawler memperbaikinya untuk semua crawler AI sekaligus, bukan hanya Perplexity.

Bagaimana jika semuanya sudah terbuka tetapi situs saya tetap tidak muncul?

Bisa dibaca adalah prasyarat, bukan jaminan. Perplexity tidak mempublikasikan cara memilih sumber yang dikutip, jadi halaman yang bisa dibaca semua agen pun masih bisa kalah dari halaman yang menjawab pertanyaan lebih langsung. Yang bisa Anda kendalikan adalah memastikan tidak ada hambatan teknis: judul halaman yang jelas, jawaban yang dinyatakan di awal teks, dan fakta akurat yang cocok dengan apa yang Anda sampaikan di tempat lain.

Ingat juga apa yang tidak dicakup robots.txt. Perplexity menyatakan Perplexity-User umumnya mengabaikan robots.txt karena pengambilannya diminta oleh pengguna. Aturan untuk Perplexity-User karena itu bukan cara yang andal untuk memblokir kunjungan langsung, dan robots.txt yang mengizinkannya bukan bukti bahwa ia lolos dari firewall Anda.

AISeeWhy meminta halaman Anda sebagai PerplexityBot, Perplexity-User, dan 12 crawler lain di samping browser, menerapkan aturan robots.txt Anda untuk masing-masing, mengenali halaman tantangan, dan menunjukkan seberapa banyak teks yang tiba tanpa JavaScript, sehingga Anda bisa melihat mata rantai mana yang putus.

Pertanyaan yang sering diajukan

Apakah Perplexity melatih modelnya dengan konten saya?

Perplexity menyatakan PerplexityBot tidak dipakai untuk meng-crawl konten bagi model fondasi AI dan Perplexity-User tidak mengumpulkan konten untuk pelatihan. Karena itu, melarang PerplexityBot tidak berfungsi sebagai opt-out pelatihan; itu hanya mengurangi visibilitas Anda di hasil pencarian Perplexity.

Berapa lama setelah saya memperbaiki robots.txt Perplexity akan menyadarinya?

Perplexity menyatakan sistemnya bisa memerlukan hingga 24 jam untuk mencerminkan perubahan robots.txt. Perubahan firewall berlaku saat penyedia Anda menerapkannya, tetapi beri crawler waktu untuk kembali sebelum menilai hasilnya.

Bisakah saya memblokir Perplexity-User dengan robots.txt?

Tidak secara andal. Perplexity menyatakan pengambil ini umumnya mengabaikan robots.txt karena pengambilan diminta oleh pengguna. Jika perlu menghentikannya, aturan firewall yang dicocokkan dengan rentang IP yang dipublikasikannya adalah kontrol yang bisa diandalkan.

Apakah pemeriksaan user agent cukup untuk mengenali lalu lintas Perplexity?

Tidak. User agent mudah ditiru. Bandingkan IP sumber dengan rentang yang dipublikasikan Perplexity di perplexitybot.json dan perplexity-user.json, dan cocokkan user agent beserta IP-nya pada aturan firewall.

Sumber

Artikel lainnya