هل تستطيع زواحف الذكاء الاصطناعي قراءة المحتوى الذي تعرضه JavaScript؟

تاريخ النشر

الإجابة المختصرة

غالباً لا. يعرض Googlebot صفحات JavaScript في خطوة لاحقة، لكن معظم زواحف الذكاء الاصطناعي لا توثّق أنها تفعل ذلك، وتشير Google نفسها إلى أن ليس كل الروبوتات تستطيع تشغيل JavaScript. فإذا كان نصك لا يظهر إلا بعد تشغيل السكربتات، فقد يتلقى زاحف الذكاء الاصطناعي صفحة فارغة. قدّم المحتوى الرئيسي في HTML الأولي بالعرض من الخادم أو بصفحات ثابتة.

تطبيقات الصفحة الواحدة وأطر العمل من جهة العميل منتشرة في كل مكان، وتبدو سليمة في المتصفح. أما الزاحف الذي يقرأ فقط HTML الذي يرسله خادمك فيرى شيئاً آخر: <div id="root"></div> وبضعة وسوم سكربت ونصاً قليلاً أو لا نص. وبالنسبة لإجابات الذكاء الاصطناعي، ليس في هذه الصفحة ما يُقتبس.

في هذه الصفحة
  1. لماذا تفوّت زواحف الذكاء الاصطناعي محتوى JavaScript؟
  2. كيف أفحص ما يتلقاه الزاحف؟
  3. ما الصفحات الأكثر عرضة للخطر؟
  4. كيف أعالج المحتوى الذي يعتمد على JavaScript فقط؟
  5. هل تحجب شاشات تسجيل الدخول والموافقة وجدار الدفع زواحف الذكاء الاصطناعي أيضاً؟
  6. كيف يكتشف AISeeWhy الصفحات التي تعتمد على JavaScript فقط؟

لماذا تفوّت زواحف الذكاء الاصطناعي محتوى JavaScript؟

تشغيل JavaScript مكلف. على الزاحف أن ينزّل السكربتات وينفذها في محرك متصفح وينتظر تحميل البيانات. وتفعل Google ذلك للبحث: تزحف، وتضع الصفحات في طابور للعرض، وتعرضها بـ Chromium بلا واجهة حين تسمح الموارد. ومع ذلك توصي Google بالعرض من الخادم أو العرض المسبق لأنه أسرع للمستخدمين والزواحف، وتشير إلى أن ليس كل الروبوتات تستطيع تشغيل JavaScript.

لا تذكر OpenAI وAnthropic وPerplexity في وثائق زواحفها أن وكلاءها ينفذون JavaScript. وتقول Apple إن Applebot قد يعرض الصفحات في متصفح. وفي غياب بيان واضح، يكون الافتراض الآمن لزواحف الذكاء الاصطناعي أنها تقرأ HTML الأولي فقط.

كيف أفحص ما يتلقاه الزاحف؟

انظر إلى HTML الخام لا إلى الصفحة المعروضة. أدوات المطور في المتصفح تعرض DOM بعد تشغيل السكربتات، وهذا ليس ما يحصل عليه الزاحف. استخدم view-source، أو احفظ HTML الخام من سطر الأوامر وابحث فيه:

curl -s -o page.html \
  -A "Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; GPTBot/1.4; +https://openai.com/gptbot" \
  https://example.com/page

# Is a sentence from your main text in the raw HTML?
grep -c "a sentence from your main content" page.html

النتيجة 0 تعني أن الجملة ليست في HTML الذي أرسله الخادم، فلن تجدها الزواحف التي لا تشغّل السكربتات. ونظرة سريعة إلى الملف تكشف الباقي: المقال المعروض من الخادم يكون نصه الكامل هناك؛ وهيكل الجهة العميلة فيه عنصر جذر فارغ وقائمة سكربتات.

ما الصفحات الأكثر عرضة للخطر؟

كيف أعالج المحتوى الذي يعتمد على JavaScript فقط؟

العلاج أن ترسل المحتوى المهم في الاستجابة الأولى. اختر أخف خيار يسمح به نظامك:

لا يلزمك تحويل تطبيق كامل دفعة واحدة. ابدأ بالصفحات التي تريد أن يُستشهد بها: المقالات والوثائق وصفحات المنتج والأسعار. ويمكن أن تبقى مناطق الحسابات ولوحات التحكم في جهة العميل، لأنها خلف تسجيل دخول على أي حال.

تجنب تقديم صفحة للزواحف تختلف عما يراه المستخدمون بناءً على وكيل المستخدم. فعرض HTML نفسه للجميع أسهل في الصيانة ويزيل أي شك بشأن الحجب (cloaking).

هل تحجب شاشات تسجيل الدخول والموافقة وجدار الدفع زواحف الذكاء الاصطناعي أيضاً؟

نعم. الزاحف لا يسجّل دخولاً، ولا ينقر على لافتة ملفات تعريف الارتباط، ولا يحل التحديات. وتنص Anthropic على أن روبوتاتها لن تحاول تجاوز CAPTCHA. فإذا كان مدير الموافقة يستبدل الصفحة بطبقة تملأ الشاشة في HTML، أو يعيد توجيه الزوار الجدد إلى صفحة موافقة، فسيحصل الزاحف على ذلك بدلاً من محتواك.

تأكد من أن الصفحات العامة تعرض محتواها في HTML بصرف النظر عن حالة الموافقة، وأن تكون اللافتة طبقة فوقها لا بديلاً عنها. وأبقِ الصفحات التي تريد أن يُستشهد بها خارج جدران تسجيل الدخول، وتحقق من أن الزاحف لا يُعاد توجيهه إلى صفحة تسجيل دخول.

كيف يكتشف AISeeWhy الصفحات التي تعتمد على JavaScript فقط؟

يقرأ AISeeWhy HTML الأولي كما يتلقاه كل زاحف، دون تشغيل السكربتات. وعندما لا يكون في الصفحة إلا نص مرئي قليل جداً مع عنصر جذر لإطار عمل وسكربتات، يبلّغ عن ملاحظة P1 بأن المحتوى يحتاج إلى JavaScript. ويشير أيضاً إلى عمليات إعادة التوجيه التي ترسل الزواحف إلى مكان غير الصفحة التي يحصل عليها المتصفح.

الأسئلة الشائعة

هل يعرض Googlebot صفحات JavaScript؟

نعم. تزحف Google إلى HTML وتضع الصفحات في طابور للعرض وتعرضها بـ Chromium بلا واجهة حين تسمح الموارد. ومع ذلك توصي Google بالعرض من الخادم أو العرض المسبق.

هل تشغّل زواحف ChatGPT وClaude وPerplexity أكواد JavaScript؟

لا تقول وثائق الزواحف لدى هذه الجهات ذلك. وإلى أن تعلن جهة غير ذلك، افترض أن الزاحف يقرأ HTML الأولي وتأكد من وجود محتواك فيه.

هل العرض الديناميكي للروبوتات فكرة جيدة؟

يصلح حلاً مؤقتاً لكنه يضيف مساراً ثانياً للعرض عليك صيانته. والعرض من الخادم أو HTML الثابت يقدم المحتوى نفسه للجميع وهو الحل الأبسط على المدى الطويل.

هل يُحتسب JSON-LD المضاف بواسطة JavaScript؟

تستطيع Google قراءته بعد العرض، لكن الزواحف التي لا تشغّل السكربتات لن تراه. ضع JSON-LD في HTML الأولي.

المصادر

مقالات أخرى