منشئ ملف robots.txt لمُحرّكات البحث الذكية الاصطناعية

الخطوة الأولى في GEO (لجعل الذكاء الاصطناعي يقتبس محتواك) ليست كتابة المحتوى، بلتأكد أولًا من أنك لم تحجب زواحف الذكاء الاصطناعي خارج نطاق الوصول. تُدرج قوالب CDN وWAF والإطارات الشائعة افتراضيًا تعليمات حظر (block) موجهة ضد زواحف الذكاء الاصطناعي، لذا حتى لو كان المحتوى ممتازًا، فلن يقوم أحدٌ بزحفه. وتتيح لك هذه الأداة اختيار 40+ زاحفة رئيسية للذكاء الاصطناعي والبحث سطرًا بسطر، مع حجب المسارات الخاصة مثل الخلفية ولوحة التحكم تلقائيًا.

مجاني · بدون تسجيل دخول التوليد المحلي · المحتوى غير مُرفَّع استبدال · أكثر من 40 زاحف ذكاء اصطناعي وباحث

1معلومات الموقع

2قائمة الزواحف (التحديد = السماح)

السماح افتراضيًا لجميع العناصر. لإيقاف أي عنصر، قم بإلغاء تحديد خانة الاختيار الخاصة به.

المخرجاتrobots.txt

0 سطر
—
ضعه في دليل الجذر للموقع https://نطاقك/robots.txt. بعد التعديل، تحقق بنفسك باستخدام الأمر curl: curl --noproxy '*' https://your-domain/robots.txt

الفحص الذاتيهل قمتَ بحظر نفسك؟

لقد وقعنا في هذه الفخّ من قبل

١ · القالب الافتراضي يمنع جميع مُحرّكات البحث الذكية الاصطناعية (block).في قوالب ملف robots.txt الافتراضية الخاصة بعدد كبير من خدمات CDN/WAF وإطارات إنشاء المواقع، يتم رفض زواحف الذكاء الاصطناعي افتراضيًا. والنتيجة هي أن المحتوى موجودٌ كاملاً، لكن تأثير GEO يكون صفريًا — لأنَّه لا أحد يزحف إليه أصلًا.

2 · GPTBot وOAI-SearchBot هما وكيلان مستخدمين (UA) مختلفان.السماح فقط لـ GPTBot يعني أن زحف بحث OpenAI لا يزال ممنوعًا. وبالمثل ClaudeBot / Claude-User / Claude-SearchBot وكلٌّ على حدة.

3 · ملف robots.txt هو مجرد "اتفاقية بين أشخاص محترمين".إنه لا يمنع الزواحف غير الملتزمة بالقواعد. ولحماية الخلفية فعليًا، استخدم المصادقة (المصادقة الأساسية / تسجيل الدخول) بدل الاعتماد على ملف robots.txt.

٤ · تعديل ملف robots.txt وحده غير كافٍ.المواقع التي تُولَّد محتوياتها بالكامل في الجانب الأمامي (SPA) تُعيد للزاحف صفحات فارغة. لقد واجهنا هذه المشكلة عند إضافة روابط صديقة لموقع Vue: يجبفي نفس الوقتتعديل مصفوفة JavaScript (للإنسان) وـ387 صفحة مُسبَق عرضها (للزاحف)؛ تعديل جانب واحد فقط يعادل عدم القيام بأي شيء.