ماهو ملف robots.txt
يحدّد ملف robots.txt عناوين URL التي يمكن لبرامج الزحف التابعة لمحركات البحث الوصول إليها على موقعك الإلكتروني(ظهور الروابط خلال عمليات البحث علي جوجل) . وغالبًا ما تُستخدم هذه المعلومات لتجنّب تحميل عبء زائد على موقعك الإلكتروني من خلال طلبات الزحف.
ملف robots.txt يحدد الصفحات التي تريد ظهورها او إخفاءها في نتائج البحث علي جوجل.
تغييرات جديدة في ملف robots.txt
هناك بعض التغييرات في طريقة الأرشفة في جوجل، مؤخراً قد لاحظت عدم أرشفة الموضوع بسبب ملف robots.txt و ملفات Sitemap التي قمت بإرسالها في ادوات مشرفي المواقع.
هناك بعض التغييرات تعلق بالملف rss.xml وغيرها من الملفات، بدأت في البحث وتحديث ملفات Sitemap التي قمت بإرسالها لأرشفة الموقع.
كيفية انشاء ملف robots.txt و Sitemap بطريقة صحيحة 2022
1.قم بتسجيل الدخول الي blogger
2.من الجانب الأيمن انقر علي الاعدادات ومنها إضغط علي إعدادات البحث.
3.مرر الصفحة الي الأسفل وقم بالضغط علي تعديل بجانب ملف robots.txt مخصص.
4. إنسخ هذا الملف كامل وضعه في خانة التعديل مع تعديل www.example.com الي رابط موقعك او مدونة بلوجر.
User-agent: Mediapartners-Google Disallow: #below lines control all search engines, and blocks all search, archieve and allow all blog posts and pages. User-agent: * Disallow: /search* Disallow: /20* Disallow: رابط صفحة تريد عدم أرشفتها Disallow: رابط صفحة تريد عدم أرشفتها Allow: /*.html Allow: /ads.txt #sitemap of the blog Sitemap: https://www.example.com/sitemap.xml Sitemap: https://www.example.com/sitemap-pages.xml Sitemap: https://www.example.com/atom.xml?redirect=false&start-index=1&max-results=500
5.ثم انقر علي حفظ التغييرات
ملاحظة: قم بتغيير "رابط صفحة تريد عدم أرشفتها" الي رابط صفحة في مدونتك تريد حظرها بإستخدام ملف robots.txt مثل صفحة إتصل بنا او سياسة الخصوصية وغيرها، في حالة عدم وجود صفحات لا تريد حظرها يمكنك مسح سطر Disallow بالكامل.
طريقة تقديم ملفات Sitemap بطريقة صحيحة 2022
التغييرات هنا في إرسال ملفات أقل من المعتاد تضمن محتوي مدونتك بالكامل ويكون حظر الأرشفة عن طريق ملف robots.txt.
1.قم بالدخول الي موقع Google search console
2.من الشريط الجانبي اختر ملفات sitemap.
3.إدخل هذه الملفات كل ملف منفصل بنفس الترتيب مع تغيير www.example.com اللي رابط موقعك او مدونتك.
http://www.example.com/sitemap.xml http://www.example.com/atom.xml http://www.example.com/feeds/posts/summary http://www.example.com/feeds/posts/default http://www.example.com/feeds/comments/default http://www.example.com/rss.xml https://www.example.com/atom.xml?redirect=false&start-index=1&max-results=500/