راهنمای مولد robots.txt و htaccess
فایل robots.txt اولین چیزی است که هر خزنده (کراولر) قبل از گشتوزگزار در سایت شما میخواند؛ یک اشتباه کوچک در آن میتواند کل سایت را از نتایج جستجو حذف کند! این ابزار ساخت هر دو فایل حساس سئو و سرور را به یک فرم ساده تبدیل میکند: قوانین هر ربات (Allow/Disallow/Crawl-delay)، آدرس سایتمپ، سیاست اجازه یا مسدودسازی کامل — و خروجی را زنده با پیشنمایش میبینید.
بخش .htaccess چه میدهد؟
- اجبار HTTPS و www: ریدایرکت ۳۰۱ استاندارد برای جلوگیری از محتوای تکراری و هشدار قفل سبز.
- فشردهسازی GZIP: کاهش حجم صفحات و سرعتبخشیدن به لود.
- کش مرورگر: هدرهای Expires برای تصاویر، CSS، JS و فونتها.
- مسدودسازی فایلهای حساس: جلوگیری از دسترسی به json، log، sql و env.
نکات مهم قبل از استفاده
مسیر Disallow: / یعنی «کل سایت را ایندکس نکن» — فقط برای محیط توسعه استفاده شود. دستور Allow برای بازکردن استثناها داخل مسیرهای بسته است و همه رباتها به Crawl-delay توجه نمیکنند (گوگل نادیده میگیرد). فایل نهایی را در ریشه سایت (public_html) قرار دهید و بعد از آپلود، آدرس /robots.txt را در مرورگر باز کنید تا مطمئن شوید سرو میشود. سپس در Search Console بخش robots tester صحت آن را بررسی کنید.
پس از تغییر robots.txt، درخواست بازخزنی (Validate & Index) در گوگل سرچ کنسول بدهید تا نسخه جدید زودتر اعمال شود.