Файл robots.txt содержит правила для роботов поисковых систем. В нем указывается какие файлы и папки индексировать, а какие нет, основной домен сайт и ссылка на карту сайта.
В 1С Битрикс есть инструмент, который так и называется “Настройка robots.txt”. Он позволяет задать стартовый набор правил, главное зеркало и ссылку на карту сайта.
Нажимаем кнопку “Стартовый набор”. В robots.txt запишутся следующие правила:
User-Agent: *
Disallow: */index.php
Disallow: /bitrix/
Disallow: /*show_include_exec_time=
Disallow: /*show_page_exec_time=
Disallow: /*show_sql_stat=
Disallow: /*bitrix_include_areas=
Disallow: /*clear_cache=
Disallow: /*clear_cache_session=
Disallow: /*ADD_TO_COMPARE_LIST
Disallow: /*ORDER_BY
Disallow: /*PAGEN
Disallow: /*?print=
Disallow: /*&print=
Disallow: /*print_course=
Disallow: /*?action=
Disallow: /*&action=
Disallow: /*register=
Disallow: /*forgot_password=
Disallow: /*change_password=
Disallow: /*login=
Disallow: /*logout=
Disallow: /*auth=
Disallow: /*backurl=
Disallow: /*back_url=
Disallow: /*BACKURL=
Disallow: /*BACK_URL=
Disallow: /*back_url_admin=
Disallow: /*?utm_source=
Disallow: /*?bxajaxid=
Disallow: /*&bxajaxid=
Allow: /bitrix/components/
Allow: /bitrix/cache/
Allow: /bitrix/js/
Allow: /bitrix/templates/
Allow: /bitrix/panel/
Далее нам необходимо задать главное зеркало сайта. Нажимаем на соответствующую кнопку и отмечаем галочку напротив https (если он у вас есть) и пишем основной домен сайта.
И последнее, что необходимо сделать - добавить ссылку на карту сайта. Нажимаем на кнопку “Карта сайта (sitemap)” и прописываем абсолютную ссылку на карту сайта.
Нажимаем сохранить и наш robots.txt готов.
Коммментарии