Боты на сайте: как понять, что они есть, и что делать
Часть посетителей любого сайта — программы. Одни полезны, как роботы поисковиков, другие портят статистику, шлют фейковые заявки и съедают рекламный бюджет. Разбираемся, как их заметить и что с ними делать.
Содержание
Коротко
- Боты есть почти на любом сайте, но полезных — поисковых — блокировать нельзя.
- Главные признаки: всплески прямых заходов, короткие визиты пачками, клики без заявок, мусорные заявки.
- Сначала измерьте долю ботов, потом очищайте статистику, формы и рекламу.
Кто такие боты и зачем они приходят
Бот — это программа, которая открывает страницы сайта вместо человека. Они бывают очень разными:
- Поисковые роботы — Яндекс, Google, Bing. Они индексируют сайт, без них он не попадёт в поиск. Их трогать нельзя.
- Сервисы SEO-аналитики — краулеры вроде AhrefsBot или SemrushBot. Собирают ссылки и тексты для своих баз. Вреда почти нет, но они создают нагрузку.
- Накрутчики поведенческих факторов — эмулируют «живых» посетителей из поиска, чтобы поднять или уронить сайт в выдаче. Именно они чаще всего дают странные всплески в Метрике.
- Скликиватели рекламы — кликают по объявлениям в Директе и РСЯ. Иногда это конкуренты, но чаще — площадки, которые зарабатывают на показах.
- Спам-боты и бомберы — заполняют формы: оставляют фейковые заявки, рекламу, чужие номера телефонов.
- Парсеры — копируют цены, каталог и тексты.
Признаки ботов на сайте
Ни один признак сам по себе ничего не доказывает, но если совпадают несколько — боты почти наверняка есть.
- В Метрике растут прямые заходы без видимой причины, особенно ночью и пачками.
- Много визитов по 0–15 секунд с одной страницей — высокая доля отказов на отдельных источниках.
- Резко выросла «роботность» в отчётах Метрики или трафик из одного города, браузера, разрешения экрана.
- В рекламе клики есть, а заявок нет: особенно с отдельных площадок РСЯ или в определённые часы.
- Заявки с бессмысленными именами, повторяющимися номерами или ссылками в тексте.
- Растёт нагрузка на сервер, а живых посетителей больше не стало.
Если трафик вырос, а продажи нет — первым делом проверьте, кто именно пришёл. Рост может оказаться полностью искусственным.
Как проверить, есть ли боты
- Метрика. Откройте отчёт «Посещаемость», переключите «Данные» на сравнение с роботами и без. Если разница заметная — это ваша доля ботов, которых Метрика распознала. Тех, кто хорошо маскируется, она не видит. Подробнее — в статье про ботов в Метрике.
- Источники и время. Посмотрите прямые заходы и отказы по часам: ровные пачки визитов по ночам — плохой знак.
- Логи сервера. Ищите много запросов с одного IP или подсети, необычные User-Agent, обращения к несуществующим страницам.
- Заявки. Сравните заявки с реальными звонками: сколько номеров не отвечает или «ничего не оставляли».
- Отдельный сервис проверки. Антибот вроде nbots ставится одной строкой кода и показывает по каждому визиту: человек это или бот и почему. Бесплатного тарифа хватает, чтобы увидеть картину.
Чем опасны боты
- Неверные решения. По загрязнённой статистике вы отключаете работающую рекламу или усиливаете мусорную.
- Деньги в рекламе. Каждый клик бота в Директе оплачивается, если Яндекс сам его не отсёк. Боты ещё и «учат» автостратегии искать таких же ботов.
- Позиции в поиске. Накрутка с плохим поведением (визит и сразу уход) может ухудшить поведенческие факторы.
- Время менеджеров. Каждая фейковая заявка — это звонок впустую.
Что делать с ботами
Блокировать «всех роботов» нельзя — вы потеряете поисковики. Правильный порядок такой:
- Измерить. Понять, сколько ботов и откуда. Без этого любая защита — стрельба вслепую.
- Очистить статистику. Чтобы Метрика и цели считали только людей.
- Закрыть формы. Проверять заявки до того, как они попадут менеджеру.
- Защитить рекламу. Исключать ботов из показов и отключать мусорные площадки.
- Включить блокировку там, где это нужно, — с проверкой для сомнительных посетителей, а не с жёстким баном.
Подробно все способы — от robots.txt до антибот-сервисов — разобраны в статье «Защита сайта от ботов».
Частые вопросы
Как понять, что на сайт заходят боты?
По сочетанию признаков: резкий рост прямых заходов, много коротких визитов с одной страницей, всплески ночью, клики в рекламе без заявок, бессмысленные заявки. Точнее всего показывает антибот-сервис, который оценивает каждый визит отдельно.
Можно ли просто заблокировать всех ботов?
Нет. Вместе с вредными ботами вы заблокируете роботов Яндекса и Google, и сайт выпадет из поиска. Поисковых роботов нужно пропускать, проверяя их по DNS, а остальных — оценивать по поведению и признакам браузера.
Сколько ботов на обычном сайте?
Зависит от ниши и рекламы. На сайтах без рекламы это часто единицы процентов, на сайтах с РСЯ и в конкурентных нишах доля может доходить до трети трафика и выше. Точную цифру для своего сайта можно узнать только измерением.
Какие боты полезны для сайта?
Роботы поисковых систем — Яндекса, Google, Bing. Без них сайт не попадёт в поиск. Также полезны сервисы мониторинга доступности, если вы их сами подключили.
Откуда на сайте берутся боты?
Из поиска (накрутка поведенческих факторов), из рекламы (скликивание и мусорные площадки), из каталогов и спам-баз (спам в формах), от парсеров и SEO-сервисов.
Вредят ли боты позициям в поиске?
Могут: массовые визиты с плохим поведением, особенно из поиска, ухудшают поведенческие факторы. Чаще боты вредят не позициям, а решениям, которые вы принимаете по испорченной статистике.
Как увидеть ботов в логах сервера?
Ищите много запросов с одного IP или подсети, необычные или пустые User-Agent, запросы к несуществующим страницам и служебным адресам вроде wp-login.php на сайтах без WordPress.