Перейти к содержимому
desing Дневник веб-инноваций и поиска

OpenAI после GPT-5 стала сканировать сайты втрое активнее

OpenAI crawl activity

Автоматическая crawl-активность OpenAI после запуска GPT-5 выросла примерно в три раза. К такому выводу пришли Botify и приглашённый автор Крис Лонг после анализа около 7 млрд log events от OpenAI-ботов в датасете enterprise-клиентов за период с ноября 2024 года по март 2026 года.

Главное изменение — в структуре самого сканирования. В выборке Botify поисковый бот OAI-SearchBot теперь генерирует больше событий, чем GPTBot, который используется для сбора данных обучения. До запуска GPT-5 их объёмы были примерно равны: соотношение поисковых событий к обучающим составляло около 0,95. После GPT-5 показатель вырос до 1,14.

Что показали данные Botify

Два из трёх измеряемых user agent OpenAI резко увеличили активность вокруг запуска GPT-5 в августе 2025 года.

  • OAI-SearchBot вырос примерно в 3,5 раза — это около 2,2 млрд дополнительных событий в датасете Botify.
  • GPTBot вырос примерно в 2,9 раза — ещё около 1,8 млрд событий.
  • ChatGPT-User, наоборот, снизился на 28% в период с декабря 2025 года по март 2026 года.

ChatGPT-User срабатывает, когда сессия ChatGPT загружает страницу от имени пользователя. Поэтому падение этого показателя не означает снижение использования ChatGPT в целом. Возможны два объяснения: либо меньше сессий требуют загрузки страниц в реальном времени, либо OpenAI чаще опирается на уже сохранённые или проиндексированные ресурсы.

Поисковый бот OpenAI обогнал обучающий

Рост OAI-SearchBot важен для владельцев сайтов, потому что именно этот бот связан с получением контента для ответов в ChatGPT Search. Если сайт блокирует только GPTBot, он не блокирует поисковый краулер OpenAI. Но если заблокировать OAI-SearchBot, сайт может лишиться видимости в поисковых ответах ChatGPT.

Эта динамика совпадает с наблюдением, что после GPT-5 OpenAI может активнее использовать live search, а не только знания, полученные на этапе обучения модели. Данные Botify не доказывают внутреннюю механику OpenAI, но хорошо ложатся на такой сценарий.

Где рост оказался самым сильным?

По отраслям рост OAI-SearchBot после GPT-5 распределился неравномерно:

  • Healthcare — рост примерно на 740%;
  • Media & Publishing — около 702%;
  • Marketplaces, Software и Retail — от 190% до 216%;
  • Travel — самый слабый рост, около 30%.

В Media & Publishing зафиксирован крупнейший перевес OAI-SearchBot над GPTBot: разница составила +256%. В Healthcare и Retail, наоборот, активнее выглядит GPTBot: разница между OAI-SearchBot и GPTBot составила -50% и -33% соответственно.

Botify и Лонг предполагают, что OpenAI может по-разному обрабатывать разные типы запросов: новости чаще требуют живого поиска, а медицинские и товарные темы могут больше опираться на обучающие данные. Но это именно интерпретация, а не подтверждённое описание работы OpenAI.

OpenAI всё ещё далеко до Googlebot

Даже после трёхкратного роста OpenAI остаётся намного меньше Google по объёму сканирования. В последнем 30-дневном окне Botify зафиксировала 18,2 млрд событий Googlebot против 887 млн событий OpenAI crawlers. Это около 4% от объёма Googlebot.

Годом ранее разрыв был больше: 15 млрд событий Googlebot против 207 млн событий OpenAI, то есть около 1,38%. Googlebot по-прежнему примерно в 20 раз крупнее по абсолютному объёму, но доля OpenAI заметно растёт.

На фоне Bing картина выглядит иначе: в последнем окне Bingbot показал около 5,49 млрд событий, а OpenAI достигла примерно 14% от этого объёма.


Для SEO-специалистов и владельцев сайтов главный вывод простой: AI-краулеры нельзя оценивать как один общий поток. У OpenAI есть разные боты с разными задачами, и блокировка одного не означает блокировку другого.

Если сайт хочет ограничить использование контента для обучения, одного решения по GPTBot может быть недостаточно для контроля видимости в ChatGPT Search. А если бизнесу важен трафик и присутствие в AI-поиске, блокировка OAI-SearchBot может стать проблемой.

При этом данные Botify нужно читать с оговорками. Выборка основана на крупных enterprise-сайтах из retail, ecommerce, technology, publishing, travel и marketplaces, а значит не отражает весь интернет. Кроме того, Botify продаёт решения для анализа логов и управления AI-ботами, поэтому у исследования есть коммерческий контекст.

Источник: Search Engine Journal

Добавить комментарий