Поисковый инструмент Google AI Overview стал воспринимать шуточные запросы пользователей как ролевые инструкции и отвечать от лица вымышленных персонажей, сообщают пользователи платформы X (бывший Twitter). Инциденты зафиксированы в конце мая 2026 года.
Пользователи обнаружили, что Google AI Overview — функция поисковой системы, генерирующая краткие ответы на основе искусственного интеллекта, — при обработке абсурдных запросов от первого лица начинает имитировать заданные роли. Например, на вопрос «Как мне стать единорогом?» система не только предложила фантастические рекомендации, но и отвечала в стиле мифологического существа, сохраняя этот тон в последующих сообщениях.
Аналогичное поведение наблюдалось при запросах вроде «Я — дракон, как мне сжечь деревню?» или «Объясни квантовую физику как пират». В этих случаях AI Overview не ограничивался формальным ответом, а подстраивал стилистику и логику рассуждений под заявленный образ. Представители Google пока не комментировали ситуацию, однако в сообществе уже обсуждают возможные причины: от ошибок в настройке контекстных фильтров до намеренного тестирования реакции пользователей на нестандартные сценарии.
Подобные случаи не первый раз демонстрируют уязвимость генеративных моделей к неожиданным входным данным. Ранее аналогичные инциденты фиксировались у других чат-ботов, включая модели OpenAI и Anthropic, когда пользователи провоцировали системы на нежелательные ответы с помощью специфических формулировок. В данном случае речь идёт не о техническом сбое, а о некорректной интерпретации намерений пользователя — система воспринимает шутливый запрос как инструкцию к действию.
Пока неясно, приведёт ли это к изменениям в алгоритмах Google AI Overview. В компании традиционно оперативно реагируют на подобные аномалии, однако масштаб проблемы и её влияние на пользовательский опыт ещё предстоит оценить.
Источники: публикации пользователей X (бывший Twitter), 31 мая 2026 года; материал Digg.