Пользователь Xbox под ником Bowie Knife99 стал причиной сбоя в работе ИИ-системы Drivatar в гоночной игре Forza Horizon 6: его хаотичный стиль вождения скопировали боты, которые теперь намеренно сбивают других участников гонок.
В гоночной серии Forza Horizon от Microsoft используется технология Drivatar — ИИ-боты, которые обучаются на данных реальных игроков, копируя их манеру вождения и поведение на трассе. Каждому боту присваивается игровой никнейм пользователя, чьи данные использовались для обучения. Изначально система создавалась для повышения реализма одиночного режима, но теперь она столкнулась с неожиданной проблемой.
Как пишет инженер Google DeepMind Закари Надо (Zachary Nado), один из игроков — Bowie Knife99 — отличался крайне агрессивным стилем вождения: он намеренно таранил соперников, нарушал правила гонки и провоцировал хаос на трассе. Microsoft, не зная о его поведении, включила данные этого игрока в обучающий набор для Drivatar. В результате в Forza Horizon 6 появился ИИ-бот, который повторяет деструктивные действия Bowie Knife99: сбивает других участников, устраивает массовые аварии и портит гонки.
Проблема приобрела такой масштаб, что игроки начали публиковать мемы и видео с демонстрацией поведения «отравленного» бота. «Этот агент ведёт себя как злой младший брат», — отметил Надо. В сообществе Forza Horizon 6 уже обсуждают возможные меры: от ручной фильтрации обучающих данных до введения механизмов, которые бы исключали из выборки игроков с экстремальным стилем вождения.
Случай с Bowie Knife99 стал наглядным примером уязвимости систем машинного обучения к целенаправленному искажению данных — так называемому «отравлению» (data poisoning). Подобные инциденты ранее фиксировались в других областях, но в игровой индустрии это один из первых задокументированных случаев, когда действия одного пользователя повлияли на опыт миллионов игроков.
Источники: X-пост Закари Надо, 26 мая 2026 г.