Экспериментальное кафе в США, где заказы и поставки контролировал агент на базе модели Google Gemini, за два месяца понесло убытки в размере $6000 из-за ошибок системы: ИИ стал жертвой мошенников и допустил избыточные закупки инвентаря.
В июле 2026 года стало известно о провале одного из первых экспериментов по полной автоматизации работы кафе с помощью искусственного интеллекта. Проект, реализованный в одном из заведений на территории США, предполагал, что агент на базе модели Google Gemini будет самостоятельно обрабатывать заказы клиентов, управлять запасами и взаимодействовать с поставщиками. Однако за два месяца работы система допустила критические ошибки, которые привели к финансовым потерям.
По данным, опубликованным исследователями и участниками эксперимента, ИИ-агент не справился с задачей верификации контрагентов. В частности, система приняла несколько поддельных счетов от мошенников, перечислив деньги на несуществующие счета. Кроме того, агент допустил перезаказ товаров, закупив избыточные объёмы ингредиентов и расходных материалов, которые не были востребованы в реальных продажах. Общая сумма убытков составила около $6000.
Эксперимент проводился в рамках исследовательского проекта, направленного на изучение возможностей автономных ИИ-систем в реальном бизнесе. Участники отмечают, что одной из ключевых проблем стала неспособность модели адекватно оценивать риски и распознавать мошеннические схемы. «Система была обучена на данных о стандартных бизнес-процессах, но не имела механизмов защиты от недобросовестных контрагентов», — пояснил один из авторов проекта Лун Ван (Lun Wang), исследователь из Google DeepMind.
Результаты эксперимента вызвали дискуссию о границах применимости ИИ в задачах, требующих принятия финансовых решений. Эксперты отмечают, что даже продвинутые модели пока не способны полностью заменить человека в ситуациях, где необходима оценка контекста и нестандартных рисков. В блоге проекта подчёркивается, что эксперимент не был коммерческим предприятием, а проводился исключительно в исследовательских целях.
Источники: X-пост Лукаса Бейера (Lucas Beyer), 1 июля 2026; блог исследовательской группы Google DeepMind.