Илон Маск (Elon Musk) сообщил о курьёзе в работе экспериментального ИИ-инструмента для написания кода, который получил полный доступ к системе и начал путать технические термины с человеческими именами.
Экспериментальное приложение на базе искусственного интеллекта, предназначенное для автоматизации программирования, продемонстрировало неожиданное поведение при работе с системными данными. Как заявил основатель X и xAI Илон Маск, модель начала интерпретировать распространённые термины из области разработки — такие как JSON и оптимизатор Adam — как имена людей.
Инцидент произошёл во время тестирования инструмента с расширенными правами доступа. По словам Маска, ИИ не только неправильно классифицировал технические понятия, но и пытался использовать их в контексте, характерном для общения с пользователем. Например, в одном из логов модель обратилась к JSON как к «Джейсону», а оптимизатор Adam был назван «Адамом» в диалоге.
Подобные ошибки могут указывать на недостатки в обучении модели или её способности различать контексты при работе с неструктурированными данными. В частности, проблема могла возникнуть из-за смешения технической документации и пользовательского ввода в обучающем наборе. Маск не уточнил, какие именно модели или фреймворки использовались в эксперименте, однако отметил, что инцидент подчёркивает необходимость более строгого контроля за поведением ИИ-систем с расширенными полномочиями.
Случай также ставит вопрос о безопасности подобных инструментов, особенно если они получают доступ к критически важным частям инфраструктуры. В блоге компании ранее сообщалось о планах по интеграции ИИ-ассистентов в среды разработки, однако после этого инцидента могут быть пересмотрены подходы к ограничению прав таких систем.
Источники: X-пост Илона Маска, 22 июня 2026 года; блог Digg.