Генеральный директор Anthropic Дарио Амодей (Dario Amodei) в публичном выступлении заявил, что открытые модели искусственного интеллекта после выпуска невозможно отозвать, исправить или эффективно контролировать с точки зрения безопасности.
Дарио Амодей, возглавляющий компанию Anthropic, специализирующуюся на разработке передовых моделей ИИ, выступил с критикой подхода к открытому распространению таких систем. По его словам, после публикации исходного кода и весов модели разработчики теряют возможность оперативно вмешиваться в её работу — в отличие от закрытых систем, где обновления и исправления внедряются централизованно.
Амодей подчеркнул, что открытые модели, однажды выпущенные в публичный доступ, становятся уязвимыми для злоупотреблений: их можно модифицировать для обхода защитных механизмов, использовать в неконтролируемых средах или распространять без учёта потенциальных рисков. «После релиза вы не можете ни отозвать модель, ни исправить уязвимости, ни гарантировать её безопасность», — отметил он. При этом глава Anthropic не предложил конкретных альтернативных механизмов регулирования, ограничившись констатацией проблемы.
Вопрос о безопасности открытых моделей ИИ остаётся одним из ключевых в дискуссиях о будущем отрасли. Сторонники открытого подхода, включая компании вроде Meta и Mistral AI, утверждают, что прозрачность кода способствует инновациям и демократизации технологий. Критики, среди которых не только Anthropic, но и ряд регуляторов, указывают на риски неконтролируемого распространения потенциально опасных инструментов.
Позиция Амодея прозвучала на фоне растущего давления на разработчиков ИИ со стороны правительств и международных организаций. В частности, в Евросоюзе и США обсуждаются законопроекты, обязывающие компании проводить оценку рисков перед выпуском моделей, однако их применимость к открытым системам остаётся предметом споров.
Источники: X-пост Chubby♨️, 29 июня 2026; публикация на платформе Digg.