Генеральный директор Anthropic Дарио Амодей (Dario Amodei) призвал к введению обязательного государственного регулирования для передовых моделей искусственного интеллекта, включая независимые проверки и право властей блокировать небезопасные релизы. Предложение прозвучало на фоне дебатов о балансе между инновациями и контролем в индустрии.
Дарио Амодей, возглавляющий одну из ведущих компаний в области разработки больших языковых моделей, выступил с инициативой, которая может ужесточить правила работы с ИИ. В серии публикаций в X он обозначил ключевые элементы будущего регулирования: обязательные аудиты передовых моделей независимыми экспертами, а также полномочия государственных органов приостанавливать или запрещать запуск систем, признанных небезопасными.
По словам Амодея, текущие механизмы саморегулирования индустрии недостаточны. «Мы не можем полагаться только на добрую волю компаний — нужны прозрачные и обязательные процедуры», — отметил он. При этом глава Anthropic подчеркнул, что речь идёт не о замедлении технологического прогресса, а о создании предсказуемых рамок для разработчиков. В качестве примера он привёл аналогию с авиационной отраслью, где сертификация самолётов проводится независимыми органами до начала коммерческой эксплуатации.
Предложение Амодея вызвало смешанную реакцию в профессиональном сообществе. Часть экспертов поддержала идею, указав на растущие риски, связанные с неконтролируемым развитием ИИ. Так, сооснователь компании LightSpark Даниэль Фонг (Danielle Fong) в комментарии к посту Амодея отметила, что «без внешнего контроля индустрия рискует повторить ошибки финансового сектора, где саморегулирование привело к системным кризисам». Другие участники дискуссии, включая инвестора и бывшего руководителя Microsoft Стивена Синовски (Steven Sinofsky), высказали опасения, что чрезмерное регулирование может ограничить конкуренцию и инновации, особенно для стартапов.
Anthropic, основанная в 2021 году группой бывших сотрудников OpenAI, позиционирует себя как компания, ориентированная на безопасность ИИ. В отличие от некоторых конкурентов, она активно взаимодействует с регуляторами и участвует в разработке стандартов. В мае 2026 года компания опубликовала в своём блоге отчёт о потенциальных рисках своих моделей, включая сценарии злоупотребления и потери контроля над системами. Инициатива Амодея может стать шагом к формализации подобных практик на уровне законодательства.
Пока неясно, как отреагируют на предложение регулирующие органы США и Евросоюза, где уже идут дискуссии о введении ограничений для разработчиков ИИ. В США законопроект о регулировании передовых моделей находится на стадии обсуждения в Конгрессе, однако его принятие затягивается из-за разногласий между демократами и республиканцами. В ЕС, где в 2024 году был принят Акт об искусственном интеллекте, предложения Амодея могут быть учтены при доработке подзаконных актов.