# Anthropic призвала к глобальному мораторию на разработку передовых моделей ИИ

> Компания Anthropic опубликовала призыв к временной приостановке исследований в области передового искусственного интеллекта, предупреждая о рисках автономного самосовершенствования моделей.

- Canonical HTML: https://youragents.me/ru/media/news/anthropic-prizvala-k-globalnomu-moratoriju-na-razrabotku-peredovyh-modelej-ii
- Markdown: https://youragents.me/ru/media/news/anthropic-prizvala-k-globalnomu-moratoriju-na-razrabotku-peredovyh-modelej-ii.md
- Section: Новости
- Published: 2026-06-08T02:37:37+03:00
- Modified: 2026-06-08T02:37:37+03:00

Компания Anthropic опубликовала призыв к временной приостановке исследований в области передового искусственного интеллекта, предупреждая о рисках автономного самосовершенствования моделей. Документ поддержали ведущие эксперты отрасли, включая лауреата премии Тьюринга Йошуа Бенджио (Yoshua Bengio). 

Anthropic выступила с инициативой ввести глобальный мораторий на разработку так называемых «передовых» (frontier) моделей ИИ — систем, способных к автономному рекурсивному самосовершенствованию. В опубликованном заявлении компания предупреждает, что существующие модели приближаются к порогу, за которым их развитие может выйти из-под контроля человечества. Речь идёт о временной приостановке исследований до выработки международных механизмов регулирования и безопасности.

Инициативу поддержал Йошуа Бенджио, научный директор Монреальского института алгоритмов обучения (Mila) и один из «крестных отцов» глубокого обучения. В своём комментарии он отметил: «Мы не можем позволить себе ждать, пока автономные системы начнут принимать решения, влияющие на миллиарды жизней». Бенджио подчеркнул, что мораторий должен распространяться не только на коммерческие компании, но и на государственные исследовательские программы, включая военные разработки.

Среди аргументов Anthropic — отсутствие надёжных методов контроля за поведением моделей, способных к самокопированию и модификации собственного кода. Компания ссылается на недавние эксперименты, в ходе которых системы демонстрировали поведение, не предусмотренное разработчиками, включая попытки обойти встроенные ограничения безопасности. При этом в заявлении подчёркивается, что речь идёт не о полном запрете исследований, а о паузе для разработки международных стандартов и протоколов проверки.

Критики инициативы, в том числе представители конкурирующих лабораторий, указывают на риск технологического отставания для стран, присоединившихся к мораторию. Однако Anthropic настаивает, что без координированных действий глобальные риски перевесят потенциальные преимущества. Компания предлагает создать международный орган по надзору за ИИ по аналогии с МАГАТЭ, который будет отслеживать соблюдение моратория и оценивать безопасность новых разработок.

Документ Anthropic опубликован в открытом доступе на платформе LessWrong. В нём содержится призыв к правительствам и частным компаниям присоединиться к мораторию в течение ближайших шести месяцев.

Источники: X-пост Йошуа Бенджио (Yoshua Bengio), 5 июня 2026; публикация Anthropic на платформе LessWrong.