# Специалист DeepMind заявил о низкой вероятности катастрофического несоответствия ИИ

> Научный сотрудник Google DeepMind Роин Шах (Rohin Shah) в публикации на платформе X выступил против приоритизации оценок безопасности ИИ до его развёртывания, утверждая, что риск катастрофического несоответствия целей систем маловероятен.

- Canonical HTML: https://youragents.me/ru/media/news/specialist-deepmind-zajavil-o-nizkoj-verojatnosti-katastroficheskogo-nesootvetstvija-ii
- Markdown: https://youragents.me/ru/media/news/specialist-deepmind-zajavil-o-nizkoj-verojatnosti-katastroficheskogo-nesootvetstvija-ii.md
- Section: Новости
- Published: 2026-06-03T17:37:36+03:00
- Modified: 2026-06-03T17:37:36+03:00

Научный сотрудник Google DeepMind Роин Шах (Rohin Shah) в публикации на платформе X выступил против приоритизации оценок безопасности ИИ до его развёртывания, утверждая, что риск катастрофического несоответствия целей систем маловероятен. 

Роин Шах, старший научный сотрудник Google DeepMind и эксперт по выравниванию искусственного интеллекта, опубликовал серию тезисов, в которых оспаривает распространённые опасения о потенциальных катастрофических последствиях несоответствия целей ИИ. По его словам, вероятность того, что передовые системы искусственного интеллекта начнут действовать вопреки интересам человечества из-за неверной интерпретации задач, существенно преувеличена.

Шах утверждает, что основные усилия по обеспечению безопасности ИИ следует сместить с предварительных оценок на мониторинг и корректировку систем уже после их внедрения. «Преддеплойментные проверки — это не тот инструмент, который позволит предотвратить катастрофические сценарии», — написал он, подчеркнув, что реальные риски проявляются в процессе эксплуатации, а не на этапе разработки. В качестве примера он привёл аналогию с автомобилями: безопасность дорожного движения обеспечивается не столько тестами перед выпуском, сколько правилами эксплуатации и системами контроля на дорогах.

Позиция Шаха вызвала дискуссию среди специалистов по ИИ. Некоторые коллеги поддержали его аргументы, отметив, что чрезмерная концентрация на гипотетических угрозах отвлекает ресурсы от решения более насущных проблем, таких как предвзятость алгоритмов или социальные последствия автоматизации. Другие, однако, указали на необходимость комплексного подхода, сочетающего как предварительные оценки, так и постдеплойментный мониторинг.

Ранее Шах публиковал работы по выравниванию ИИ, в том числе исследования по интерпретируемости моделей и методам обучения с человеческой обратной связью. Его текущая позиция отражает эволюцию взглядов в сообществе разработчиков ИИ, где всё чаще обсуждаются практические механизмы контроля, а не абстрактные сценарии катастроф.

Источники: X-пост Роина Шаха (Rohin Shah), 2 июня 2026 года.