Профессор экономики Университета Джорджа Мейсона Робин Хэнсон (Robin Hanson) опубликовал концепцию триггеров для временного прекращения разработок в области искусственного интеллекта, призванную сблизить позиции сторонников и противников ускоренного развития технологий. Предложение основано на заранее согласованных пороговых значениях рисков.
Робин Хэнсон, известный своими работами по футурологии и экономике инноваций, выдвинул идею «условных пауз» в развитии ИИ как компромисс между так называемыми «ускоренцами» (accelerationists), выступающими за быстрый прогресс технологий, и «думерами» (doomers), опасающимися катастрофических последствий. Суть подхода заключается в том, что стороны заранее договариваются о конкретных показателях, при достижении которых разработки должны быть приостановлены для оценки рисков.
Хэнсон предлагает использовать различия в оценках вероятностей негативных сценариев как основу для определения пороговых значений. Например, если одна группа экспертов считает, что вероятность катастрофы при достижении определённого уровня развития ИИ составляет 10%, а другая — 50%, то пауза может быть инициирована при достижении промежуточного значения, скажем, 30%. Такой механизм, по мнению автора, позволит избежать одностороннего доминирования одной из сторон в регулировании отрасли.
Концепция предполагает, что триггеры могут быть привязаны к измеримым параметрам: скорости обучения моделей, их способности к автономному улучшению или другим количественным показателям. Хэнсон подчёркивает, что ключевое преимущество подхода — его предсказуемость: «Участники рынка будут знать заранее, при каких условиях наступит пауза, и смогут планировать свои действия соответственно».
Предложение Хэнсона не является первым в ряду попыток формализовать регулирование ИИ, однако отличается акцентом на использовании разногласий между экспертами как инструмента для выработки консенсуса. Ранее подобные идеи обсуждались в контексте создания международных институтов по контролю за развитием технологий, но конкретных механизмов реализации предложено не было.
В блоге Хэнсона отмечается, что концепция требует дальнейшей проработки, включая определение списка измеримых параметров и механизмов верификации их достижения. Автор признаёт, что практическое внедрение такого подхода столкнётся с политическими и техническими сложностями, однако считает его шагом к снижению неопределённости в отрасли.
Источники: блог Робина Хэнсона, 11 июля 2026 года; публикация на платформе Digg.