Компания Anthropic призвала лаборатории, занимающиеся разработкой искусственного интеллекта, создать опции для временной приостановки обучения и развёртывания наиболее мощных моделей. Инициатива обсуждается в экспертном сообществе как возможный инструмент снижения рисков.
Anthropic выступила с предложением разработать механизмы, позволяющие при необходимости приостанавливать развитие так называемых «передовых моделей» (frontier models) — наиболее мощных систем искусственного интеллекта. В опубликованном блоге компании говорится о необходимости создания «опций паузы», которые могли бы применяться в случае выявления серьёзных угроз, связанных с безопасностью или непредсказуемым поведением моделей.
Инициатива не предполагает обязательного введения моратория на исследования, но предлагает заранее согласовать условия, при которых индустрия могла бы добровольно замедлить темпы разработок. По словам представителей Anthropic, речь идёт о создании «инфраструктуры для ответственного масштабирования», которая позволила бы реагировать на кризисные ситуации без хаотичных решений. В качестве примера приводится возможность временного ограничения доступа к вычислительным мощностям или приостановки обучения моделей, превышающих определённый порог производительности.
В экспертном сообществе инициатива вызвала смешанную реакцию. Директор по политике OpenAI Майлз Брандейдж (Miles Brundage) в своём посте на X отметил, что «пауза может быть полезной в экстренных случаях, но её реализация требует консенсуса между всеми ключевыми игроками». Критики, в том числе представители движения эффективного ускорения (e/acc), высказывают опасения, что подобные механизмы могут стать инструментом политического давления или искусственного сдерживания конкуренции. Основатель e/acc Бефф Джезос (Beff Jezos) заявил: «Пауза — это не решение, а отказ от ответственности за развитие технологий».
Anthropic подчёркивает, что предложение не направлено на ограничение инноваций, а наоборот — на создание условий для более предсказуемого и безопасного развития ИИ. В компании отмечают, что аналогичные механизмы уже существуют в других высокорисковых отраслях, таких как ядерная энергетика или биотехнологии, где предусмотрены процедуры экстренной остановки экспериментов. В ближайшие месяцы Anthropic планирует провести серию консультаций с другими лабораториями, регуляторами и научным сообществом для проработки технических и правовых аспектов инициативы.