Группа исследователей в области искусственного интеллекта опубликовала стратегический документ «План А», предлагающий сценарий контролируемого развития сверхинтеллектуальных систем. Инициатива вызвала острые дискуссии среди специалистов по безопасности ИИ: одни называют её «наименее плохим вариантом», другие упрекают в плагиате и нереалистичных допущениях.
В открытый доступ выложен документ «План А» — долгосрочная стратегия управления развитием сверхинтеллектуального ИИ, рассчитанная до 2040 года. Авторы сценария, среди которых сотрудники ведущих лабораторий и независимые исследователи, предлагают модель «тотальной прозрачности исследований»: компании и государства должны открыто делиться всеми разработками в области ИИ, чтобы предотвратить гонку вооружений и снизить риски неконтролируемого развития технологий.
Ключевой механизм сдерживания в «Плане А» — концепция «взаимно гарантированного уничтожения вычислительных мощностей» (Mutually Assured Compute Destruction). Авторы утверждают, что угроза ответного уничтожения инфраструктуры удержит участников от агрессивных действий. При этом документ не упоминает более общую идею «взаимно гарантированного сбоя ИИ» (Mutually Assured AI Malfunction, MAIM), предложенную ранее Даниэлем Хендриксом (Dan Hendrycks), Лун Ваном (Lun Wang) и другими. Хендрикс в своём посте на X назвал это упущение «ошеломляющей небрежностью», граничащей с плагиатом, и потребовал исправить документ.
Сторонники инициативы подчёркивают, что «План А» предполагает постепенное наращивание возможностей ИИ, что позволит решать проблемы безопасности на каждом этапе. «Мы сможем годами изучать системы на соответствующем уровне развития, прежде чем доверить им критические решения», — написал Райан Гринблатт (Ryan Greenblatt), исследователь из OpenAI. Аджейя Котра (Ajeya Cotra), старший научный сотрудник Open Philanthropy, отметила, что полная прозрачность исследований стала бы «огромным шагом вперёд» в управлении рисками несоответствия целей ИИ и человечества.
Критики указывают на чрезмерный оптимизм сценария. Мариус Хоббхахн (Marius Hobbhahn), глава лаборатории Apollo Research, признал, что при первом прочтении посчитал план «нереалистичным», однако позже пересмотрел позицию: «Это действительно сложная проблема, и „План А“ — лучшее из имеющихся предложений». В то же время документ вызвал скепсис у части экспертного сообщества, которое считает, что для успеха стратегии «должно сойтись слишком много маловероятных факторов».
Авторы «Плана А» опубликовали документ на отдельном сайте, что вызвало недовольство у некоторых пользователей, привыкших к традиционным форматам научных публикаций. Инициатива стала поводом для обсуждения не только технических аспектов безопасности ИИ, но и коммуникационных барьеров между узкими специалистами и широкой аудиторией. Как отметил один из авторов под псевдонимом modest proposal, «доля людей за пределами „ИИ-пузыря“, которые знают о существовании таких рисков, близка к нулю».