Группа исследователей, включая бывшего сотрудника OpenAI Дэниела Кокотэйло (Daniel Kokotajlo), опубликовала сценарий развития искусственного интеллекта до 2040 года, предлагающий альтернативу гонке за создание сверхразумных систем. Документ, получивший название «План А», предполагает замедление разработок, повышение прозрачности и децентрализацию доступа к технологиям.
В опубликованном сценарии «AI 2040» авторы — среди которых Кокотэйло, Райан Гринблатт (Ryan Greenblatt) и другие участники проекта AI Futures — описывают оптимистичный, но регулируемый путь развития ИИ. Основная идея заключается в отказе от ускоренной гонки за создание сверхразумных систем в пользу поэтапного внедрения технологий с акцентом на безопасность и общественный контроль.
Ключевые элементы «Плана А» включают обязательную публикацию результатов исследований в области ИИ, поддержку конкуренции между десятками компаний по всему миру и механизм «взаимно гарантированного уничтожения вычислительных мощностей» (mutually assured compute destruction). Последний предполагает, что страны и корпорации будут воздерживаться от создания опасных систем, опасаясь ответных мер со стороны других игроков. Авторы подчеркивают, что такой подход позволит избежать концентрации власти в руках нескольких лабораторий и правительств.
Сценарий вызвал дискуссию в экспертном сообществе. Исследователь Ричард Нго (Richard Ngo), участвовавший в обсуждении документа, отметил, что, несмотря на разногласия с рядом положений, «План А» стал результатом серьезной работы и может стимулировать продуктивные обсуждения. В частности, Нго опубликовал собственные критические замечания, которые были включены в материалы проекта. Профессор Гарвардского университета Боаз Барак (Boaz Barak) поддержал идею прозрачности и децентрализации: «Вместо того чтобы запирать информацию и ограничивать доступ к передовым моделям, план предлагает максимально делиться знаниями и распространять технологии».
Однако не все отнеслись к инициативе положительно. Один из пользователей X обвинил авторов в продвижении «биометрического контроля» под видом регулирования ИИ, назвав «План А» прикрытием для подготовки к передаче власти сверхразумным системам к 2040 году. Критик утверждал, что предложенные меры, такие как замедление разработок до указанного срока, на самом деле направлены на завершение создания инфраструктуры для тотального контроля. Эти обвинения не нашли подтверждения в самом документе, но отражают опасения части сообщества.
Сценарий «AI 2040» продолжает серию прогнозов проекта, начатую с публикации «AI 2027». Как отметил исследователь Нил Нанда (Neel Nanda), подобные работы, даже если они окажутся неточными, полезны для осмысления будущего ИИ. Документ доступен в блоге авторов.