Сотрудник OpenAI Лун Ван (Lun Wang) заявил о растущей поддержке идеи условных пауз в разработке систем искусственного интеллекта накануне этапа рекурсивного самоулучшения. Дискуссия развернулась среди исследователей и предпринимателей в области ИИ.
В сообществе разработчиков искусственного интеллекта набирает популярность идея взаимных соглашений о временном прекращении работ по созданию систем, способных к рекурсивному самоулучшению. Об этом в социальной сети X написал сотрудник OpenAI Лун Ван (Lun Wang), известный под ником @tszzl. По его словам, всё больше специалистов поддерживают концепцию «условных пауз» — мораториев, которые вступают в силу при достижении определённых технических или организационных условий.
Ван не уточнил, какие именно компании или исследовательские группы готовы присоединиться к такой инициативе, однако его пост вызвал активную реакцию среди коллег. В частности, предприниматель и сторонник ускоренного развития технологий (движение e/acc) Джефф Безос-младший (Beff Jezos) раскритиковал идею, назвав её «попыткой искусственно замедлить прогресс». В ответ Ван отметил, что речь идёт не о полном запрете, а о координированных действиях для снижения рисков неконтролируемого развития ИИ.
Дискуссия отражает растущую озабоченность в индустрии по поводу потенциальных угроз, связанных с созданием систем, способных самостоятельно совершенствовать свои алгоритмы. Ранее подобные идеи озвучивали представители других лабораторий, включая DeepMind и Anthropic, однако конкретных механизмов реализации таких соглашений пока не предложено. Эксперты указывают на сложность определения критериев, при которых мораторий должен вступать в силу, а также на риск недобросовестного поведения отдельных участников рынка.
В своём посте Ван сослался на недавний доклад Института будущего жизни (Future of Life Institute), где анализируются сценарии развития ИИ-систем с рекурсивным самоулучшением. Документ подчёркивает необходимость международной координации для предотвращения гонки вооружений в этой сфере.