Фонд OpenAI Foundation объявил о старте программы AI Resilience под руководством сооснователя компании Войцеха Зарембы (Wojciech Zaremba). Инициатива предусматривает финансирование исследований в области безопасности и устойчивости систем искусственного интеллекта на общую сумму $130 млн.
OpenAI Foundation, некоммерческое подразделение компании OpenAI, выделил $130 млн на программу AI Resilience, направленную на развитие технологий, снижающих риски, связанные с развитием искусственного интеллекта. Руководить инициативой будет Войцех Заремба, один из сооснователей OpenAI и глава отдела языковых моделей компании.
По словам Зарембы, опубликованным в официальном анонсе, программа сфокусируется на трех ключевых направлениях: повышении надежности ИИ-систем, разработке механизмов контроля за их поведением и создании инструментов для оценки долгосрочных последствий внедрения технологий. Финансирование получат как внутренние исследовательские группы OpenAI, так и внешние научные коллективы, отобранные на конкурсной основе.
Инициатива AI Resilience стала ответом на растущую обеспокоенность экспертного сообщества потенциальными угрозами, связанными с неконтролируемым развитием ИИ. Ранее в этом году OpenAI уже анонсировала создание специального комитета по безопасности, в который вошли представители совета директоров компании и независимые эксперты. Новая программа расширяет эти усилия, предоставляя ресурсы для практических разработок.
В числе приоритетных задач AI Resilience — создание стандартов для оценки уязвимостей ИИ-моделей, разработка методов предотвращения нецелевого использования технологий и исследование возможностей по интеграции систем безопасности на уровне архитектуры нейросетей. Ожидается, что первые гранты будут распределены до конца текущего года.
Программа также предусматривает сотрудничество с регуляторами и академическими институтами для выработки единых подходов к оценке рисков. Как отметил в комментарии для отраслевых СМИ сооснователь OpenAI Сэм Альтман (Sam Altman), «вопрос безопасности ИИ перестал быть теоретическим — он требует немедленных практических решений».
Источники: X-пост Войцеха Зарембы, 1 июня 2026 года; анонс OpenAI Foundation.