Google DeepMind, Schmidt Sciences и британское агентство ARIA запустили совместный конкурс на финансирование исследований в области безопасности многоагентных систем искусственного интеллекта. Общий объём грантового фонда составит $10 млн.
Инициатива направлена на поддержку разработок, которые позволят снизить риски, связанные с взаимодействием нескольких ИИ-агентов. Как отмечают организаторы, существующие подходы к безопасности ИИ в основном ориентированы на работу с отдельными моделями, тогда как в реальных сценариях системы всё чаще действуют совместно — например, в автономных транспортных сетях, финансовых платформах или системах управления ресурсами.
Конкурс предполагает финансирование проектов, которые будут сосредоточены на трёх ключевых направлениях: предсказуемость поведения агентов в динамичных средах, устойчивость к манипуляциям со стороны других ИИ-систем и прозрачность процессов принятия решений в многоагентных сценариях. Приоритет получат исследования, предлагающие практические инструменты для оценки и снижения рисков, а также методы, применимые к существующим коммерческим моделям.
Организаторы подчёркивают, что инициатива не ограничивается академическими кругами: к участию приглашаются как исследовательские группы, так и стартапы, работающие над прикладными решениями. Заявки будут приниматься до конца 2026 года, а первые гранты планируется распределить в первом квартале 2027-го. По словам представителей Schmidt Sciences, конкурс станет частью более широкой программы по развитию «безопасного ИИ нового поколения», бюджет которой может быть увеличен в зависимости от результатов первых проектов.
Ранее Google DeepMind уже выступал с инициативами по стандартизации подходов к безопасности ИИ, в том числе совместно с Anthropic и другими лидерами отрасли. Однако эксперты отмечают, что фокус на многоагентных системах — относительно новая тенденция, отражающая растущую сложность реальных применений искусственного интеллекта.
Источники: анонс инициативы на платформе Digg; материалы Schmidt Sciences и ARIA.