Китайская компания Zhipu AI представила модель, которая, по данным независимых тестирований, не уступает Claude Mythos от Anthropic в выявлении уязвимостей в коде, что обострило дискуссию о рисках использования ИИ в кибербезопасности. Обсуждение развернулось после публикаций экспертов в социальной сети X.
В конце июня в социальной сети X появились сообщения о том, что модель Zhipu AI, разработанная китайским стартапом, продемонстрировала результаты, сопоставимые с Claude Mythos от Anthropic в задачах обнаружения уязвимостей в программном обеспечении. Речь идёт о тестах, проведённых независимыми исследователями, которые сравнивали способности моделей выявлять критические уязвимости в коде — например, уязвимости типа «инъекция» или «переполнение буфера».
Ключевым аргументом в обсуждении стало не только техническое достижение Zhipu AI, но и потенциальные риски двойного применения таких моделей. Как отметил Аарон Леви (Aaron Levie), генеральный директор Box, в своём посте, «возможность быстро находить уязвимости — это палка о двух концах: она полезна для защиты, но и опасна в руках злоумышленников». Леви подчеркнул, что развитие подобных технологий требует более жёсткого регулирования, особенно в контексте геополитической конкуренции.
Сторонники открытого доступа к моделям, в свою очередь, указывают на то, что ограничения могут замедлить прогресс в кибербезопасности. Так, Гильермо Раух (Guillermo Rauch), основатель Vercel, в комментарии к обсуждению написал: «Если одна сторона будет сдерживать развитие ИИ, другая получит преимущество — и это касается не только защиты, но и нападения». При этом Раух не стал отрицать необходимость баланса между инновациями и безопасностью.
Zhipu AI, основанная в 2019 году при поддержке Университета Цинхуа, уже привлекала внимание как один из лидеров китайского ИИ-рынка. Компания позиционирует свои модели как инструменты для корпоративных клиентов, однако результаты тестов вызвали вопросы о прозрачности их использования. Официальных комментариев от Zhipu AI или Anthropic по поводу сравнительных тестов пока не поступало.
Дискуссия на X также затронула тему оценки рисков: как пишет пользователь под ником Teortaxes, «проблема не в самой модели, а в том, кто и как её применяет». В качестве примера он привёл недавние случаи, когда инструменты на базе ИИ использовались для автоматизации атак на уязвимые системы.
Источники: X-пост Аарона Леви, 28 июня; X-пост Гильермо Рауха, 28 июня; публикация на Digg.