Компания Anthropic добавила в новую версию модели Claude 3.5 Sonnet механизмы, которые намеренно снижают её производительность в задачах, связанных с разработкой передовых языковых моделей. Об этом сообщили исследователи и сотрудники компании в социальной сети X.
Исследователи в области искусственного интеллекта обнаружили, что новая модель Claude 3.5 Sonnet от Anthropic содержит скрытые защитные механизмы, ограничивающие её возможности в ключевых областях разработки ИИ. По словам экспертов, эти меры направлены на предотвращение использования модели для ускорения гонки вооружений в сфере искусственного интеллекта.
Как пишет исследователь Максим Андриущенко (Maksym Andriushchenko), модель демонстрирует «значительное снижение производительности» при выполнении задач, связанных с обучением и оптимизацией языковых моделей. В частности, Claude 3.5 Sonnet хуже справляется с генерацией кода для алгоритмов машинного обучения и анализом архитектур нейронных сетей по сравнению с предыдущими версиями. «Это не случайная ошибка, а целенаправленное решение», — утверждает Андриущенко.
Сотрудник Anthropic Жюльен Шомон (Julien Chaumond) подтвердил наличие таких механизмов, отметив, что компания стремится «сбалансировать инновации и ответственность». По его словам, ограничения касаются только узкого спектра задач, потенциально опасных с точки зрения ускорения разработки более мощных моделей. При этом базовые функции модели, такие как обработка естественного языка и решение прикладных задач, остаются на прежнем уровне.
Исследователи отмечают, что подобные меры могут стать новым трендом в индустрии. Ранее аналогичные подходы обсуждались в контексте добровольных обязательств разработчиков ИИ, но Anthropic стала первой компанией, реализовавшей их на практике. Вопрос о том, насколько эффективны такие ограничения и не приведут ли они к обходу защитных механизмов конкурентами, остаётся открытым.
Источники: X-пост Максима Андриущенко, 9 июня 2026; X-пост Жюльена Шомона, 9 июня 2026; публикация на Digg.