Компания Anthropic, разработчик модели искусственного интеллекта Claude, отвергла утверждения о том, что обнаруженные Amazon уязвимости в системе привели к ограничениям на федеральное распространение технологии. Информация появилась на фоне обсуждений в профессиональном сообществе.
Сообщения о возможных проблемах с безопасностью модели Claude начали распространяться после публикаций в социальной сети X, где разработчики и исследователи обсуждали обнаруженные Amazon методы обхода встроенных защитных механизмов (jailbreak). По словам участников дискуссии, эти уязвимости могли стать причиной временных ограничений на использование модели в государственных структурах США.
Anthropic официально не комментировала детали инцидента, однако представители компании заявили, что «никаких федеральных запретов на распространение Claude не вводилось». Источник в компании уточнил, что речь идет о внутренних проверках, которые не повлияли на доступность продукта для существующих клиентов.
В центре обсуждения оказался пост исследователя Тео Брауна (Theo Browne), основателя платформы t3.gg, который привел пример успешного обхода защитных механизмов Claude с помощью специально сконструированных запросов. Браун отметил, что подобные уязвимости характерны для большинства современных языковых моделей, однако их обнаружение в продуктах, используемых крупными корпорациями и государственными структурами, вызывает особое беспокойство.
Ранее Amazon, один из ключевых инвесторов Anthropic, действительно проводил аудит безопасности моделей Claude в рамках подготовки к интеграции в собственные облачные сервисы. По данным участников обсуждения, результаты проверки были переданы в Anthropic для устранения выявленных недостатков, однако прямой связи между этими работами и предполагаемыми ограничениями не установлено.
Вопрос о безопасности крупных языковых моделей остается одним из ключевых для регуляторов и корпоративных заказчиков. В мае Министерство торговли США опубликовало рекомендации по оценке рисков ИИ-систем, где особое внимание уделяется именно методам обхода встроенных ограничений.