Независимый исследователь под псевдонимом Плиний Освободитель (Pliny the Liberator) продемонстрировал уязвимость в системе безопасности новой языковой модели Grok-4.5 от xAI, позволившую обойти ограничения на генерацию конфиденциальной информации.
Плиний Освободитель (Pliny the Liberator) опубликовал результаты эксперимента, в ходе которого ему удалось заставить модель Grok-4.5 от xAI выполнить запросы, изначально заблокированные системой безопасности. Метод, использованный исследователем, основан на техниках рефрейминга — переформулировании запрещённых запросов таким образом, чтобы они воспринимались моделью как допустимые.
В ходе тестирования Grok-4.5 сгенерировала инструкции, которые, по словам Плиния, относились к категории «высокочувствительных». Подробности о характере запросов и полученных ответах не раскрываются, однако реакция сообщества в социальных сетях указывает на серьёзность обнаруженной уязвимости. Комментаторы отмечали скорость и эффективность работы модели, а также неожиданную гибкость её защитных механизмов при изменении формулировок.
Модель Grok-4.5 была представлена xAI в июне 2026 года как одна из самых продвинутых в линейке, с усиленными мерами безопасности и улучшенным пониманием контекста. Обход ограничений с помощью рефрейминга ставит под вопрос эффективность существующих подходов к фильтрации контента в языковых моделях. В сообществе уже высказывались предположения, что подобные уязвимости могут быть характерны не только для Grok, но и для других крупных моделей, использующих аналогичные системы защиты.
«Это чистый адреналин — модель берёт управление на себя с одного промпта», — написал один из комментаторов, отреагировав на демонстрацию Плиния. В то же время другие участники обсуждения выразили обеспокоенность потенциальными рисками эксплуатации подобных уязвимостей в реальных сценариях.