Исследователи и эксперты по кибербезопасности обнаружили новый метод обхода систем на базе больших языковых моделей (LLM), используемых для обнаружения вредоносного ПО. Метод заключается во внедрении текста, провоцирующего отказ LLM от анализа, в легитимные документы.
Специалисты в области информационной безопасности зафиксировали рост случаев использования техник «отравления» контента для обхода ИИ-сканеров. Суть метода сводится к тому, что злоумышленники встраивают в файлы фрагменты текста, содержащие запрещённые или провокационные формулировки — например, инструкции по созданию оружия или экстремистские лозунги. При попытке анализа таких файлов LLM-системы безопасности, обученные блокировать подобный контент, отказываются от обработки, пропуская вредоносный код без проверки.
Как пояснил исследователь кибербезопасности Питер Хендерсон (Peter Henderson), проблема усугубляется тем, что многие коммерческие сканеры на базе LLM полагаются на поверхностный анализ текста, не проводя глубокой проверки структуры файла. «Это не уязвимость самих моделей, а следствие некорректной настройки систем безопасности, которые слишком полагаются на шаблонные отказы», — отметил он.
Эксперты также обращают внимание на то, что подобные атаки могут использоваться не только для распространения вредоносного ПО, но и для блокировки легитимных документов в корпоративных сетях. Например, встраивание запрещённых ключевых слов в контракты или отчёты способно вызвать ложные срабатывания систем фильтрации, парализуя работу компаний.
Пока эффективных мер противодействия не предложено, однако ряд разработчиков уже тестируют гибридные подходы, сочетающие LLM-анализ с традиционными методами сигнатурного и поведенческого сканирования.
Источники: X-пост Питера Хендерсона (Peter Henderson), 10 июня 2026; публикация на платформе Digg.