Доцент кафедры компьютерных наук Мэрилендского университета Йекюн Ким (Yekyung Kim) опубликовала результаты исследования, согласно которым современные языковые модели страдают от «коллапса аргументации» — повторяют одни и те же доводы вместо формирования оригинальных суждений.
Исследование, проведенное командой под руководством Йекюн Ким, выявило системную проблему в работе крупных языковых моделей (LLM): при генерации аргументов они воспроизводят ограниченный набор шаблонных формулировок. В выборке из 1000 сгенерированных ответов на спорные темы уникальными оказались лишь 3,4% аргументов. Остальные повторяли ранее встречавшиеся в обучающих данных конструкции, часто с незначительными вариациями.
Авторы работы связывают это явление с особенностями архитектуры моделей и методами обучения. Как отмечается в публикации, LLM оптимизированы для воспроизведения наиболее вероятных последовательностей слов, а не для критического анализа или творческого мышления. «Коллапс аргументации» проявляется особенно ярко в дискуссиях на этические и социальные темы, где модели склонны воспроизводить распространенные клише вместо выработки самостоятельной позиции.
Результаты исследования обсуждались в экспертном сообществе. Профессор Уортонской школы бизнеса Итан Моллик (Ethan Mollick) в комментарии к публикации указал, что обнаруженный эффект может ограничивать применение LLM в образовательных и аналитических задачах, где требуется разнообразие точек зрения. В то же время исследователи из DeepMind Эндрю Лампинен (Andrew Lampinen) и Лука Амброджиони (Luca Ambrogioni) отметили, что проблема может быть частично решена за счет дообучения моделей на специализированных наборах данных с акцентом на оригинальность аргументации.
Работа Ким и коллег опубликована в репозитории препринтов и доступна для обсуждения научным сообществом.
Источники: X-пост Йекюн Ким, 8 июня 2026; репозиторий исследования Мэрилендского университета.