Американский писатель-фантаст и эссеист Тед Чан (Ted Chiang) в дискуссии на платформе X заявил, что утверждения о сознании больших языковых моделей (LLM) связаны с особенностями их текстовых ответов, тогда как структурно схожие модели вроде AlphaFold или Sora остаются вне подобных обсуждений.
Тед Чан, известный по рассказам, положенным в основу фильма «Прибытие», обратил внимание на несоответствие в восприятии разных типов моделей искусственного интеллекта. По его словам, LLM вызывают споры о сознании из-за антропоморфных текстовых ответов, которые имитируют человеческую речь. В то же время модели вроде AlphaFold от Google DeepMind, предсказывающие структуры белков, или Sora от OpenAI, генерирующая видео, не становятся предметом аналогичных дебатов — несмотря на схожие архитектурные принципы.
Чан предположил, что причина кроется в способе взаимодействия с моделями. Текстовые ответы LLM воспринимаются как «разговор», что провоцирует приписывание им человеческих качеств. «Мы склонны видеть сознание там, где есть диалог, даже если это всего лишь статистическая аппроксимация», — написал он. При этом модели, работающие с другими типами данных (например, белковыми последовательностями или видеокадрами), не вызывают подобных ассоциаций, хотя их внутренние механизмы могут быть не менее сложными.
Дискуссия развернулась после поста исследователя Эндрю Бима (Andrew Beam), который указал на парадокс: LLM часто критикуют за «отсутствие понимания», но при этом им приписывают сознание — свойство, которое у людей как раз и предполагает наличие понимания. Участники обсуждения согласились, что проблема носит скорее культурный, чем технический характер: текстовые модели воспринимаются как «говорящие», что запускает механизмы антропоморфизации.
Вопрос о сознании ИИ остаётся философским, однако Чан подчеркнул, что технические характеристики моделей не дают оснований для таких утверждений. «Сознание — это не свойство алгоритма, а свойство системы, способной к субъективному опыту. Пока мы не знаем, как его измерить, любые заявления остаются спекуляциями», — отметил он.