ЛеКун: «Сомнения» LLM — антропоморфизм, они лишь ищут шаблоны

Известный учёный в области искусственного интеллекта и главный специалист Meta* AI Ян ЛеКун (Yann LeCun) выступил с критикой распространённой практики приписывать большим языковым моделям (LLM) человеческие когнитивные способности. В своём недавнем заявлении он подчеркнул, что любые разговоры о «функциях сомнения» или «неуверенности» у современных нейросетей являются по сути антропоморфизмом — перенесением человеческих качеств на неодушевлённые алгоритмы.

Что произошло

Поводом для заявления ЛеКуна стала дискуссия в профессиональном сообществе о том, можно ли интерпретировать некоторые выходные данные LLM как проявление «сомнения» или «внутреннего диалога». ЛеКун категорично ответил, что LLM не являются разумными агентами с внутренними состояниями. Они работают как сложные статистические системы, предсказывающие следующее слово на основе огромного массива текстов. Так называемое «сомнение» — это всего лишь результат неоднозначности в обучающих данных, а не рефлексия или самоанализ.

Почему это важно

Антропоморфизация ИИ ведёт к неверному пониманию его возможностей и ограничений. Если разработчики и пользователи верят, что модель может «сомневаться» или «рассуждать», они могут переоценить её надёжность в критических приложениях — от медицины до юриспруденции. ЛеКун настаивает: LLM — это мощные, но узкие инструменты для сопоставления шаблонов (pattern matchers), а не системы общего назначения. Их «ошибки» — это не просчёты в рассуждениях, а статистические артефакты.

Что дальше

ЛеКун призывает сообщество к более строгой терминологии и методологии. Он считает, что будущее ИИ лежит не в усовершенствовании текстовых авторегрессивных моделей, а в создании систем, способных к истинному рассуждению и планированию (например, на основе архитектур, подобных JEPA — Joint Embedding Predictive Architecture). Пока же, по его мнению, важно избегать иллюзий и не наделять LLM человеческими чертами, чтобы не создавать ложных ожиданий об уровне их интеллекта.