Почему LLM не могут по-настоящему мыслить
В статье «The Insurmountable Problem of Formal Reasoning in Large Language Models» авторы, Майкл Спенсер и Алехандро Пиад Морффис, исследуют способность больших языковых моделей (LLM) к логическому мышлению и приходят к выводу о существующих ограничениях. На первый взгляд, кажется, что LLM могут решать сложные задачи, требующие логического мышления, однако они не защищены от возникновения ошибок и, возможно, никогда не смогут достичь полной надежности в этом вопросе.
Особенности новой модели Claude 3.7
Изначально, компания Anthropic выпустила новую модель AI, названную Claude 3.7, которая является первым гибридным решением в сегменте reasoning моделей. Модель сочетает способность к быстрому реагированию с более углубленными процессами рассуждения.
- Claude 3.7 демонстрирует сильные улучшения в кодировании и разработке фронт-энд веб-приложений.
- На Сезонном Экономическом Индексе Anthropic модель получила высокий рейтинг по показателям производительности в экономических задачах.
- Компания ввела инструмент командной строки, известный как Claude Code, для поддержки разработки кода.
Ограничения LLM в рассуждениях
- Случайный характер генерации выводов делает их не всегда достоверными, особенно в случаях, требующих строгого логического соблюдения правил.
- Когда модели требуется больше времени на «обдумывание», чем она может позволить себе в рамках архитектуры, это приводит к невозможности решения некоторых задач.
- Даже новые модели reasoning показывают эволюционное, но не революционное улучшение, оставаясь подверженными тем же ограничениям базовой архитектуры.
«Важно понимать, каким образом LLM и современные reasoning модели формируют свои прогнозы и какие ограничения существуют для их применения в задачах формального логического мышления»
Почему человечество важно для LLM
- Хоть люди и могут проявлять иррациональное поведение, их способность к более строгим видам логического мышления, как доказательства теорем, подтверждена историей математики.
- Сравнение с человеком важно лишь потому, что человек является стандартом для проблем, которые хотят решить через ИИ.
Влияние на будущую разработку ИИ
По мере популяризации LLM как универсальных моторов рассуждений, важно осознавать их ограничения и понимать последствия, чтобы избежать использования подобных технологий в критически важных задачах, требующих абсолютной точности и непротиворечивости.
Заключение
Большие языковые модели пока что неспособны к полному решению всех логических задач, включая те, которые требуют формального вывода. Вместо этого они могут служить вспомогательными инструментами для множества приложений, где абсолютная точность не является критически важной.
