Учёные сделали то, что казалось невозможным. Они разделили память ИИ и его способность рассуждать. И результаты этого эксперимента оказались интересными.
Современные модели, такие как OpenAI GPT-5, демонстрируют 2 основные функции. Память — воспроизведение информации из обучения, и рассуждения — решение новых задач. Исследователи доказали, что при работе этих функций модели обращаются к разным зонам в своей архитектуре.
Разделение оказалось удивительно чётким. Удалив отвечающие за память участки, учёные на 97% лишили модель способности воспроизводить усвоенные данные, но оставили возможность логически рассуждать.
А при обработке арифметических операций модель обращается к участкам архитектуры, отвечающим за память, а не за рассуждения. Когда у неё удаляли механизмы памяти, качество выполнения математических операций падало на величину до 66%. А с задачами на логику она продолжала работать практически на исходном уровне.
Это объясняет, почему модели искусственного интеллекта испытывают трудности с математикой без внешних инструментов. Они пытаются вспомнить арифметические действия из обучающих массивов, а не производить вычисления. Как школьник, который зазубрил таблицу умножения, но не разобрался, как это работает.