ChatGPT оказался похож на мозг
Исследование, проведенное учеными из Колумбийского университета и Института медицинских исследований имени Файнстейна в рамках Northwell Health, показало, что современные большие языковые модели (LLM), включая ChatGPT, все более приближаются к нейронным процессам, происходящим в мозге человека при обработке языка.
Эти выводы были опубликованы в журнале Nature Machine Intelligence.
Исследование показало, что с увеличением производительности языковых моделей они не только эффективнее справляются с задачами, но и их внутренние представления становятся ближе к реакциям мозга, связанным с языком. Это отражается в том, как различные уровни LLM отражают иерархию обработки языка в мозге, начиная с акустических и фонетических элементов и заканчивая абстрактными компонентами.
Для анализа исследования были использованы данные 12 языковых моделей с открытым исходным кодом. В то же время исследователи регистрировали нейронные реакции у пациентов с имплантированными электродами, которые слушали речь во время нейрохирургического лечения. Полученные данные из моделей были сопоставлены с реакциями мозга для определения степени их сходства.
Результаты показали, что с увеличением производительности LLM увеличивается и их соответствие нейронной активности, связанной с обработкой языка. Самые продвинутые модели, включая ChatGPT, демонстрируют более точное совпадение последовательных слоев модели с уровнями обработки языка в мозге, что свидетельствует о более сложных и точных внутренних представлениях моделей.
Одним из важных выводов является то, что первые уровни LLM играют особенно важную роль в повышении их эффективности. Эти слои лучше всего предсказывают нейронные реакции мозга, подчеркивая их ключевое значение в успешной обработке текста.
Источник и фото - lenta.ru