О чём исследование
Большие языковые модели становятся неотъемлемой частью человеческой культуры, кардинально меняя способы производства, передачи и использования информации. Группа учёных во главе с Рикардом Золе из Университета Помпеу Фабра предложила рассматривать распространение LLM через призму вирусной модели.
Подход позволяет объяснить, как использование языковых моделей распространяется по населению, встраиваясь в когнитивные и культурные практики людей. Авторы моделируют переходы между тремя состояниями пользователей:
- Несвязанные пользователи — те, кто не использует LLM или использует минимально;
- Связанные пользователи — активно применяющие LLM в работе и жизни;
- Постоянно зависимые пользователи — люди, у которых использование моделей стало неотъемлемой частью когнитивных процессов.
Точки перелома и технологическая блокировка
Ключевой вывод исследования — социальная трансмиссия, восстановление и коллективное подкрепление создают условия для критических точек и технологической блокировки (lock-in).
Происходит следующее: при пересечении критического порога даже небольшой рост в адаптации LLM может запустить лавинообразный эффект, при котором население стремительно переходит в состояние стойкой зависимости. Парадокс в том, что этот процесс сопровождается абrupt-ными потерями когнитивных компетенций — люди теряют навыки, которые раньше развивали самостоятельно.
Как отмечают авторы, «малые увеличения в адаптации могут вызвать быстрые популяционные сдвиги в сторону стойкой зависимости с резкими потерями когнитивной компетентности».
Когнитивный иммунитет
Однако исследование не является пессимистичным прогнозом неизбежного технологического подчинения. Учёные определили условия для формирования «когнитивного иммунитета» против такой зависимости:
- Снижение социальной трансмиссии использования LLM (например, через осознанное ограничение распространения);
- Повышение обратимости — создание условий, при которых люди могут легко отказаться от использования моделей без серьёзных потерь в производительности.
Модель указывает на возможность активного управления процессом адаптации технологии: общество может выбрать траекторию, которая максимизирует преимущества LLM, избегая глубокой зависимости.
Более широкий контекст
Исследование подчёркивает, что распространение LLM может привести к нелинейным коллективным переходам со значительными последствиями для когнитивной автономии человечества. Авторы применяют инструментарий физики сложных систем и эволюционной биологии для анализа социотехнического явления, что открывает новый угол зрения на взаимодействие человека с искусственным интеллектом.
Работа была поддержана авторским коллективом, включившим помимо Золе также Джулио Руффини, Франческу Кастальдо, Марко Туччио, Луиса Ф. Сеоане, Манлио де Доменико, Сантьяго Ф. Елену, Дэвида К. Кракауэра и Майкла Левина — специалистов в области физики, нейронаук и эволюции.