Языковые модели и влияние контента на рассуждения: когнитивная перспектива

Почему языковые модели иногда совершают ошибки, аналогичные человеческим? Можно ли объяснить эти ошибки теми же когнитивными процессами, которые влияют на наши собственные решения? Этот вопрос волнует не только исследователей искусственного интеллекта, но и психологов, пытающихся понять, как именно содержание информации влияет на наше мышление. В этой статье мы рассмотрим, как современные языковые модели демонстрируют эффекты контента, схожие с человеческими, и как исследования в области когнитивной психологии помогают объяснить эти эффекты.

Что такое «эффект контента» в языковых моделях?

Недавнее исследование Dasgupta et al. (2022) показало, что языковые модели, такие как GPT, подвержены влиянию контекста и содержания текста, что проявляется в склонности к тем же самым логическим ошибкам, что и у человека [1]. Например, языковая модель может изменить свои рассуждения в зависимости от формулировки задачи, так же как человек поддается эффекту фрейминга, когда формулировка вопроса влияет на решение.

Контент и рассуждения в когнитивной психологии

Эффект контента в рассуждениях давно исследуется в когнитивной психологии. В одной из классических работ Tversky & Kahneman (1981) показали, что способ представления информации (фрейминг) может существенно влиять на принятие решений человеком. Например, при одинаковых условиях формулировка вопроса в терминах выигрыша или потерь изменяет склонность людей к риску: в ситуации выигрыша люди чаще выбирают безопасный вариант, а в ситуации потерь — рискованный [2]. Это демонстрирует, что контент оказывает прямое влияние на мышление и рассуждения человека.

Образование как фактор развития логического и последовательного мышления (Лурия, 1971)

Связь между образованием и логическим рассуждением была подробно исследована Александром Романовичем Лурией, одним из основоположников нейропсихологии и культурно-исторической теории психики. В своих работах, включая «Основы нейропсихологии» (1973), основанных на эмпирических данных, Лурия показал, что систематическое образование играет ключевую роль в развитии логического, последовательного и контекстно-независимого мышления у человека [4].

Лурия подчеркивал, что в условиях формального обучения человек осваивает более абстрактные формы рассуждений, а также приобретает способность оперировать категориями и понятиями, выходящими за пределы непосредственного сенсорного опыта. Например, в одном из его полевых экспериментов с представителями традиционных культур испытуемые часто опирались на конкретные жизненные примеры и контекст, тогда как участники с высоким уровнем образования демонстрировали способность к дедукции и обобщению. Таким образом, образование способствует развитию навыков логического мышления и уменьшает влияние контекста на процесс рассуждения [4].

Этот вывод актуален и для современных языковых моделей. Исследования Dasgupta et al. (2022) показывают, что языковые модели проявляют контент-зависимость, аналогичную человеческой [1]. Следовательно, разработка методов «образования» языковых моделей (например, обучения логическим задачам или критическому анализу текста) может повысить их способность к логическому и последовательному рассуждению.

Пути уменьшения зависимости от контента

Можно ли уменьшить зависимость языковых моделей от контента? Исследования в области когнитивной психологии показывают, что образование и развитие критического мышления у человека помогают смягчать влияние контекста [4]. Аналогично в области ИИ предпринимаются попытки обучения моделей синтетическому логическому рассуждению (Clark et al., 2020; Wu et al., 2021), а также методам самопроверки и корректировки своих выводов (Schick et al., 2021; Kadavath et al., 2022) [5–7]. Это открывает перспективы для обучения языковых моделей более стабильным формам рассуждений.

Слияние когнитивной науки и изучения языковых моделей

Таким образом, современное пересечение когнитивной психологии и исследований языковых моделей открывает уникальные возможности для двустороннего прогресса: с одной стороны, мы совершенствуем искусственный интеллект, делая его более надежным и человекоподобным; с другой стороны, мы начинаем лучше понимать, как сам человек мыслит и рассуждает. Исследования зависимости рассуждений от контента помогают не только уменьшить ошибки языковых моделей, но и позволяют ученым приблизиться к разгадке природы человеческого мышления, его уязвимостей и возможностей. В конечном итоге это знание может привести нас к созданию ИИ, который не просто воспроизводит тексты, а рассуждает, анализирует и учится так, как этого требует человек — и одновременно проливает свет на одну из величайших загадок науки: как именно человек думает.

Список литературы:

1. Dasgupta I., Lampinen A. K., Chan S. C. Y., Sheahan H. R., Creswell A., Kumaran D., McClelland J. L., Hill F. «Language models show human-like content effects on reasoning» arXiv 2022 // https://arxiv.org/abs/2207.07051
2. Tversky A., Kahneman D. «The framing of decisions and the psychology of choice» Science 1981 // https://doi.org/10.1126/science.7455683
3. Evans J. St. B. T. «Bias in human reasoning: Causes and consequences» Lawrence Erlbaum Associates 1989
4. Лурия А. Р. «Основы нейропсихологии» МГУ 1973
5. Clark P. et al. «Think you have solved question answering? Try ARC, the AI2 Reasoning Challenge» arXiv 2020 // https://arxiv.org/abs/1803.05457
6. Wu Y. et al. «Zero-shot reasoning with millions of examples» arXiv 2021
7. Schick T. et al. «Self-consistency improves chain of thought reasoning in language models» arXiv 2021 // https://arxiv.org/abs/2203.11171

Автор: Чернов А.В.
Текст публикуется в авторской редакции