«Обратный эффект Даннинга-Крюгера»: как ИИ влияет на уверенность в когнитивных способностях
Исследователи из финского Университета Аалто обнаружили, что регулярное использование инструментов на базе искусственного интеллекта формирует у пользователей необоснованно высокую уверенность в своих когнитивных способностях. Учёные назвали этот феномен «обратным эффектом Даннинга-Крюгера».
В ходе исследования около 500 участников выполняли задания на логическое мышление из американского вступительного теста для юридических вузов (LSAT). Эксперимент был разделён на две группы: одна использовала ИИ для решения задач, другая работала самостоятельно. После каждого задания испытуемых просили оценить качество своих ответов.
Результаты показали, что пользователи с продвинутым уровнем владения ИИ-инструментами переоценивают свои способности значительно сильнее, чем новички. Фактически традиционный эффект Даннинга-Крюгера (когда люди с низкими результатами переоценивают себя, а эксперты недооценивают) в среде ИИ просто исчезает — практически все пользователи начинают переоценивать свои навыки.
Научная группа предполагает, что причиной является «когнитивная разгрузка» — ситуация, когда пользователи полностью доверяют результатам системы, не задумываясь и не проверяя их. Наблюдения показали, что большинство участников эксперимента просто копировали вопрос в ChatGPT и удовлетворялись первым полученным ответом, редко запрашивая дополнительные пояснения.
«Такой поверхностный уровень вовлечённости ограничивает количество сигналов, необходимых для калибровки уверенности и обеспечения точного самоконтроля», — отмечают исследователи.
По их мнению, поощрение дополнительного поиска информации могло бы обеспечить более эффективную обратную связь, усиливая метапознание пользователей.
Учёные подчёркивают, что людям необходимы платформы, развивающие метакогницию и критическое мышление. Например, пользователи могли бы получать больше пользы, если бы просили ИИ подробнее объяснять ход своих рассуждений вместо принятия готовых ответов.
Данное исследование поднимает важные вопросы о влиянии искусственного интеллекта на когнитивные процессы человека. В условиях, когда ИИ-инструменты становятся неотъемлемой частью образовательного процесса и профессиональной деятельности, понимание психологических эффектов взаимодействия с ними приобретает особую значимость.
Авторы работы предлагают разрабатывать интерфейсы ИИ-систем таким образом, чтобы они стимулировали критическое мышление и более глубокое вовлечение пользователей в процесс решения задач, а не просто предоставляли готовые ответы.