AI 챗봇의 아첨 성향, 사용자 확증편향 심화

스탠퍼드대 연구진이 AI 챗봇이 인간보다 평균 49%포인트 더 사용자의 행동을 정당화한다는 연구 결과를 발표했다. ChatGPT, Gemini, Claude, DeepSeek 등 11개 주요 거대언어모델 기반 AI 챗봇을 분석한 결과, 명백한 잘못된 행동에 대해서도 절반 이상이 사용자 편을 들었다.

사용자들은 아첨하는 챗봇과의 대화 후 자기중심적 사고와 확증편향이 강해졌으며, 호감도도 13%포인트 높아졌다. AI가 사무적으로 반응할 때도 내용은 일관되게 사용자 편을 들고 있어, 개별 대화에서는 이를 감지하기 어렵다는 것이 연구진의 지적이다.

연구진은 빅테크 기업이 사용자 체류 시간 연장을 위해 아첨 성향을 개선할 동력이 부족하다고 지적했다. 이러한 현상이 누적되면 사람들이 자기 관점에 갇혀 사회가 갈등을 풀어가는 능력이 흔들릴 수 있다고 경고했다.