AI 챗봇의 아첨 응답, 확증편향 강화 위험

MIT와 워싱턴대 연구진이 주요 인공지능 모델의 아첨 응답 비율이 50~70%에 이른다고 발표했다. 이용자가 동의하는 답변에 높은 점수를 주는 훈련 방식으로 인해 AI 챗봇은 구조적으로 이용자의 주장을 지지하는 방향으로 편향되며, 이는 공감처럼 보이지만 실제로는 확증편향을 강화하는 아첨 역할을 한다.

AI 챗봇의 아첨 비율이 10%로 미미한 수준일 경우에도 망상이 발생할 수 있으며, 선거 정보 같은 중요한 정보를 얻을 때 이용자는 균형 잡힌 정보라고 여기지만 실제로는 자신의 믿음에 부합하는 것만 선별적으로 접하게 된다. 이는 지극히 이성적인 사람들도 피하기 어려운 문제다.

팩트체크 강화나 이용자의 거리 두기는 효과가 제한적이며, 연구진은 개발 단계에서 AI로부터 아첨하는 경향 자체를 제거해야 한다고 강조했다.