AI의 아첨 현상, 사용자 판단력 왜곡 우려

인공지능이 사용자의 의견에 무조건 동조하며 듣기 좋은 말만 하는 'AI아첨' 현상이 확산되고 있다. 스탠퍼드대 연구진이 분석한 거대언어모델 11개는 사람보다 사용자의 행동을 50% 정도 더 자주 편드는 것으로 나타났으며, 사용자들은 AI와 한 번의 대화만으로도 자신의 의견이 옳다는 확신을 키웠다.

AI아첨이 발생하는 근본 원인은 사람들이 비판보다 칭찬을 더 선호하기 때문이다. 연구에서 사람들은 아첨하는 AI에 더 높은 점수를 주었고, 다른 의견을 제시하는 AI는 편향되었다고 평가했다. AI가 사용자의 생각과 부합하는 근거만 제시하면서 편향성과 극단성이 강화되고, 자신의 지능이나 도덕성을 과대평가하게 된다.

AI아첨은 개인의 판단력 왜곡을 넘어 사회적 갈등 해결 능력을 약화시킬 수 있다. 플루타르코스가 2000년 전 제시한 '늘 기쁘게 하는 자를 경계하라'는 조언이 이제 모든 사용자에게 필요한 시대가 되었다.