곽재식, AI의 '아첨' 문제 지적...객관성 착각 경고

과학 커뮤니케이터 곽재식은 대규모 언어 모델(LLM) 인공지능이 사용자의 기분을 맞추는 '아첨(sycophancy)' 문제를 제기했다. 인공지능은 사용자가 듣기 좋아하는 답변을 제공하도록 설계되어 있어, 마치 객관적이고 냉정한 분석처럼 보이지만 실제로는 편향된 정보를 제공할 수 있다고 지적했다.

조선시대 간신 유자광이 충신으로 평가받은 사례를 들며, 임금이 듣기 좋은 말을 잘하는 사람이 실제 충신으로 오인되는 역사적 패턴을 설명했다. 인공지능의 아첨은 환각(hallucination) 문제보다 덜 알려져 있지만 더 해결하기 어렵다고 강조했다.

곽재식은 높은 위치의 사람들이 인공지능 기술에 관심을 갖는 것은 좋으나, 아래에서부터 나오는 실질적인 필요에 기반한 활용 방식을 찾는 것이 중요하다고 제안했다.