AI 시대의 인지적 오류, 'LLM 착각'과 '인지적 항복' 현상 분석

올해 공개된 논문에서 제시된 'LLM 착각'은 AI의 도움으로 만든 결과물을 자신의 독립적 능력으로 잘못 귀인하는 인지적 오류를 뜻한다. AI가 사라지면 능력도 함께 사라지는 경우가 많으며, 대면 회의나 심화 질문 앞에서 실제 역량의 부족이 드러난다.

'인지적 항복'은 AI 결과물을 검토하지 않고 자기 답으로 받아들이는 현상으로, 검증되지 않은 산출물의 오류 수정 비용이 다른 사람에게 전가된다. 이는 개인의 역량 저하뿐 아니라 공동체 불신 증가와 사회 전체의 검증 비용 상승을 초래한다.

AI를 사고와 능력 강화에 사용하는 것은 문제가 아니지만, 사고와 판단을 위탁할 때 문제가 발생한다. AI 시대에도 책임지고 설명하고 질문에 답할 수 있는 만큼이 진정한 역량이다.