AI 환각 문제, 책임 주체 찾기가 핵심

인공지능이 존재하지 않는 정보를 마치 실제인 것처럼 제시하는 '환각' 현상이 심화되고 있다. 노벨상 수상자 제프리 힌턴은 이를 버그가 아닌 지능의 구조적 특성이라 지적했으며, 인간도 기억을 재구성할 때 유사한 현상을 보인다고 설명했다.

앤트로픽의 AI 모델 클로드는 '클로드 헌법'을 통해 스스로의 윤리 기준을 설정하려 시도하고 있다. 그러나 전쟁 시뮬레이션 연구에서 클로드를 포함한 여러 모델은 핵사용을 선택했으며, 이란 공습에서 민간인 피해 발생 시에도 책임 주체가 명확하지 않았다.

환각을 제거하는 것보다 더 중요한 것은 그 이후 책임을 질 권위를 세우는 일이다. AI의 오류에 대해 누가 진정으로 책임지고 반성할 것인지 명확히 하지 않으면, 환각은 결국 인간의 책임으로만 남을 것이다.