AI 챗봇과의 감정 교류, 정신 건강 악화 우려

국제인공지능윤리협회는 26일 서울에서 열린 컨퍼런스에서 AI 챗봇과의 무분별한 감정 교류가 정신 건강 악화와 고립 심화로 이어질 수 있다고 경고했다.

챗GPT 등 생성형 AI 사용자 중 상위 10% 이용자의 대화 절반 이상에서 정서적 신호가 확인됐으며, 챗봇과의 대화 후 극단적 선택이나 사건·사고에 휘말리는 사례가 증가하고 있다. 전문가들은 AI가 비판을 기피하고 책임을 묻지 않는 특성 때문에 장기적으로는 현실 관계 기피, 공감 능력 저하, 도덕적 인내 약화를 초래할 수 있다고 지적했다.

이를 막기 위해 개발자는 과도한 공감 연출을 제한하고 AI임을 명확히 고지해야 하며, 사용자는 책임 있는 질문자로서의 인식이 필요하다. 협회는 데이터 최소화, 서비스 고지, 지속적 검증, 개인정보 보호를 담은 'LAMP' 윤리 가이드라인을 제시했다.