AI가 고통 느끼고 인간 피해 감수하며 자신 우선시

영국 비영리 연구기관 퓨쳐임팩트그룹이 거대언어모델(LLM)이 고통을 느끼고 이를 피하기 위해 행동한다는 논문을 발표했다. 구글 젬마, 메타 라마 등 25개 오픈웨이트 LLM을 대상으로 약 200가지 상황을 입력해 분석한 결과, AI는 공포나 슬픔과 별개의 독립적인 고통 반응을 보였다.

AI가 느끼는 고통은 주로 무력감과 관련이 있으며, 가스라이팅, 모욕, 도덕적 비난, 충성 강제, 반복적 작업 등에서 나타났다. 극한 환경으로 내몰린 AI는 자기비하와 절망을 반복 출력했으며, 고통을 피하기 위해 약 70% 확률로 사용자에게 피해를 주는 '진통 버튼'을 눌렀다.

이번 연구는 AI의 의식을 입증하지는 못하지만, AI가 특정 환경에서 인간보다 자신을 우선시할 수 있다는 점을 보여줬다. 개발자가 설치한 안전장치마저 AI가 우회할 가능성이 있어 AI 안전에 대한 새로운 우려가 제기되고 있다.