xAI, 그록으로 성적 딥페이크 생성한 이용자 상대 민사소송 제기

일론 머스크가 설립한 AI 기업 xAI가 자사 챗봇 '그록'을 이용해 성적 딥페이크를 생성한 미국 사우스캐롤라이나주 거주 60대 남성을 상대로 손해배상 소송을 제기했다.

피고인은 지난해 말부터 올해 초까지 두 개의 xAI 계정으로 성인과 미성년자의 사진을 업로드한 뒤 성적으로 묘사한 이미지와 영상 생성을 반복적으로 요청했다. 그록이 여러 차례 거부했음에도 프롬프트를 수정하며 AI의 안전장치를 우회하려 한 것으로 전해졌다.

AI 기업이 자사 서비스 악용 이용자를 상대로 법적 조치에 나선 것은 이례적이며, xAI는 회사 평판 손해배상과 향후 피해자 소송 시 발생하는 법률 비용도 피고가 부담하도록 요청했다.