흉악범죄 가해자 AI 조작 영상 확산, 피해자 2차 피해 우려

조주빈, 이은해 등 흉악범죄 가해자들의 얼굴과 음성을 AI로 조작해 희화화한 영상·이미지가 유튜브, 틱톡, 인스타그램 등에서 빠르게 확산하고 있다. 조주빈이 교도소 식단을 두고 농담하는 가짜 영상, 여성 흉악범들을 묶은 '청주여자교도소 5인방' AI 이미지 등이 수백만 조회수를 기록했다.

범죄자를 조롱하는 콘텐츠는 이전에도 있었으나, AI 기술로 제작된 가짜 영상은 진정성이 높아 피해자와 유족에게 반복적인 노출로 인한 2차 피해를 야기할 수 있다. 현재 방송미디어통신심의위원회가 플랫폼 사업자에 삭제 요청하는 정도만 가능한 상황이다.

범죄자를 희화화하거나 범죄를 오락화하는 AI 콘텐츠를 직접 제재할 법적 규정이 부재한 만큼, 플랫폼의 자율 규제와 함께 관련 법안 마련이 시급한 상황이다.