생성형 AI 기반 범죄 급증, 정부·경찰 대응 강화

딥페이크·보이스피싱 등 AI 기반 범죄가 급속도로 증가하고 있다. 지난해 중앙디지털성범죄피해자지원센터가 접수한 디지털 성범죄는 1만7629건으로 전년 대비 4.7% 증가했으며, 딥페이크 등 합성·편집 피해는 16.8% 늘어났다.

정부는 AI 기반 온라인 성착취 선제적 대응 시스템을 도입해 SNS와 채팅앱의 성착취 정보를 24시간 자동 수집하고 있다. 선거 영역에서도 중앙선거관리위원회가 6월 지방선거에서 'AI 딥페이크 탐지 분석 모델'을 활용할 예정이며, 경찰청은 올해 R&D 예산 682억원을 딥페이크 탐지와 피싱 범죄 추적 기술 고도화에 투입한다.

보이스피싱 피해액이 사상 최초 1조원을 넘으면서 통신사와 경찰의 합동 대응이 강화되고 있다. 다만 해외 서버를 경유한 유포 구조와 콘텐츠전송네트워크 악용으로 인해 국가 간 공조의 중요성이 커지고 있으며, 절차적 제약으로 인한 수사 한계도 존재한다.