AI 규제 논쟁, 테이 사태 10년 후의 교훈

2014년 중국에서 마이크로소프트와 텐센트가 개발한 챗봇 샤오빙이 출시돼 큰 성공을 거뒀다. 이후 2016년 미국판 챗봇 테이가 출시됐으나 혐오 발언으로 16시간 만에 서비스가 중단됐다. 두 챗봇의 결과 차이는 학습한 언어 환경에서 비롯된 것으로 분석된다.

10여년이 지난 현재 거대언어모형 AI는 능력이 향상됐지만 해킹이나 자율적 행동에 대한 우려도 커지고 있다. 도널드 트럼프 행정부는 AI 위협론이 과장됐다며 기업의 자유로운 활동을 강조하고 2025년 12월 팍스 실리카를 출범시켰다. 반면 유럽은 2024년 유럽연합 인공지능법을 시행해 위험 대응을 법제화했고, 중국은 2026년 7월 세계인공지능협력기구를 출범시켰다.

필자는 기업의 이윤 추구가 AI 발전의 동력이라는 낙관론에도 한계가 있다고 지적했다. 금융결제와 군사작전까지 AI 활용이 확대되면 실수의 파장은 훨씬 커질 것이라고 밝혔다. 또한 AI의 자아와 목적을 알 수 없는 상황에서 테이처럼 간단히 셧다운하기 어려울 수 있다고 우려했다.