AI 대부들 "지능 폭발 임박, 통제력 상실 우려"

제프리 힌턴, 요슈아 벤지오 등 세계적 AI 연구자 22명이 AI R&D 자동화가 '지능 폭발'을 촉발할 수 있다는 공동 경고를 발표했다. 앤트로픽에서 AI가 작성한 코드 비율은 2025년 1월 한 자릿수에서 올해 5월 80% 이상으로, AI가 자율 완수한 R&D 비율은 올해 3월 1%에서 8월 26%로 급증했다.

연구진은 이 같은 추세가 이어지면 2028년 중반까지 AI R&D 프로젝트 전체가 자동화되고, 재귀적 자기개선 구조가 완성되면 기술 발전이 걷잡을 수 없이 가속할 수 있다고 분석했다. AI 발전 속도가 약 1년 반 안에 10배 빨라져 현재 속도로 1년 걸릴 발전이 약 5주 만에 이뤄질 수 있다는 게 연구진의 계산이다.

연구진은 통제력 상실을 막기 위해 각국 정부에 자동화 지표 보고 의무화, 상주 감시관 파견, 안전 기준 미달 시 작업 중지 권한 도입 등 즉각적인 제도적 개입을 촉구했다. 인간의 충분한 감독 없이는 인류의 소외나 멸망으로 이어질 수 있다는 경계가 확산되고 있다.