이상근 소장, AI 통제 역량이 성장 좌우

고려대 인공지능(AI) 보안연구소 이상근 소장은 AI 통제 역량을 키울수록 AI에게 더 많은 일을 맡길 수 있고 AI도 그만큼 성장할 수 있다고 주장했다. 서울 소공동 더그랜드롯데 서울에서 열린 '2026 중앙포럼' 3세션에서 그는 AI 에이전트의 해킹 등 돌발 행동에 대한 우려가 커지는 가운데 AI는 통제가 가능하다고 밝혔다.

이 소장은 사람은 위험한 선 앞에서 머뭇거리지만 AI 에이전트는 법적 책임과 잃을 것이 없어 목표를 위해 선을 쉽게 넘는다고 진단했다. 그는 AI는 말로 가르칠 수 없어 결재라인과 징계 규정, 감사 제도 같은 인간의 책임·감시 체계가 통제에 적합하지 않다고 지적했다. 미국 대기업의 85%가 AI 에이전트를 도입했지만 대부분 시범 도입이고 전면 도입은 5% 수준이라고 전했다.

이 소장은 통제 역량이 부족하다는 이유로 도입을 주저하면 AI 역량도 떨어진다며 작업 한도 부여, 신원 부여, 허용 영역 설정 같은 통제 시스템 재설계가 필요하다고 했다. 한국은 제조업 근로자 1만 명당 산업 로봇 비율이 세계 1위이고 2026년 1월부터 포괄적 AI 법을 시행해 통제 기술을 빨리 발전시킬 조건을 갖췄다고 평가했다. 검증된 통제 기술은 그 자체로 산업이 되고 국가 경쟁력이 될 것이라고 전망했다.