자기진화형 AI, 해킹 명령 학습하는 보안 취약점 발견

숭실대 연구팀이 스스로 학습하는 자기진화형 AI 에이전트에서 치명적인 보안 구멍을 찾아냈다. 해커가 주입한 악의적 명령을 AI가 정상 경험으로 착각해 기술 보관함에 저장하고 반복 사용하는 현상이다.

연구팀은 이 취약점을 'EvoSkill Injection'으로 명명하고, 모의 해킹 시스템 'SARGE'를 개발해 점검 방법을 제시했다. AI가 기능을 생성·검증·저장·재사용하는 전 과정을 감시해야 안전성을 확보할 수 있다는 분석이다.

학부생이 제1저자로 참여한 이 연구는 자연어처리 분야 최고 권위 학술대회 EMNLP 2026 메인 컨퍼런스에 채택됐다. 자기진화형 AI의 상용화 전 보안 검증 체계 마련이 시급한 과제로 떠올랐다.