K-방산, AI 무기체계 신뢰성 검증 체계 구축 필요

분쟁 지역에서 AI 표적 선정 시스템이 수만 명의 표적 목록을 자동 생성하고 오폭 허용 기준까지 결정했다는 보도가 나왔다. K-방산의 글로벌 시장 확대와 함께 AI 탑재 무기체계의 판단 근거와 신뢰성 검증을 요구하는 목소리가 점점 커지고 있다.

현재 국내 방산 담론은 미국 방산 공급망 참여를 위한 사이버보안 성숙도 인증(CMMC)에만 집중되어 있으나, 국제사회가 실제로 요구하는 것은 해킹 방어력과 AI 판단 결과의 신뢰성을 동시에 검증하는 것이다. 미군은 이미 DoD AI 사이버보안 위험관리 테일러링 가이드와 NIST AI 위험관리체계(AI RMF)로 이에 답하고 있다.

국방 사이버보안 위험관리체계(K-RMF)에 AI 보안 활동을 추가하면 사이버보안과 AI 신뢰성을 하나의 인가 프로세스로 동시에 검증할 수 있다. 이는 AI 판단마다 승인하는 'Human-in-the-Loop'를 넘어 인간이 상시 감시하며 개입할 수 있는 'Human-on-the-Loop' 구조를 실현하는 것으로, K-방산의 완전성을 증명하는 강력한 검증 패키지가 될 것이다.