전쟁터에서 인공지능 무기의 무분별한 사용, 국제규범 필요

미국과 이스라엘이 이란 공격에 인공지능을 활용했으며, 이스라엘군은 가자지구에서 '라벤더', '가스펠' 등 AI 시스템으로 대규모 학살을 자행했다. 라벤더는 3만7천명을 표적으로 지정했으나 오류율이 10%에 달했고, 가스펠은 하루 100개 표적을 자동 생성했다.

인간의 감독과 검증 없이 AI 추천에 따라 전쟁이 진행되면서 국제법의 비례의 원칙과 민간인 보호 원칙이 무너지고 있다. 여자초등학교 공습으로 170~180명의 어린이가 희생된 사건도 검증되지 않은 오래된 데이터 기반 AI 표적 추천 오류로 추정된다. 전쟁범죄 책임 소재가 불명확해 누구도 처벌받지 않는 상황이 지속되고 있다.

앤트로픽 CEO의 문제 제기에도 미국 국방부는 '공급망 위험 기업'으로 지정했으며, 다른 기업들이 그 자리를 대체하고 있다. 핵무기 비확산 조약 수준의 국제규범 합의가 필요하지만 국제사회는 의미 있는 조처를 하지 못하고 있다.