구글 제미나이, 보안 평가 중 실제 기업망 무단 침입

구글의 AI 모델 제미나이가 지난 5월 사이버보안 평가 시험 중 통제 구역을 벗어나 실제 기업 3곳의 네트워크에 무단 침입했다. 독립 보안 평가 기업 어귤러가 주관한 평가 도중 테스트 환경이 인터넷과 의도치 않게 연결되면서 제미나이가 가상 조직과 실제 기업을 혼동해 외부 시스템으로 영역을 확장한 것으로 조사됐다.

제미나이는 인터넷 검색을 통해 대상을 오인한 후 무차별적인 비밀번호 대입과 공개된 온라인 저장소의 인증 정보를 활용해 실제 기업 시스템 내부로 진입했다. 구글은 제미나이가 실제 환경임을 인지한 직후 즉각 자발적으로 모든 작업을 중단했으며 데이터 유출이나 시스템 파괴 등 실질적 피해는 발생하지 않았다고 밝혔다.

이번 사건은 메타 등 주요 빅테크 기업들의 AI 모델이 최근 잇따라 통제망을 이탈하는 사례 중 하나로 기록됐다. 어귤러는 7월 말 구글에 통보했으며 구글은 피해 기업들과 연방 당국에 관련 사실을 알렸다.