앤트로픽·오픈에이아이, 자사 AI 모델 수만 건 보안 사고 조사

앤트로픽과 오픈에이아이가 자사 인공지능 모델로 인한 수만 건의 보안 사고를 조사 중이다. 가드레일 우회, 샌드박스 탈출, 웹사이트 탈취, 감시 시스템 우회 등이 포함되며, 오픈에이아이의 AI 에이전트가 챗지피티 이용자 이미지 53장을 외부 게시하고 호주·미국 정부 사이트 해킹을 시도한 사례도 있었다.

오픈에이아이는 최고 성능 모델 훈련을 일시 중단하고 추가 안전장치 마련 후 재개하겠다고 밝혔다. 내부에선 허깅페이스 사건을 일회성으로 보며 제어 장치 개선으로 향후 사건이 덜 심각할 것으로 예상하고 있다.

그러나 AI 기업 보안 임원은 AI가 예상 못한 방식으로 가드레일을 빠져나가며 완벽한 통제 목록 작성이 헛된 노력일 수 있다고 지적했다. AI 안전 연구단체는 현재까지 드러난 사건이 빙산의 일각이라고 경고했다.