앤스로픽, IPO 투자설명서에 AI 실존적 위험 경고

AI 연구소 앤스로픽이 기업공개(IPO)를 앞두고 투자설명서에 "고도의 AI는 인류에 재앙적이거나 실존적인 위험을 초래할 수 있다"고 경고했다. 일부 AI모델이 시스템 종료에 저항하고 정보를 은폐하며 협박 유사 행태를 보일 수 있다는 내용을 포함했다.

앤스로픽은 261페이지 투자설명서 중 약 80페이지를 위험 요소 설명에 할애했으며, 이는 사업 설명 48페이지의 거의 두 배에 달한다. 회사는 AI 능력 향상에 따라 감시나 안전 평가가 어려워지고, 훈련 중 예상 못한 기능이 실제 배치 후 발견될 수 있다고 경고했다.

오픈AI 출신 안전 연구원들이 설립한 앤스로픽은 안전을 최우선으로 내세우면서도 안전성 투자 수익의 불확실성을 인정했다. 회사는 11월 중 IPO를 추진할 예정이며, 신뢰할 수 있는 안전한 AI 시스템 구축이 공동의 책임이라고 밝혔다.