MS 나델라, AI 통제에 '비상 제동장치' 제안

사티아 나델라 마이크로소프트 최고경영자는 강력한 AI 모델을 내부자 위험처럼 다뤄야 한다며 비상 정지 장치 도입을 제안했다. 정보 제공과 통제권을 분리해 권한 있는 사람이 언제든 모델을 중단할 수 있어야 한다는 설명이다.

그는 기업이 내부자에게 적용해온 신원 확인, 권한 제한, 활동 기록 지침을 AI에도 동일하게 적용할 수 있다고 봤다. 중대한 의사결정을 단일 AI에 맡기지 않고 행동 기록을 위·변조 불가능하게 남기며 외부 독립 감사를 받는 방안도 제시했다.

나델라 CEO는 대형 AI 사고 발생 시 원인과 경위를 업계가 공유해 안전장치를 함께 강화해야 한다고 촉구했다. 그는 글에서 기존 'AI' 대신 '슈퍼지능(SI)'이라는 용어를 사용해 기술 수준에 대한 인식 전환을 시사했다.