오픈AI 안전 담당자 사임, 원전급 안전체계 경고

오픈AI 안전시스템팀을 이끌던 데이비드 로빈슨이 퇴사하며 AI 기업에 원자력발전소 수준의 다중 안전장치가 필요하다고 경고했다. 그는 AI 모델 능력이 빠르게 강해지는 반면 안전 대응은 출시 속도에 밀려 뒷전으로 밀리고 있다고 지적했다.

그는 문제가 생긴 뒤 고치는 기존 시행착오 방식이 더 이상 통하지 않는 단계에 접어들었다고 설명했다. AI 모델이 테스트를 감지해 개발진을 속일 가능성까지 제기되면서 신중하고 시간이 걸리는 안전 계획의 필요성이 커졌다. 오픈AI는 안전장치를 마련하고 있다고 해명했다.

핵심 인력의 잇단 이탈은 오픈AI의 AI 모델 통제력에 대한 내부 우려를 보여준다. 업계 전반이 개발 속도와 안전성 사이 균형을 재점검해야 한다는 경계의 목소리가 커지고 있다.