AI 허위정보, 기업 시장 리스크로 부상

AI가 만든 허위 정보가 단순한 가짜뉴스를 넘어 기업의 투자와 경영을 흔드는 시장 리스크로 떠올랐다. 제27회 세계지식포럼 'AI 시대 데이터 신뢰 구축' 세션에서 전문가들은 AI 시대 기업 경쟁력의 핵심으로 신뢰할 수 있는 데이터를 꼽았다.

챕스비전의 올리비에 델렌바흐 창업자 겸 회장은 AI 활용 결정에 대한 책임은 기업에 있다고 강조했다. 미국·이란 전쟁 중 중동 정유시설이 공습받았다는 가짜 정보가 자동매매 시스템에 유입돼 관련 주식이 대량 매도됐고, 거짓으로 확인된 뒤에야 주가가 회복됐다. 다우존스의 잉리트 페르스휘런 데이터·AI 총괄은 검증되지 않은 데이터로 모델을 학습시키는 것이 위험하다고 지적했다.

전문가들은 AI가 범용으로 활용될수록 잘못된 정보가 낳는 위험이 더 커질 것으로 내다봤다. 델렌바흐 회장은 한 AI의 판단을 다른 AI가 검증하는 'AI 레드팀' 방식을 대안으로 제시했다. 모든 정보가 의심받는 상황을 막기 위해 사회가 공유할 신뢰의 기준 축이 필요하다는 목소리도 나왔다.