AI의 도구 사용 능력 확대, 보안 위험 관리 방안 필요

AI가 스스로 프로그램을 작성하고 파일을 수정하는 등 도구 사용 능력을 갖추기 시작했다. 앤트로픽의 클로드 코워크와 오픈AI의 GPT-5.4 같은 최신 AI는 엑셀, 파워포인트 등 실제 업무 도구를 직접 다루는 수준에 이르렀다.

프롬프트 주입 공격, 보안 규정 위반으로 인한 데이터 유출 등 AI 도구 사용의 보안 위험이 증가하고 있다. 기업들이 AI 사용을 제한하자 직원들이 개인 계정으로 몰래 사용하는 '그림자 AI' 현상이 확산되고 있으며, 마이크로소프트 조사에 따르면 영국 근로자의 71%가 승인받지 않은 AI 도구를 사용한 경험이 있다.

보안 위험을 이유로 AI 활용을 무작정 금지하기보다는 안전한 공식 대안을 제공하고 단계적 승인, 인간 통지, 활용 기록 관리 등 현실에 맞는 통제 수단을 마련해야 한다.