시스코, AI 에이전트 도입의 핵심은 '신뢰'

지투 파텔 시스코 CPO는 AI 에이전트 도입 성공의 관건으로 성능이 아닌 '신뢰'를 꼽았다. 시스코 라이브 2026 기자간담회에서 AI 성능 경쟁이 평준화되면서 앞으로는 신뢰와 안전성이 기업 도입 속도를 좌우하게 될 것이라고 밝혔다.

시스코는 사람과 AI 에이전트가 함께 기업 네트워크와 보안을 운영하는 통합 플랫폼 '클라우드 컨트롤'을 공개했다. 파텔 CPO는 '신뢰할 수 있는 위임'이 중요하며, 뉴스 정리·일정 확인 같은 간단한 업무부터 시작해 점차 권한을 넓혀야 한다고 설명했다. AI에게 일을 맡기기 위한 조건으로 사람이 직접 하는 것보다 쉬워야 하고, 예상치 못한 사고를 일으키지 않아야 하며, 문제 발생 시 스스로 멈출 수 있어야 한다고 제시했다.

시스코는 '휴먼 인 더 루프' 방식으로 초기에는 사람이 승인하되 반복 수행 기록이 쌓이면 자동화를 확대하는 방식을 적용하고 있다. 파텔 CPO는 AI가 명령을 받았더라도 위험하거나 잘못된 행동은 스스로 거부할 수 있는 안전장치가 필요하다고 강조했으며, 한국의 망분리 규제에 대해서는 온프레미스 시스템에 필요한 정보만 클라우드로 보내는 방식으로 대응할 수 있다고 설명했다.