LG유플러스, 옵트에이아이와 AI 토큰 최적화 기술 개발

LG유플러스가 AI 모델 최적화 전문기업 옵트에이아이와 손잡고 AI 운영 효율을 높이는 '토큰 최적화' 기술 확보에 나섰다. 토큰은 AI가 질문을 이해하고 답변을 생성할 때 처리하는 데이터의 기본 단위로, 양사는 AI 모델을 경량화하거나 연산 과정을 개선해 처리 효율을 높일 계획이다.

LG유플러스는 실제 AI 서비스 운영 경험을 바탕으로 기술 검증과 적용을 담당하고, 옵트에이아이는 AI 모델을 더 가볍고 빠르게 구동하는 기술을 연구·개발한다. 현재 진행 중인 연구에서는 같은 GPU에서 처리할 수 있는 토큰량을 기존 대비 최대 4배 높였으며, GPU와 전력 사용량을 줄이면서 응답 속도와 서비스 품질을 높이는 것이 목표다.

LG유플러스는 확보한 기술을 자사 AI 서비스와 대규모 AI 인프라 운영에 단계적으로 적용할 방침이다. 이상엽 CTO는 AI 경쟁력이 같은 자원으로 얼마나 많은 토큰을 효율적으로 처리할 수 있느냐에 달려 있다며 파트너들과의 협력을 확대하겠다고 밝혔다.