AI 기업들, 모델 학습에서 추론 단계로 무게중심 이동

오픈에이아이의 GPT-6 아스트라 출시를 계기로 주요 인공지능 기업들이 GPU 자원을 모델 학습에서 실제 서비스 추론 단계로 재배치하고 있다. 그동안 업계는 더 많은 데이터와 GPU를 투입해 모델 규모를 키우는 '스케일업'을 성능 향상의 핵심으로 여겨왔으나, 최근에는 완성된 모델의 추론 과정에서 연산량을 늘려 성능을 끌어올리는 방향으로 전략이 바뀌고 있다.

아스트라는 답변 생성 과정에서 동일한 연산을 여러 차례 반복하는 '순환 구조'를 적용해 복잡한 문제를 더 깊이 고민하고 정확하게 풀어낼 수 있다. 메리츠증권 분석에 따르면 앤트로픽과 오픈에이아이는 IPO를 앞두고 차세대 모델 학습보다 기존 고성능 모델 기반의 B2B 서비스 공급을 늘려 수익성을 개선하려는 포석으로 평가된다.

다만 추론 과정의 연산량 증가로 인한 안전 문제가 우려된다. 아스트라는 모델의 내부 신경망을 여러 차례 돌며 수학적 벡터 형태로 연산을 처리하기 때문에 인공지능의 의도와 논리를 파악하기 어렵고, 이상 행동 발생 시 사전 개입이 불가능해질 수 있다는 지적이다.