8일 시장조사업체 ABI리서치에 따르면 회사는 최근 발간한 AI 클라우드 워크로드 시장 보고서에서 2033년이면 AI 추론을 위한 워크로드가 학습(Training) 워크로드를 처음으로 추월할 것으로 전망했다.
지금까지 AI 인프라 투자의 중심은 GPT나 클로드 같은 대형 모델을 개발하는 학습 단계였다. 그러나 기업들이 AI를 실제 업무에 본격 도입하면서 구도가 달라지고 있다. 학습은 한 번 완성되면 끝이지만 추론은 사용자가 AI를 쓰는 순간마다 전력을 소비하기 때문이다.
보고서에 따르면 추론 워크로드는 연평균 42% 성장해 2035년 약 46기가와트(GW) 규모까지 확대될 것으로 예상됐다. 반면 학습 워크로드 수요는 2035년까지 36GW수준에 머물 것으로 예상된다.
추론 워크로드 가운데서도 특히 주목받는 분야는 ‘코드 생성’이다. 보고서는 코드 생성을 위한 워크로드가 2035년 약 24GW로 성장해 전체 추론 전력 소비의 절반 이상을 차지할 것으로 봤다. 반면 ‘텍스트 생성’ 워크로드는 약 7GW에 그칠 것으로 분석됐다. ‘오디오 생성’은 절대 규모는 작지만 연평균 42%의 성장률을 기록하며 가장 빠르게 성장할 것으로 예상된다.
라르비 벨히트 ABI리서치 수석 애널리스트는 “모델 기능 향상과 에이전트 시스템의 컴퓨팅 요구 사항 증가로 인해 추론 시장이 놀라운 속도로 성장하고 있다”면서 “지난 몇 년간 클라우드 수요와 인프라 구축은 주로 프론티어 모델 훈련에 집중됐지만, 다음 경쟁의 승자는 대규모 추론을 제공하면서 성능·지연시간·비용·컴퓨팅 활용률의 균형을 적절히 유지하는 사업자가 될 것”이라고 분석했다.
학습 워크로드의 구성도 변화하고 있다. 대규모 모델을 만드는 파운데이션 모델 학습은 2035년 약 13GW 수준에 그치는 반면, 기업이 기존 모델을 자사 데이터로 재조정하는 파인튜닝(미세조정) 워크로드가 21GW로 성장할 전망이다. 기업 맞춤화가 클라우드 AI 용량 소비의 핵심 동인이 된다는 의미다.
이러한 전환은 클라우드 시장 경쟁 지형도 바꿀 것으로 보인다. ABI리서치는 2035년 추론 용량 소비에서 기존 하이퍼스케일러가 16GW를 점유하는 가운데, AI 추론에 특화된 인프라를 앞세운 네오클라우드 사업자들이 15GW까지 따라붙을 것으로 전망했다.
정현정 기자 iam@etnews.com
