◇CPU 수요 일으킨 ‘AI 에이전트’
델 최고경영진들은 19~21일(현지시간) 미국 라스베이거스에서 열린 ‘델 테크놀로지스 월드(DTW) 2026’에서 그래픽처리장치(GPU)에 이어 중앙처리장치(CPU) 수요가 급증하면서 메모리 공급 부족이 심화하고 있다고 진단했다. AI가 답변 생성을 넘어 데이터를 찾고 시스템을 호출하며 업무를 수행하는 ‘에이전트’ 형태로 진화하면서 CPU 수요가 급증한 영향이다.
GPU가 AI 모델의 답변 생성과 토큰 연산을 주로 맡는다면, CPU는 에이전트가 데이터를 조회하고 사내 시스템을 호출하며 작업 순서를 관리한다. AI가 ‘생각’하는 과정은 GPU가, 이를 ‘수행’하는 과정은 CPU가 맡는 구조다.
제프 클라크 델 부회장 겸 최고운영책임자(COO)는 “GPU와 CPU 비율이 1대 1에 가까워지고 있으며 CPU 주변에도 수많은 메모리가 들어가면서 새로운 수요가 만들어지고 있다”고 말했다. 이어 “메모리와 GPU·CPU 전반의 공급 부족은 단기간에 해소되기 어렵기 때문에 고객들은 충분한 리드타임을 확보해 인프라를 주문해야 한다”고 당부했다.
◇AI 비용 새 변수 된 ‘토큰노믹스’
프런티어 AI 모델 경쟁으로 추론 비용은 낮아졌지만 기업의 실제 AI 비용 부담은 오히려 커지고 있다는 진단도 나왔다. AI 활용이 확산되면서 단위당 비용 하락 폭보다 토큰 사용량 증가 속도가 더 빠르기 때문이다. 토큰은 AI가 텍스트를 처리하고 생성할 때 쓰는 기본 단위다.
클라크 부회장은 “추론 비용은 80% 이상 낮아졌지만 토큰 소비는 지난해 100조 개를 넘어서면서 기업 부담이 커지고 있다”며 AI 작업을 분산 처리할 인프라가 필요하다고 조언했다.
그는 ‘토큰 라우팅’ 개념도 제시했다. AI 요청을 무조건 대형 모델로 보내지 않고 작업 난도와 보안 수준, 비용에 따라 PC, 사내 데이터센터, 클라우드 중 적절한 처리 위치로 보내야 한다는 설명이다.
◇ ‘AI 확산=인력 감축’, 과도한 우려
AI 확산이 곧바로 인력 감축으로 이어진다는 우려는 과도하다는 분석도 나왔다. 델 경영진은 AI가 반복 업무를 줄이더라도 기업과 개인이 이를 통해 더 많은 문제를 해결하고 새로운 기회를 찾게 될 것으로 봤다.
마이클 델 델 테크놀로지스 회장 겸 최고경영자(CEO)는 “우리가 AI를 갖게 되면서 더 적은 사람으로 같은 일만 하면서 만족할 것이라고 보지 않는다”며 “우리는 언제나 해결하고 싶은 문제가 더 많고, 창조하고 싶은 혁신이 더 많으며, 추구하고 싶은 기회가 더 많을 것”이라고 강조했다.
기업이 요구하는 인재상도 달라졌다고 설명했다. 델은 AI 도구 활용 능력뿐 아니라 추론과 판단, 문제 해결 능력을 갖춘 인재의 생산성이 더 크게 높아질 것으로 예견했다. AI 결과를 업무 맥락에 맞게 검증하고 성과로 연결하는 역할은 여전히 사람의 몫이라는 의미다.
라스베이거스=
박진형 기자 jin@etnews.com
