김지현 SK수펙스 AI 위원회 부사장은 최근 전자신문과 인터뷰에서 “AI 에이전트는 업무 과정이 로그로 남기 때문에 기존 AI 도구보다 실제 성과를 추적하기 쉬워진다”면서 “미국 테크 기업을 중심으로 이미 토큰이 얼마나 활용되고 그에 따른 성과가 어느 정도인지를 따지는 흐름이 나타나고 있다”고 소개했다.
토큰은 AI 데이터센터가 AI 연산을 처리하기 위한 최소 단위를 말한다. 사용자가 입력한 문장이 토큰으로 쪼개져 모델에 들어가고 연산 과정과 최종 출력 과정에서도 토큰이 발생한다. AI가 확산되면서 기술 용어를 넘어 AI 서비스를 사고파는 가격표이자 기업의 생산성을 측정하는 경제 언어로 진화하고 있다.
SK그룹은 이 같은 변화에 대응해 ‘토큰 이코노미’를 주제로 한 사내 배포용 책 발간을 준비하고 있다. 김 부사장이 집필을 주도한 이 책은 경영진들이 토큰의 개념과 중요성을 이해할 수 있도록 마련됐다. SK AI위원회 차원에서 직접 책을 발간하는 것은 처음으로 토큰의 수요와 공급 측면을 모두 다룬다.
특히 AI 에이전트가 도입되면서 기업 입장에서는 토큰 사용량 관리 필요성이 커졌다. 생성형 AI는 월정액으로 요금이 부과되기 때문에 비용을 예측하기 쉽다. 반면 에이전트는 사람이 지시한 업무를 실행하면서 여러 도구를 자율적으로 호출하기 때문에 토큰 사용량이 크게 늘어날 수 있다. 기업 입장에서 예측하기 어려운 변동비가 되는 셈이다.
김 부사장은 “에이전트는 업무를 자율적으로 수행하면서 데이터베이스(DB), 전사자원관리(ERP), 각종 업무 도구를 호출하기 때문에 사용량에 따라 비용이 증가한다”면서 “기업 차원에서 토큰을 누가, 어떤 업무에, 얼마나 사용하는지 측정하고 통제하는 ‘토큰 거버넌스’ 체계 구축이 필요하다”고 말했다.
다만 기업이 직원에게 “토큰을 아껴 쓰라”고 요구하는 방식만으로는 한계가 있다고 지적했다. 회사 차원에서 토큰 사용량을 한눈에 볼 수 있는 대시보드를 구축하고, 업무에 따라 적합한 AI 모델을 자동 선택하는 거대언어모델(LLM) 라우터 도입 등이 필요하다는 설명이다. 간단한 업무에는 저렴한 모델을 사용하고 중요한 업무에는 고성능 모델을 배정하는 식이다. 반대로 중요한 업무에는 더 높은 성능의 모델을 활용하도록 유도할 수도 있다.
토큰을 국가 경쟁력 차원에서 바라볼 필요성도 제기했다. 토큰 자체를 수출하는 것은 현실적으로 어려운 만큼 한국의 AI 애플리케이션이나 에이전트, AI 모델, 모델 라우터 등을 해외에 제공해 토큰을 소비하게 만드는 부가가치를 수출하는 전략이 필요하다고 설명했다.
정현정 기자 iam@etnews.com
