[IT 동아] 흩어진 데이터와 고비용 인력난, 국내 기업 AX의 ‘거대한 장벽’ 넘으려면

[IT동아 남시현 기자] 디지털 전환(DX, Digital Transformation)이 업무의 형식을 바꾼 흐름이었다면, 인공지능 전환(AX, AI Transformation)은 업무의 지능을 고도화하는 작업이다. 디지털 전환은 약 10년에 걸쳐 클라우드 전환과 전사적 자원관리(ERP)의 도입, 데이터베이스 구축 측면에서 진행됐다. 반면 인공지능 전환은 1년에서 3년 이내에 이뤄지고 있으며, 자체 데이터를 기반으로 AI를 학습하고, 대규모 언어 모델 도입을 통한 업무 방식의 고도화하는 측면으로 접근한다. 전자는 프로세스의 관리나 효율 측면이었는데, 후자는 의사결정의 지능화와 전략화에 가깝다.

AI의 최전선에 있는 구글, 마이크로소프트, AWS, 메타 등의 글로벌 빅테크 기업은 이미 데이터옵스, 레이블링 자동화, 벡터DB 기반의 RAG(검색증강) 파이프라인을 내재화하는 등 AX 전환에 속도를 올리고 있으며, AI 에이전트를 통해 의사결정까지 진행하는 상황이다. AI가 완전히 내재화된 신생 기업들은 생성형 AI로 모든 사업 분야를 자동화하는 것부터 시작한다. AI를 도입하는 기업과 도입하지 않는 기업 간의 격차는 더욱 커지고 있고, 기업의 글로벌 경쟁력으로도 연결되고 있다.

우리나라의 상황은 여의치 않다. 국내기업 대다수가 여전히 디지털 전환이 진행 중이며, 생산 및 품질 데이터는 전사적 자원관리(ERP)나 수기, 로그 데이터 등으로 분산되어 있다. 또 문서의 메타데이터가 없거나 클라우드가 도입되지 않은 경우도 있다. 제조업이나 유통, 물류 분야는 도입이 어려운 상황이고, 정형 데이터를 보유한 금융권, 의료분야조차도 데이터를 정제하는데 어려움을 겪고 있다. 경쟁력을 잃지 않으려면 자체적·점진적으로 AI 도입을 도입할 게 아니라 전문가 그룹의 전폭적인 지원이 필요한 상황이다.

AI 구축이 어려운 이유는 다음과 같다. AX를 추진하기 위해서는 AI 전문가 그룹을 장기적으로 고용해야 하지만 AI 전문 인력을 구인하는 것부터 유지하는데 드는 비용이 매우 높다. 또 AX 팀을 구축하더라도 AX 추진에 필요한 데이터를 구축하고 이를 학습하기 위한 자원과 비용도 꾸준히 들어간다. MIT 미디어랩 NANDA 이니셔티브가 발표한 ‘생성형 AI 격차:2025년 비즈니스 AI 현황’ 보고서에서는 생성형 AI 시범 사업 중 단 5%만이 빠른 수익을 달성했고, 95%는 손익계산서상의 변화가 없다고 한 만큼 단계적으로 수익을 기대할 수도 없다.

이에 따라 AX만 전문적으로 수행하는 방식이 최근 대세로 자리 잡고 있다. 회사의 전문적인 업무를 회계사나 법무사에게 맡기는 것처럼, AX도 AX를 전문적으로 수행하는 그룹에 위탁하는 것이다. 대표적인 사례가 렛서의 ‘AX파트너즈’다. AX파트너즈는 렛서가 수행해 온 300여 개 이상의 AX 프로젝트 경험을 바탕으로 기업 맞춤형 AI 컨설팅부터 구축, 관리까지 모두 제공한다. 특히 DX와 마찬가지로 전문 인력이 파견돼 사업을 진단하므로 맞춤형 서비스 구축에 최적이다.

한재석 렛서 AI 컨설턴트 엔지니어와 국내 AX 구축 환경과 AX 전문 조직 도입의 중요성 전반에 대해 질문했다. 한재석 엔지니어는 ‘제1회 AI반도체 기술인재 선발대회’ 에서 2위를 차지한 개발자로, 팀 단위로 참가하는 대회에 단독으로 참가한 뒤 수상해 화제가 된 바 있다. 렛서에는 올해 1월 합류했고, 현재는 AX 활용과 설루션 구축 등 기술 실무를 맡고 있다.

일단 AX파트너즈는 어떤 기업들에게 필요한 서비스일까. 한재석 엔지니어는 “업계 영향력이 있으면서 AI 도입의 필요성을 느끼는 기업들이 주로 찾는다. 최근에는 트렌드에 민감한 K뷰티, 패션 기업 등의 사례가 많고, 매출 1000억 대 수준의 중견기업들이 주류다. AI를 어떻게 시작할지에 대한 기준이 없다면 AX파트너즈가 해답을 줄 수 있다. 데이터는 정형, 비정형과 관계없이 엔지니어가 직접 상황을 진단한 뒤 상의를 거쳐 AI를 구축하며, 의사결정이 빠른 조직일수록 효과가 크다”라고 설명했다.

AI를 구축한다는 개념이 막연한데, 기본적인 구축 방법에 대한 설명을 부탁했다. 한재석 엔지니어는 “담당 프로젝트 매니저가 설정되고, 소속 팀이 함께한다. 가장 먼저 고객의 요구와 상황을 파악한다. 단편적으로 서비스를 만들고 끝날 게 아니라 초기 단계부터 어떻게 데이터를 수집할지, 어떻게 기획하고 구현할지를 논의한다”라면서, “구상이 끝나면 렛서의 AI 운영 관리 SaaS(서비스형 소프트웨어) 플랫폼 스테이엑스(Staix)로 적절한 대응 플랫폼을 구상한다. 스테이엑스는 300여 개 이상의 AI 구축 사례를 템플릿화해 AI를 빠르게 구축할 수 있도록 한다”라고 말했다.

도입 속도와 관련해서는 “구상안을 바탕으로 빠르면 일주일, 내부 설계에 일주일에서 이주일, 빠르면 한 달에서 두 달안에 배포까지 끝난다. 빠르면 첫 미팅 중에도 내부 데이터와 스테이엑스를 연결해 시험 버전을 시연하기도 했고, 당일 컨설팅을 통해 15개의 도입 가능한 AI를 확인하고 총 6개를 즉시 구축한 사례도 있다”라고 설명했다.

실제 구축 사례에 대한 소개를 부탁했다. 한재석 엔지니어는 “한 뷰티기업은 SNS에서 어떤 품목이 바이럴 되고 있는지를 인력으로 하나하나 찾던 상황이었고, 이를 AI로 자동화하는 것을 주문했다. 기존 구축 사례를 바탕으로 이 기업에 맞게 모델을 최적화해 한 달만에 데이터 수집 및 트렌드 파악 AI 서비스를 구축했다”라고 말했다.

또 다른 기업은 “유튜브, 틱톡, 인스타그램 등을 위한 2분 이내 동영상 기획안을 자동으로 생성하는 AI 모델을 진행 중이다. 고객사가 수집하는 SNS 트렌드가 매일 바뀌는데 어떻게 데이터를 수집할지를 기획하고 결과를 산출하는 과정까지 구현한 바 있다”라고 소개했다.

배치된 모델은 단편적인 활용에 그치지 않도록 적절한 교육과 통합관리가 제공된다. 한재석 엔지니어는 “사내 AI 역량을 판단한 뒤 수준에 맞춰 에이블 캠퍼스가 맞춤형 AI 활용 교육을 진행한다. 구축한 서비스만 학습하는 게 아니라 사내 AI 역량 전반을 끌어올리는 과정이어서 추가적으로 교육되기도 한다”라고 말했다.

한재석 엔지니어는 기업의 사업 분야를 막론하고 AI가 만능열쇠가 될 수 있다고 말한다. 한재석 엔지니어는 “AI를 수익성 측면에서 접근하기 보다는 기업의 성향을 변경하는 형태로 접근해야하며, 결국 해내리라는 믿음과 낙관적인 자세로 전사가 참여하고 지원해야 좋은 결과로 이어진다”라면서 “데이터의 형태나 조직 문화 등 거쳐야할 산이 많지만 초기에 잘 구축하면 차후 도입부터는 탄력이 붙는다. 최근들어 커서, 코덱스 등을 통해 AI 구축 속도가 빨라지고 있으니 속도전보다는 장기적이고 확장 가능한 AI 전략 수립이 더 중요하다”라고 말했다.

이런 시각에서 렛서도 AI 설루션을 제공하는 것에 그치지 않고 파트너 기업으로서 함께 성장하겠다는 마음가짐으로 AI를 구축한다. 한재석 엔지니어는 “시장에서 좋은 AI 도구를 원하는 단계는 지났다. 실력있는 기업일수록 사업의 맥락을 이해하고 사업 전반을 AI에 맞게 재설계할 인력과 협력 관계를 찾고 있다. 렛서의 AX파트너즈는 기업 내부 팀처럼 밀착해 AI 사업을 기획하고, 데이터를 정리하고, 구축 운영하는 과정을 함께하며 고객사가 투자 대비 수익을 확보할 수 있도록 노력한다”라고 말했다.

렛서의 내년 전략은 점에서 선으로의 전환이다. 마지막으로 한재석 엔지니어는 “올해에는 마케팅 부서의 콘텐츠 생성이나 고객 대응 부서의 자동화 전략 등 특정 업무를 해결하는데 집중했다. 이를 하나하나 추진하며 기업의 전체 가치사슬을 AI로 연결하는 방안을 구상 중이다”라면서 “패션 기업이라면 기획에 그치지 않고 디자인 생성과 상세페이지 제작, 재고관리까지 연결되는 AI를 구축하는 식이다. 단계별 AI가 진행될수록 기업의 AX도 빠르게 진행된다. 고객사의 AI 내재화를 이루는 것이 내년의 핵심 과제”라고 말했다.

우리나라에서 렛서처럼 AI 전문가 팀이 상주하며 AX를 지원하는 사례는 이제 시작이지만, 이미 해외에서는 대중화된 방식이다. 예를 들어 글로벌 컨설팅 기업 맥킨지&컴퍼니는 데이터 과학자와 엔지니어를 보내 기업의 AI 지능 향상을 지원하는 ‘맥킨지 퀀텀블랙’ 조직을 운영하며, 보스턴컨설팅그룹 테크 부문도 BCG X라는 AI 구축 팀을 운영한다. 엑센추어와 IBM 컨설팅 등 IT 인프라 구축 및 운영 기업들도 전문적인 AX 전환을 지원한다.

따라서 데이터 구축이 체계적이지 않고, 전문가 운용이 어려운 국내 기업이 경쟁력을 확보하기 위해서는 렛서 같은 스타트업과의 협력이 필요하다. 해외 기업들과 경쟁하는 상황이라면 더더욱 중요하다. AX 전환의 골든타임은 앞으로 짧으면 3년, 길어도 5년 이내다. 추세에 따라가지 못하는 것 자체가 글로벌 경쟁력 상실을 의미하는 만큼 AI 추진이 필요한 기업들은 서둘러 전문가 그룹과의 컨설팅부터 시작해 보자.

IT동아 남시현 기자 (sh@itdonga.com)