[IT 동아] “통제권 확보가 소버린 AI 핵심”…코히어, 연내 韓 법인 설립

[IT동아 김예지 기자] 인공지능(AI) 솔루션 기업 코히어(Cohere)가 아시아·태평양 지역 사업 확장에 속도를 낸다. 코히어는 연내 한국 법인을 설립하고, 기업과 정부가 AI 인프라를 직접 소유하고 통제할 수 있도록 지원하는 맞춤형 소버린 AI 솔루션 공급에 주력할 계획이다.

코히어는 5일 서울 소공동 웨스틴조선호텔에서 기자간담회를 열고 아태지역 비즈니스 로드맵을 발표했다. 한국과 일본에 각각 현지 법인을 세우고, 싱가포르 공공 부문 협력을 강화하는 한편, 연내 기술·영업 조직을 현재의 2배, 2027년 말까지 4배 규모로 확대한다는 구상이다.

2019년 캐나다에서 설립된 코히어는 기업용 AI 파운데이션 모델과 엔드투엔드 제품을 제공한다. 소비자향 챗봇이 아니라 ‘기업과 정부를 위한 AI’라는 명확한 타겟을 공략해 왔다. 재무·영업·인사·IT 업무를 자동화하는 에이전틱 AI 플랫폼 ‘노스(North)’와, 기업용 생성형 AI 모델 ‘코히어 커맨드(Command)’를 비롯해 에이전틱 코딩 모델, 검색 및 리트리벌(Retrieval) 모델 등을 제공하고 있다.

소버린 AI는 흔히 ‘주권 AI’라고 하는데, 국내에서는 보통 자국 기술로 독자 개발한 AI를 떠올린다. 코히어가 말하는 소버린 AI는 결이 조금 다르다. 프랭크 오다우드(Frank O’Dowd) 코히어 사업총괄책임(CRO)은 소버린 AI의 핵심은 ‘누가 만들었느냐’가 아니라 ‘누가 통제하느냐’라 말한다. 기업이나 정부가 자체 인프라 내에 AI를 구축하면, 모델 종류에 상관없이 데이터와 접근·활용 권한을 직접 통제할 수 있다는 논리다.

코히어의 AI는 퍼블릭 클라우드와 프라이빗 온프레미스는 물론, 외부 네트워크와 완전히 분리된 에어갭(폐쇄망) 환경에서도 구축할 수 있다. 온프레미스로 배포하면 코히어 본사조차 시스템을 강제로 중단시킬 수 없다. 때문에 해외 정책 변화나 지정학적 리스크로 인한 기술 수출 통제가 발생해도 사내 망에 구축된 시스템은 차질 없이 가동된다. 코히어는 데이터·모델·인프라 전체에 대한 주도권을 제공한다는 점에서 스스로를 소버린 AI 기업이라 강조한다.

노스는 고객사의 기존 시스템과 원활히 연동되며, 각 기업과 기관의 환경과 요구사항에 맞는 맞춤형 AI 솔루션을 제공한다. 엄격한 규제 산업과 정부의 보안 및 개인정보 보호 요건을 충족하도록 프라이빗·소버린 환경에 최적화됐다. 오다우드 CRO는 “다양한 산업의 기업들이 노스를 활용해 재무, 영업, 인사(HR), IT, 고객 지원 등의 복잡한 업무를 자동화하고 있다”고 설명했다.

코히어의 무기는 기술적 효율성이다. 적은 컴퓨팅 자원으로 작동하는 모델을 개발해 온 덕분에 온프레미스처럼 GPU 자원이 제한된 환경이나 통신이 열악한 현장에서도 실전 투입이 용이하다. 연내 출시 예정인 오픈소스 기업용 모델 ‘커맨드 A+’가 대표적이다. 1조 파라미터(매개변수)급 규모의 이 모델은 복잡한 추론과 멀티모달·다국어 에이전틱 작업을 지원한다. 오다우드 CRO는 “경쟁 프론티어 모델이 16개의 GPU를 쓸 때 코히어는 2개 H100으로 동등한 수준의 성능을 낸다”고 덧붙였다. 특히 번역 기능에서 프론티어 모델에 맞먹는 성능을 내고 있다는 설명이다.

또한 그는 “기업용에서는 더 작고 효율 좋은 모델을 필요로 한다”면서 “최근 토큰 단위 종량제는 기업 입장에서 예산 관리를 어렵게 만드는 요소지만, 코히어는 토큰 사용량이 아니라 동시접속자 수 등을 기준으로 연 단위 계약을 맺는 방식을 채택해 고객의 비용 부담을 낮췄다”며, “오히려 토큰 가격이 떨어지는 흐름을 반긴다”고 설명했다. 프론티어 모델과 자사의 저비용 리랭크 모델을 함께 쓰는 방식으로 토큰 비용 자체를 낮추는 전략도 함께 제시했다.

코히어는 한국과 일본, 싱가포르에서 구축해 온 사업 기반을 바탕으로 기업 및 정부와의 파트너십을 확대하고, 아태지역 사업의 다음 성장 단계에 진입한다는 계획이다. 코히어가 한국 시장에 공을 들이는 이유는 성장성과 시장 역동성 때문이다. 지난해 서울에 아태 허브를 개설한 이후, 1년 만에 금융·제조·에너지·IT·공공 등 규제 산업을 중심으로 아태 고객 기반이 5배로 늘었다고 밝혔다. 이 중 절반이 한국 고객이며, 현재 신규 실적의 절반 역시 한국에서 발생하고 있다.

장화진 코히어 아시아태평양 총괄 대표는 “코히어는 한국을 아태 전역 사업의 성패를 가를 최적의 시험대로 여긴다. 고도화된 ICT 인프라와 우수한 기술 인력을 갖춘 데다, 소버린 AI에 대한 국가적 관심이 높기 때문”이라고 설명했다. IDC 조사에 따르면 아태 기업의 80%가 AI 도입 시 주권을 우선 고려하며, 정부 투자 순위에서도 두 번째로 높다.

코히어는 한국 별도 법인 설립을 약 3개월 내 완료할 예정이다. 고객사 현장에 직접 투입돼 맞춤형 시스템을 연동하는 ‘포워드 디플로이드 엔지니어(FDE)’를 포함해 국내에서 두 자릿수 규모의 인재를 적극 채용하고, 2027년 말까지 역내 사업 기반을 현재의 네 배로 확대할 계획이라 밝혔다.

글로벌 시장에서는 후지쯔, 싱가포르 국방부 산하 과학기술청(CSIT), 일본 디지털청 등과 핵심 AI 시스템을 구축하고 있다. 최근 헬스케어 분야 소버린 AI 강화를 위해 ‘릴라이언트 AI’를 인수했다. 국내에서는 LG CNS와 협업 중이며, 일본에서는 후지쯔와 협력해 개발한 일본어 특화 LLM ‘타카네’를 디지털청에 공급했다.

한편 네이버, 업스테이지 등 국산 파운데이션 모델 기업들과의 관계에 대해 “AI 시장 전체 파이가 빠르게 커지고 있어 동반 성장할 여지가 크다”고 밝혔다. 이어 “어떤 모델이든 코히어 플랫폼 위에서 결합해 사용할 수 있는 강점이 있고, 국내 모델 기업들과의 협업 가능성도 열려 있다”고 덧붙였다.

IT동아 김예지 기자 (yj@itdonga.com)