[IT 동아] “GPU보다 데이터 패스” 한국오라클, 액셀러론·AI 데이터 플랫폼으로 ‘실행형 AI’ 승부수

[IT동아 김영우 기자] 기업의 생성형 AI 도입은 이제 ‘검증’을 넘어 ‘실행’ 단계로 넘어가고 있다. 그런데 막상 AI를 실제 업무에 붙여보면 마주치는 건 화려한 모델이 아니라 인프라와 데이터라는 지극히 현실적인 문제다. 데이터가 있는 곳까지 AI를 끌고 갈 수 있는가, 그 과정에서 지연이나 병목 없이 안전하게 처리할 수 있는가 하는 질문들이다.

한국오라클은 8월 11일 서울 아셈타워에서 ‘AI 중심 클라우드 & 데이터 플랫폼 최신 기술 업데이트’ 기자간담회를 열고 이런 질문에 대한 나름의 답을 내놨다. 차세대 인프라 아키텍처 ‘OCI 액셀러론(Acceleron)’과 ‘오라클 AI 데이터베이스 26ai(Oracle AI Database 26ai)’를 중심으로 한 ‘AI 데이터 플랫폼’이 이날 발표의 핵심이다. 나정옥 한국오라클 부사장이 오라클의 전체 AI 전략을, 장진호 한국오라클 상무가 OCI 액셀러론을, 김태완 한국오라클 상무가 AI 데이터 플랫폼을 각각 소개했다.

발표에 나선 나정옥 부사장은 오라클이 생각하는 엔터프라이즈 AI를 한 문장으로 “브링 AI 투 데이터(Bring AI to Your Data)”로 요약했다. AI를 별도의 시스템으로 새로 구축하는 것이 아니라, 고객의 핵심 데이터가 있는 곳에서 AI를 바로 작동시키고 이를 단순한 답변이 아닌 실제 업무 실행으로까지 연결하겠다는 것이다.
나 부사장은 최근 아시아태평양 지역 임원 200여 명과 진행한 라운드테이블을 언급하며 “이 자리에서 고객들이 공통적으로 언급한 우려는 데이터 레디니스, ROI, 그리고 보안이었다”고 전했다. 그러면서 오라클이 추구하는 엔터프라이즈 AI 전략을 신뢰할 수 있는 데이터, 모델 선택의 자율성, AI 워크로드를 감당할 수 있는 인프라라는 세 가지 축으로 정리했다.

발표 말미에는 기업 고객을 향한 세 가지 제언도 내놨다. AI를 독립된 프로젝트가 아니라 핵심 데이터·운영 시스템과 통합해야 할 과제로 다룰 것, 데이터 접근 권한과 감사·승인 워크플로우까지 포함한 거버넌스를 처음부터 설계할 것, 그리고 GPU 확보만이 아니라 네트워크·보안·가용성까지 함께 고려해야 한다는 것이다. 나 부사장은 특히 “무엇을 자동화할 것인가보다, AI가 어떤 업무 결정을 안전하게 실행하도록 허용할 것인가를 먼저 정해야 한다”고 강조했다.

이어 장진호 상무는 오라클이 지난해 발표한 차세대 인프라 아키텍처 ‘액셀러론’을 소개했다. 액셀러론은 완전히 새로운 제품이 아니라, 컨트롤 영역과 고객 워크로드를 물리적으로 분리해 격리와 예측 가능한 성능을 구현했던 2016년의 ‘OCI 2세대(Gen2)’ 설계 원칙을 계승하면서 호스트·패브릭·보안 전반의 데이터 경로(data path)를 재설계한, 약 10년 만의 대대적인 업그레이드 아키텍처다.

장 상무는 이런 업그레이드가 필요해진 배경으로 워크로드의 변화를 꼽았다. 전통적인 업무 처리가 사용자에서 애플리케이션, 데이터베이스, 스토리지로 이어지는 수직적(north-south) 흐름 위주였다면, 실운영 단계의 AI에서는 모델과 벡터 데이터베이스(유사도 기반으로 데이터를 검색하는 데이터베이스), 에이전트, API 사이에서 데이터가 데이터센터 내부를 계속 오가는 수평적(east-west) 트래픽이 크게 늘었다는 것이다. 그는 “네트워크·스토리지·보안 경로에서 발생하는 작은 지연도 누적되면 비싼 GPU가 데이터를 기다리게 되고, 이는 곧 비용 손실”이라며 “AI 인프라의 경쟁력은 컴퓨트 규모가 아니라 컴퓨트가 기다리지 않도록 설계된 전 구간 데이터 경로에서 결정된다”고 말했다.

액셀러론은 크게 세 가지 요소로 구성된다. 호스트 네트워크 인터페이스 카드(NIC)와 클라우드 제어용 컴퓨트를 하나의 실리콘으로 통합하되 칩 레벨에서 하드웨어적으로 분리해 지연과 지터를 없앤 ‘컨버지드 NIC’, 대규모 GPU 클러스터의 장애 영향을 특정 경로로 우회시켜 제한하는 ‘멀티플래너 네트워킹’, 그리고 기존의 IP·포트 기반 접근 제어 대신 ‘이 서버는 저 서버와만 통신한다’는 업무 의도 자체를 정책으로 삼는 신규 보안 체계 ‘ZPR(Zero Trust Packet Routing)’이다. 오라클은 이런 기술을 바탕으로 80만 장 규모의 GPU를 하나의 클러스터로 묶어 운영하고 있다고 밝혔다.

이런 인프라는 최근 공개된 E6·X12·A4 Ax 등 실제 컴퓨트 제품에 적용됐으며, 고객은 워크로드 특성에 따라 인텔·AMD·암페어 기반 등 여러 옵션 중에서 선택할 수 있다. 장 상무는 “최고의 성능과 가장 낮은 비용으로 고객이 원하는 곳 어디에든 클라우드를 배포하겠다는 것이 오라클의 변하지 않는 사명이며, 액셀러론 역시 이 사명을 가속하기 위한 것”이라고 발표를 마무리했다.

마지막 발표자로 나선 김태완 상무는 AI 데이터 플랫폼을 소개했다. 그는 “기업들이 AI를 PoC(개념 검증)나 파일럿 단계에서 실제 업무로 확장하지 못하는 이유는 데이터 접근, 기존 시스템과의 통합, 거버넌스라는 세 가지 장벽 때문”이라며, 이를 데이터 유형·통합·인프라 독립성·AI 통합·거버넌스·AI 워크로드·AI 데이터 모델링·AI 응용이라는 8개 축으로 나눠 설명했다.

핵심은 오라클 AI 데이터베이스 26ai를 중심에 둔 ‘컨버지드 데이터베이스’다. 관계형·JSON·벡터·그래프·공간정보·텍스트 등 서로 다른 유형의 데이터를 별도의 데이터베이스로 나누지 않고, 하나의 데이터베이스와 하나의 쿼리 엔진, 하나의 보안 체계로 처리하도록 통합했다는 것이다. 또한 외부 데이터베이스나 오브젝트 스토리지에 있는 데이터를 별도로 옮기지 않고도 오라클 안에서 조회·활용할 수 있게 하는 ‘데이터 가상화’ 기능도 강조했다. 김 상무는 “포스트그레SQL, MySQL, MS SQL, DB2 등 이기종 데이터베이스의 테이블도 가상화하면 오라클 데이터베이스 안에 있는 것처럼 인식되어, 오라클이 제공하는 보안·성능 기능을 그대로 적용받을 수 있다”고 설명했다. 이 데이터 플랫폼은 오라클 클라우드뿐 아니라 AWS·애저·구글클라우드 등 타사 클라우드와 온프레미스에서도 동일하게 이용할 수 있다.

이날 시연에서는 챗봇에 자연어로 질문하면 오라클의 자연어 질의 기능(셀렉트 AI)이 데이터베이스 안의 정형 데이터, 오브젝트 스토리지의 문서, 그리고 애저·아마존 등 타사 클라우드에 가상화된 데이터까지 한 번에 조회해 리포트와 차트를 만들어주는 과정이 소개됐다. 특히 눈에 띈 것은 권한 관리 시연이었다. 같은 챗봇에 동일한 질문(“우리 팀 선사 실적 리포트해줘”)을 입력해도, 로그인한 사용자가 ‘팀장’ 권한일 때는 8개 선사 전체 데이터가, ‘팀원’ 권한일 때는 본인이 담당하는 선사 1개 데이터만 나오는 방식이다. 김 상무는 “데이터베이스에서 값을 모두 불러온 뒤 AI가 걸러내는 방식은 MCP(모델이 외부 도구·데이터에 접근할 때 쓰는 연결 규격) 등을 우회하면 보안이 무력화될 위험이 있다”며 “오라클은 애초에 쿼리 엔진 단(엔진 레벨)에서 권한에 따라 조회 자체가 되지 않도록 걸러낸다”고 차별점을 설명했다.

이 밖에 관계형 테이블에 새로운 ‘그래프 뷰’를 씌워 데이터 복제 없이 그래프 쿼리를 수행하는 그래프 데이터베이스 기능(오라클은 이 개념을 2003년부터 지원해왔다고 밝혔다), 자연어로 데이터 분석과 머신러닝까지 수행하는 기능, 그리고 사용자가 직접 워크플로우를 구성할 수 있는 ‘프라이빗 에이전트 팩토리’ 기능도 시연됐다. 프라이빗 에이전트 팩토리 시연에서는 “8월 3일부터 13일까지 연차 휴가 승인을 검토해달라”는 요청에 에이전트가 사내 데이터를 근거로 승인 가능 여부를 판단하고, 결과를 메일로 자동 발송하는 과정이 소개됐다.

질문: 액셀러론이 기존 Gen2 인프라를 얼마나 빠르게 대체하는가? 기존 고객이 전환하려면 별도의 마이그레이션이 필요한가?

답변(장진호 상무): 젠2와 액셀러론은 물리적으로 다른 인프라이기 때문에 전환 시 라이브 마이그레이션 등 최소한의 조치는 필요하지만, 오라클이 전환을 강제하지는 않는다. 기존 고객이 액셀러론이 아니라는 이유로 성능이나 보안 면에서 손해를 보는 일은 없다. 한국 리전은 아시아태평양 지역에서 순차적으로 적용되고 있으며, 가깝게는 도쿄 리전이 먼저 열렸다. 한국은 아직 계획이 확정되지 않았다.

질문: 오라클이 최근 수년간 클라우드 인프라·AI 플랫폼 기업으로 변신하기 위해 많은 투자를 해왔는데, 이 과정에서 재무건전성이 악화됐다는 지적이 있고 이 때문에 불안해하는 고객도 있는 것 같다. 이에 대해 오라클이 전하고 싶은 메시지가 있다면?

답변(나정옥 부사장): 재무건전성에 대한 세부 사안은 오늘 이 자리에서 다룰 주제는 아니라고 본다. 다만 기존에 온프레미스 방식으로 오라클을 쓰던 고객들이 클라우드에서도 오라클 서비스를 계속 쓰고 있으며, 최근 상황 때문에 불안해서 오라클을 못 쓰겠다고 하는 고객은 단 한 번도 접한 적이 없다. 오라클 AI 데이터베이스 26ai에 이르기까지 50여 년의 여정이 있었는데, 이는 기존 것을 버리고 새로 온 것이 아니라 시대에 맞게 계속 발전시켜온 결과다. 오라클 인프라에서만 쓸 수 있던 솔루션을 지금은 어디서나 쓸 수 있게 개방한 것도 같은 맥락이다.

질문: OCI가 클라우드 시장에서 후발주자인데, 3대 클라우드 사업자 대비 한국 시장에서 어느 정도 따라잡았다고 보는가?

답변(나정옥 부사장): 오라클은 원래 엔터프라이즈 영역에서 출발한 기업이다 보니 클라우드 전환이 느릴 수밖에 없었고, 그만큼 핵심 업무가 클라우드로 옮겨가는 속도도 느렸다. 다만 최근에는 이런 업무들이 빠르게 클라우드로 올라오고 있고, 데이터 워크로드뿐 아니라 반도체 산업의 고성능컴퓨팅(HPC) 수요를 활용하는 고객도 늘고 있다. 아직 갈 길은 멀지만 많이 따라잡았다고 본다.

질문: 오라클이 아닌 다른 데이터베이스나 오픈소스 기반 DBMS와도 실시간으로 연동해 쓸 수 있는가?

답변(김태완 상무): 포스트그레SQL, MySQL, MS SQL, DB2 등의 테이블을 데이터 가상화해두면 오라클 데이터베이스 엔진 입장에서는 오라클 내부에 있는 데이터로 인식하기 때문에 오라클의 기능을 그대로 적용해 쓸 수 있다. 오브젝트 스토리지에 올라간 아파치 아이스버그(대용량 데이터를 효율적으로 관리하는 오픈소스 테이블 포맷) 테이블도 마찬가지로, 가상화 이후에는 캐싱이나 벡터 인덱스 같은 오라클의 가속 기능을 그대로 활용할 수 있다. 이미 대규모 데이터베이스를 새 버전으로 업그레이드하기 부담스러운 고객이라면, 기존 데이터베이스는 그대로 두고 앞단에 26ai를 프록시처럼 두어 가상화 기능만 우선 활용하는 것도 가능하다.

이날 간담회 질의응답에서 눈에 띄는 질문은 최근 공격적인 AI 인프라 투자를 이어가는 오라클의 재무건전성에 대한 것이었다. 이에 오라클이 내놓은 답은 새로운 약속이 아니라 ‘연속성’이었다. 액셀러론은 완전히 새로운 제품이 아니라 Gen2의 연장선이고, 26ai 역시 50여 년 데이터베이스 노하우의 다음 버전이라는 식이다. 결국 이날 오라클이 보여주고 싶었던 것은 화려한 신기술 그 자체보다, “우리는 늘 해왔던 방식대로 데이터와 인프라의 기본기를 지키며 진화하고 있다”는 안정감이었던 셈이다. GPU 확보 경쟁이 격화될수록 정작 병목은 GPU 바깥의 데이터 경로에서 발생한다는 이번 발표의 메시지가, 앞으로 오라클이 하이퍼스케일러들과의 경쟁에서 내세울 차별화 지점이 될지 지켜볼 일이다.

IT동아 김영우 기자 (pengo@itdonga.com)