[IT 동아] ‘경제성 넘어 도입사례에 초점’··· 공공 AI CCTV용 국산 NPU 도입 짚어보니

[IT동아 남시현 기자] 과학기술정보통신부, 한국지능정보사회진흥원(NIA)이 추진하는 ‘국산 NPU 기반 공공 AI CCTV 전환’ 사업 중 경상남도청, 울산광역시의 CCTV 관제센터에 리벨리온의 서버형 신경망처리장치(NPU)가 공급된다. 우리 정부는 2019년부터 방범, 방재, 교통 등 분야별로 파편화되어 운영되던 CCTV 및 도시 관제 시스템을 ‘스마트 도시안정망 통합 플랫폼’으로 합쳐서 운영 중이며 2024년부터 단순 객체 인식을 넘어 맥락까지 이해하는 ‘AI 기반 지방정부 CCTV 관제지원시스템 구축’ 사업으로 CCTV의 AI화를 추진 중이다.

현재 전국 지방자치단체 통합관제센터에 연계된 CCTV는 2025년 기준 약 71만 대로 계속 증가하는 추세며, 지능형 관제 시스템이 적용된 CCTV는 31만 3000여 대로 전년 대비 28.2% 증가했다.
하지만 여전히 소수의 관제요원 다수의 CCTV를 동시에 확인하는 경우가 많으며 이에 따른 효율 등이 우려되는 상황이다. 이에 우리 정부는 AI 반도체와 소프트웨어를 활용해 AI 영상 분석 기반의 지능형 관제 체계를 구축해 감시 방식과 탐지 성능, 상황 전파, 검색 및 분석의 효율을 한층 더 끌어올리겠다는 계획이다.

당초 지능형 CCTV는 GPU 등을 명시적으로 활용해 왔으나 우리 정부는 국산 NPU를 적용해 도입사례 확립은 물론 AI 개발도 지원하겠다는 방침이다. 사업 금액은 올해에만 약 100억 원이며 NPU 탑재 추론 서버를 관제센터에 신규로 설치해 기존의 다채널 영상을 통합 분석하고 생성형 AI 분석을 통해 상황 분석까지 가능하게 만들겠다는 계획이다. 올해 사업에는 경상남도청, 울산광역시, 한국도로공사 세 개 기관이 선정되었고, 경상남도청과 울산광역시는 리벨리온의 아톰맥스 기반 NPU 서버를 낙점했으며 한국도로공사는 모빌린트 NPU를 활용하는 인텔리빅스를 선택했다.

이번 사업의 핵심은 기존 CCTV 관제 시스템에 AI 기반 영상 분석 서버를 추가로 설치해 사업 전반의 분석 효율을 높이는 데 있다. 기존의 CCTV 관제는 운용자가 다수의 화면을 순차 확인하는 방식이어서 놓치는 부분이 생길 수 있고 노동력이 많이 필요하다. 따라서 AI의 시각 인식 기능을 활용해 AI가 관제 내용을 상시 분석 후 이상 징후만 선별 제공하는 것이 핵심이다. 기존의 AI는 빛이나 동물 등 단순 움직임 감지에도 반응했으나, 심화학습으로 하천 범람이나 태풍 피해, 화재나 사고 등을 학습시켜 관제 품질을 고도화한다.

구성에 따라 AI가 유관 시스템에 자동으로 상황을 전파하거나, 위치 정보 및 상황 등도 실시간 공유하도록 만든다. 또한 현재 영상 검색 기능은 시간 순서로 배열돼 특정 사건이나 상황을 확인하기가 매우 어려운데, AI를 활용하면 영상의 상황이나 조건 등으로도 검색할 수 있다. 영상 분석 기능뿐만 아니라 재난 확인 용도로 사용되는 하천 수위, 산림 정보, 재난 피해 이력, 스마트시티 데이터 허브 등의 데이터를 실시간으로 수집, 연계해 대응책을 마련하는 것도 사업 범위 내에 있다.

우리 정부의 CCTV 관제는 그간 엔비디아 GPU를 집중적으로 활용했다. 2021년 당시 한국도로공사가 발주한 CCTV 인공지능 영상분석시스템 구매 사업의 경우 ‘쿠다 6912코어 및 메모리 48GB 이상’으로 사실상 엔비디아 A100을 제시했고, 올해 3월 공고된 AI 기반 지방정부 CCTV 관제지원시스템 구축(2차)에서는 엔비디아 GPU인 ‘L40 이상 또는 동급 이상 GPU’를 정확히 명시했다.

따라서 이번 사업은 기존 CCTV 시스템과 네트워크 영상 저장 장치(NVR) 및 관제 인프라는 그대로 유지한 상태에서 NPU 기반 영상분석 서버 및 통합 관제 서버, 소프트웨어 구축 등을 추가로 진행하는 게 골자다. 설치 장비는 국가정보자원관리원의 정보자원 기술 안내서 기준 ‘나’급 성능으로 대략 48GB 메모리 장착 카드 4장, 전원 이중화 및 네트워크 운용, 공공 폐쇄망 환경 운용을 요구한다. 특히 소프트웨어는 AI 플랫폼을 비롯해 영상 분석에 활용할 비디오 언어 모델(VLM) 라이선스도 함께 필요하다. 이중 영상 모델은 30B(매개변수 300억 개)로 사양이 다소 높지만 7B 이하 모델은 긴급 대응을 지연시키고, 가능한 30B 모델은 되어야 기존 AI와 차이가 난다는 게 설명이다.

경상남도청이 요구한 AI 가속기 기반 지능형 영상분석 서버 사양은 총 4500채널 이상의 동영상을 동시에 추론할 수 있도록 64코어 프로세서와 2~4TB 메모리, NPU 카드당 60GB 메모리를 요구한다. 또한 납품 서버의 전체 메모리 총량을 6144GB로 제시했으며 30B 이상의 VLM 지원을 조건으로 내걸었다. 울산시 역시 30B급 VLM 모델 구동을 위해 NPU 카드당 메모리를 60GB로 권장하며, 한국도로공사는 4700채널을 충족할 수 있어야하며, 세부 사양은 2개의 64코어 GPU와 코어당 24GB 메모리, 48GB 이상의 NPU 카드를 요구한다.

세 조건 모두 AI 영상 분석은 외부 클라우드 의존 없이 망분리 환경에서 제공되어야 하고 VLM 기반으로 자연어 기반 원클릭 보고서 양식을 제공하는 등 실용화, 고도화된 활용 방안을 내세운다. 다만 일부 공고에서 제시된 사양이 1024 TFLOPS에 메모리 대역폭 초당 8TB 혹은 NPU 256GB 메모리를 갖춰야 한다거나, vLLM 및 MLPerf 성적표 등을 요구해 특정 제조사 제품만 지원할 수 있도록 조건이 설정돼 수십 건의 이의제기가 달리기도 했다. 이후 메모리 사양, MLPerf 성능 제출 등의 조건은 완화되었으나 처음부터 조건이 유연했으면 하는 아쉬움이 남는다.

리벨리온은 아톰맥스 기반 서버로 사업에 도전했으며, 딥엑스는 DX-H1, 모빌린트는 MLA 400을 제안했다. 현재 경상남도청, 울산광역시의 관제는 리벨리온의 아톰맥스 서버로 낙점됐으며 한국도로공사는 인텔리빅스가 수주에 성공했다. 인텔리빅스는 영상분석 코어 엔진 VIX 2.0 및 관제 플랫폼 Gen AMS과 모빌린트 NPU를 연동해 다양한 AI 시스템을 구축해 왔으며 이번 사업에는 MLA 400을 활용할 것으로 보인다.

사업 전반을 톺아보자면 경제성보다는 NPU의 미래 가치에 투자하는 사업이다. 가장 중요한 점은 기존에 엔비디아 GPU를 활용하던 AI 작업을 국산 NPU로도 대체할 수 있음을 증명하는 데 있다. 사업 참여를 통해 일정 부분을 국산 NPU로 대체할 시 엔비디아 GPU 구매 비용을 낮출 수 있고, 도입 사례를 바탕으로 비슷한 사업에 도전할 수 있다.

실제로 디노티시아와 엘비에스테크는 지난해 영국 웨스트미들랜드 주 교통국과 연계해 국산 AI를 기반으로 한 휠체어 데이터 수집 및 안전 내비게이션 구축 실증 서비스를 진행했고, 라온피플과 모빌린트는 태국 봉깐주 정부와 협력해 홍수, 범죄 등을 해결하기 위한 재난, 안전, 방범 온디바이스 AI 시스템을 실증하기도 했다. 이번 AI CCTV 관제 역시 실증 사례를 확보하면 해외의 다른 CCTV 관제에 제안할 길이 열린다.

지자체 CCTV에 포착된 재난, 사고 등의 영상정보를 데이터베이스로 구축해 기업 및 연구 환경을 지원하고, 이를 바탕으로 AI 기능을 더욱 강화해 AI 능률을 올리는 한편 스마트시티 통합 플랫폼의 완성도도 더욱 끌어올려 국민 안전을 더욱 강화할 수 있다.

결론적으로 AI 기반 CCTV 사업의 NPU 도입은 국산 NPU의 성공적인 도입 사례를 확보하는 게 첫 번째 원칙이다. 비용을 더 들여서 GPU로 구성하면 훨씬 더 안정적이고 완성도가 높겠지만 국내 NPU 기업에게 기회를 제공하고 미래에는 국산 기술로 더 다양한 사업에 도전할 바탕을 만들자는 게 취지다. 세금으로 진행되는 사업인 만큼 가능한 모든 국산 NPU 기업에게 공정하게 기회가 주어져야 할 필요가 있고, 지출 대비 효율성이 높은 방식으로 진행되어야 한다.

IT동아 남시현 기자 (sh@itdonga.com)