[전자신문] [국방AX 토론회] 설명·신뢰·통제 가능한 국방 AI 필요…전군 호환체계 구축해야

개전 33일째 미국·이란 전쟁은 인공지능(AI)이 전장의 ‘두뇌’로 공식 투입된 첫 사례로 평가된다. 우리나라도 국방분야에서 설명 가능하고 신뢰할 수 있으며 통제 가능한 AI 활용 필요성이 꾸준히 제기된다.

이번 전쟁에서 AI가 정보 수집·분석뿐만 아니라 표적 식별, 작전 계획, 타격 판단에 이르는 ‘킬 체인’ 핵심축으로 부상했듯 미래 국방 경쟁력이 AI에 달렸다는 게 전문가들 판단이다. 전쟁 승패가 전장에서 AI 활용을 통한 의사결정 속도에 달렸다는 관측까지 나오며 국방 AX(AI 전환) 본격화가 요구되고 있다.

전자신문은 1일 ‘국방AI법’을 공동 발의한 부승찬 더불어민주당 의원·유용원 국민의힘 의원실과 ‘이란戰으로 본 AI 전쟁 : 국방 혁신과 생명 윤리’를 주제로 긴급 현안 토론회를 열고 대응 방안을 모색했다.

◇참석자(가나다순)

△곽기호 국방과학연구소 국방AI기술연구원장(좌장)

△김명주 인공지능안전연구소장

△문오선 공군 항공력발전위원회 연구위원

△양승현 코난테크놀로지 부사장

△전준범 국방부 국방인공지능정책기획국장

△하윤철 한화시스템 상무

△황승희 시스코코리아 수석부사장

◇좌장(곽기호 국방과학연구소 국방AI기술연구원장)=미국과 이란 전쟁에서 AI 활용을 통해 감시 정찰에서 의사 결정, 타격, 평가까지 분단위로 일어나는 상황을 목도했다. AI 군사적 활용 범위 확대, 지휘 책임, 오판 가능성 등 도전적 이슈가 있는데 의견 부탁드린다.

◇문오선(공군 항공력발전위원회 연구위원)=현장에서 의사결정 상황을 지켜보면 여전히 보고자료를 만드는 것만 해도 어려움이 많았다. 현재 군의 네트워크가 완전히 연결돼 있지 않고 각 군과 제대별 무기체계도 제대로 연결돼 있지 않은 것, 데이터 공유도 문제다. 상호 약정에 따라 주고받을 수 있어야 하지만 현재 군 체계에서는 부족한 게 현실이다.

이상적인 기술은 항상 도전과 저항을 받게 된다. 기술 발전 속도와 별개로 사람과 조직의 저항이 기술 도입의 가장 큰 문제이고 과거 방식에 집착하는 게 큰 장애라고 지적했다. 국방 AI는 ‘속도’와 ‘통합’이핵심이다. 현재 군이 빠른 속도로 의사결정을 수행하고 있는지, 육·해·공군이 통합돼 기능하고 있는지를 점검해야 한다. 전투원들이 어떻게 사고하고 판단하며 피드백을 가져야 하는지에 대한 냉철한 분석이 필요하다.

2022년 12월 북한 무인기 침투 당시 탐지·추적·식별을 정확히 파악하는 데 한 달이 걸렸다. 현대 전장은 매우 빠르게 변화하고 있고, 실시간 의사결정이 불가능하면 AI 수준에 도달했다고 보기 어렵다. 당시 전파체계와 보고체계로는 무인기 상황을 즉시 전달할 수 없었으며 상황보고 지연으로 지휘관이 상황을 즉시 확인할 수 있는 체계도 구현되지 않았다. 이런 점에서 볼 때 AI 도입은 아직 갈 길이 멀고 군이 개선해야 할 부분이 많다. 기술진과 협력할 수 있는 역량도 함께 키워야 한다.

◇좌장=각 군 데이터의 상호 운용성을 고려한 확장이 필요하다는 의견이고 군 또는 기업이 단독으로 해결할 수 있는 문제는 아닌 것 같다. 대기업은 어떤 역할을 할 수 있나?

◇하윤철(한화시스템 상무)=방산 대기업 관점에서 볼 때 국방 AI는 일반 AI 스타트업이나 딥테크 기업과 크게 다르지 않다. 그러나 몇 가지 공통적인 한계가 존재한다. 스타트업 지원이 확대되고 있지만 여전히 시간, 인프라, 데이터 측면에서 제약이 있다. 국가AI전략위원회가 법제화와 AX 거점화를 추진하지만 N2SF 구조에서는 퍼블릭 데이터만 개방되는 한계가 있다. 전략·전술에 활용할 국가 거대언어모델(LLM)이 필요한데 부재한 상황이며 이를 운용할 인력 확보도 큰 문제다.

특히 방산과 국방 분야에 AI 인력이 투입되더라도 군과 국방이라는 도메인에 대한 이해 부족으로 실질적 역할이 어렵다. 예를 들어 ‘표적 개발’이라는 개념 자체를 이해하는 개발자가 많지 않다는 의미다. 방산 구조가 이익 중심으로 움직이기 때문에 국방 목적에 최적화되지 않는 문제도 있다. AI 기반 방산 기술을 개발하는 것과 실제 군 체계에 적용하는 것은 전혀 다른 문제다. 현재는 제대로 작동하는 체계가 많지 않다. AI 전술체계를 구축하기 위해서는 상당한 자본과 노력이 필요하다.

또 미국의 획득제도는 배울 점이 많지만 한국과 미국의 자본 격차도 큰 문제다. 최소 수 억원이 필요한 위성 데이터 확보 비용 등 현실적 한계가 존재한다. 이에 민·군의 AI 공동 활용에 대한 거버넌스가 정립되지 않으면 군과 기업 모두 답답한 상황이 지속될 가능성이 크다. 국방 AI 생태계 구축 노력이 병행돼야 한다.

◇좌장=대기업에서 국방 분야에 다양한 어려움을 겪고 있다는 점을 언급했는데 중소·중견기업은 어떠한가.

◇양승현(코난테크놀로지 부사장)=그동안 기술검증(PoC) 중심으로 진행된 사업 참여가 많았다. 2025년 중반 이후 추론 모델이 발전하면서 환각 문제가 감소했고 검색증강생성(RAG) 기반 생성 방식이 확산되며 AI의 현장 적용이 증가하는 추세다. 최근 인간 개입을 줄이는 방향이 고려되기도 하는데 오답을 통제하고 올바르게 활용하는 게 무엇보다 중요하다.

현재 실증 데이터를 확보하기 어려운 구조인 만큼 데이터 공유와 표준화를 통해 안전한 AI 활용이 가능하도록 지원해야 한다. 데이터는 존재하지만 위치와 접근 가능 여부가 불명확하고, 보안 문제로 공유가 제한돼 매 프로젝트마다 동일한 작업을 반복해야 하는 문제가 발생하고 있다. 데이터 등급 체계와 보안 체계를 구축하고 ‘데이터 샌드박스’ 방식 도입이 필요하다. 메타데이터 기반 표준화도 중요하다. 애자일 방식 사업 추진과 지속적인 운영 예산 확보가 필요하며, 실증 데이터를 통한 개선도 필수적이다. 민간 기술 발전 속도를 따라가기 어려운 현재 국방 조달 체계도 개선해야 한다.

◇좌장=외국계 기업 관점에서 국방 인프라와 보안 이슈를 어떻게 보고 있나.

◇황승희(시스코코리아 수석부사장)=글로벌 기업 관점에서 가장 중요한 요소는 AI 생태계다. 협업과 기술 연계를 통해 시너지 창출도 중요하다. AI시스템이 작동하기 위해서는 데이터 생성, 분석, 학습 플랫폼, 모델, 네트워크, 엣지까지 이어지는 전체 구조가 필요하다. 실전 환경에서 작동하는 네트워크와 신뢰성이 중요하다. 보안 측면에서는 단말 신뢰성, 데이터 전송 암호화, 모델 리스크 관리, 사용자 행태 분석 등이 중요 요소다. 엔드투엔드 보안 프레임워크와 AI 기반 관제 시스템이 필요하며, 에이전틱 AI 기반의 자율 대응 보안 체계가 구축돼야 안정적인 시스템 운영이 가능해진다.

◇좌장=AI의 군사적 활용에 대해 기술적 호기심과 동시에 인간적 두려움이 존재한다. AI 역할과 인간 개입 구조 관련 윤리적인 측면에서 어떻게 보고있는지.

◇김명주(AI안전연구소 소장)=국방 혁신과 생명 윤리가 함께 갈 수 있는지 근본적인 고민이 필요하다. 전쟁 상황에서는 기존 윤리가 무력화되는 ‘윤리 공백’이 발생한다는 얘기도 있다. 모든 기술은 인간을 위해 존재해야 하며, AI는 더 빠르지만 더 많이 죽일 수 있는 위험성을 내포하고 있다. AI가 살상무기에 적용되는 것은 문제다. 유엔(UN) 등 국제사회 차원에서 ‘킬러 로봇’과 같은 자율무기는 개발 자체를 금지하는 공동의 원칙이 필요하다. 국방에 AI를 적용하더라도 인간이 최종 결정을 내리는 결정권이 있어야 한다는 점도 지속 강조되고 있다. AI 신뢰성과 정확도가 군의 폐쇄적인 환경에서는 더욱 낮아질 수 있기 때문에 이를 고려한 체계와 시스템 도입이 필요하다.

◇좌장=국방부는 국방 AX를 위해 어떤 정책 방향을 갖고 있나. 윤리적인 활용에 대한 계획도 있나.

◇전준범(국방부 국방AI정책기획국장)=국방 AI 도입은 반드시 필요하다. 병력이 줄어드는 상황에서 현재 체계를 유지·발전시키기 위해서라도 AI가 중요하다. 러시아·우크라이나 전쟁 과정에서 러시아를 통한 북한의 AI 경험 확보 등 상황도 고려해야 한다. 전쟁에서 AI를 활용한 의사결정 속도가 승패를 좌우할 수도 있다. 국방에 AI를 접목하면서 안전성과 윤리를 어떻게 확보할 것인지는 핵심 이슈가 맞다. 국방부는 AI 활용에 있어 첫째 설명이 가능해야 한다, 둘째 신뢰할 수 있어야 한다, 셋째는 통제가 가능해야 한다는 원칙을 갖고 있다.

AI가 왜 그런 판단을 했는지 근거를 파악할 수 있어야 한다는 의미다. 실제 데이터에 근거해 ‘이런 정보로 판단을 내렸다’는 설명이 가능해야 지휘관이 판단 과정에 활용할 수 있다. 군에서 작전 효율성을 높이기 위해 내부 데이터 활용이 가능해야 하는데 신뢰 가능한 체계가 필수다. 오류를 줄이려는 노력도 필요하고 민간과 협력도 필요하다. 특히 치명적인 결과로 이어질 수 있는 의사결정에는 인간의 개입이 가능해야 한다. 하마스 전쟁은 민간인과 군인을 식별하기 어려운 상황이었는데 우리가 처한 상황은 대부분 그렇지 않을 것이다. 명확히 구분할 수 있는 기술로 발전이 필요하고 데이터 오류를 최소화할 수 있는 대안도 마련해야 한다.

우리 군은 민주국가의 군대로서 자율무기체계 활용, 민간 사찰과 같은 방식으로 AI를 사용하지 않을 것이라고 확고하게 얘기할 수 있다. 국가 방위 목적의 AI만 활용하겠다는 게 국방부 방침이다. 국방인공지능법 제정을 통해 국방 AX 근거를 만들어야 하고 그래픽처리장치(GPU)와 같은 인프라 자원도 확충해야 한다. 기존 무기획득체계와는 다른 AI기술 특성을 반영할 수 있는 체계도 마련해야 한다.

◇좌장=무기체계에 AI를 적용할 때 신뢰성은 어떻게 확보할 수 있나.

◇하윤철=데이터 편중성을 극복하고 편향되지 않게 사용·개발해야 한다는 원칙이 있다. AI 모델과 소프트웨어(SW) 구조에 대한 감사가 가능해야 하고 오동작 판별 등 여러 기준도 필요하다. 이미 방산 SW 관리체계 지침에 따라 코드 리뷰와 정책 검토 등 상당히 까다로운 절차를 거쳐 개발되고 있다. 다만 이는 재래식 SW와 재래식 무기체계를 기준으로 설계된 것이기에 새로운 AI 기반 무기체계에 더 정교한 로직과 기준이 필요하다.

◇좌장=’믿을 수 있는 무기’라는 개념은 계속 진화되는 것이다. 신뢰할 수 있는 무기체계는 실제 써보면서 업데이트하고 개선해가는 과정을 통해 형성되는 것이지, 처음부터 100% 완성된 상태로 나오는 것은 아니다. 사용과 보완의 과정 속에서 신뢰를 쌓아야 한다.

박종진 기자 truth@etnews.com