미국 내외를 막론하고 미국 국적 이외 모든 외국인의 접근을 금지했다. 이같은 접근 금지 대상에는 앤트로픽의 외국인 직원까지 포함됐다. 앤트로픽은 즉각 원칙 없는 결정이라며 납득할 수 없다는 입장을 냈다.
앤트로픽은 12일(현지시간) 미국 국가 안보 당국이 수출 통제 지침을 내렸다며 규정 준수를 위해 모든 고객 대상 페이블5와 미토스5 서비스를 일시 중단한다고 밝혔다. ‘클로드 오퍼스 4.8’ 등 다른 모델은 계속 사용할 수 있다.
이번에 접근 제한 명령이 이뤄진 AI 모델은 앤트로픽이 미토스급 모델의 일반 공개를 위해 안전모드 형태로 개발한 페이블5와 보안 특화 모델 미토스5다.
페이블5는 악용 위험이 큰 분야에 안전장치를 마련했다. 사이버 보안뿐 아니라 생화학무기 등에 악용될 가능성이 있는 생물학·화학 관련 질의, 경쟁 AI 모델 기능을 추출하는 ‘무단 증류’로 의심되는 질의를 모두 제한했다. 그럼에도 미국 정부는 미 동부시간 기준 이날 오후 5시 21분 통제 지침을 내렸다.
앤트로픽은 “서한에는 구체적인 국가 안보 우려 사항이 명시돼있지 않다”며 “자체적으로 파악한 바에 따르면 미 정부는 페이블5를 우회하거나 탈옥하는 방법을 입수한 것으로 보인다”고 밝혔다.
실제 특정 기술을 사용한 시연을 검토, 기존에 알려진 몇 가지 사소한 취약점을 발견했으나 이러한 취약점은 모두 비교적 간단히 해결할 수 있는 문제이며, 다른 공개 모델에서도 우회 없이 이러한 취약점을 발견할 수 있다고 지적했다.
앤트로픽은 페이블5는 사이버 보안 관련 작업이나 용도에 악용될 가능성을 크게 줄이는 강력한 보안 조치를 마련했다고 강조했다. 해당 보안 조치가 너무 강력해 많은 사용자들이 지나치게 광범위하다고 불평할 정도라고 부연했다.
또 페이블5 출시를 앞두고 미국 정부, 영국 AI보안연구소(AISI)와 여러 민간 외부 기관·내부 팀과 협력해 보안 조치를 수천 시간에 걸쳐 레드팀 방식으로 테스트, 보안 조치의 안전성을 입증했다고 설명했다.
앤트로픽은 “어떠한 AI기업도 완벽한 탈옥 방지를 달성하는 것은 불가능하다고 생각한다”며 “업계에서 사용되는 모든 보안 조치는 특정 상황에서 일부 사이버 정보를 탈취 당하는 탈옥에 취약하며, 향후 범용적 탈옥이 결국 발견될 가능성이 높고 페이블5 출시 당시에도 이를 알렸다”고 밝혔다.
탈옥 등 문제 발생 가능성 최소화를 위해 페이블5는 심층 방어 전략을 택했으며, 탈옥이 가능하더라도 매우 많은 비용을 투자하도록 설계하고, 고객 데이터를 30일 동안 보존하는 등 철저한 모니터링으로 성공적인 공격을 신속하게 탐지하고 차단할 수 있는 체계를 마련했다.
이렇듯 충분한 예방 작업을 거쳐 모델을 출시했고, 이후 심각한 결과를 초래하거나 보편적이지 않은 잠재 탈옥 가능성에 대한 제보조차 받지 못했다며, 미국 정부의 이번 결정이 납득할 수 없다고 시사했다.
특히 정부가 확인한 것으로 추정되는 탈옥 방법을 자체 분석한 결과, 오픈AI ‘GPT-5.5’를 포함해 유사한 기능을 확보한 AI 모델도 자유로울 수 없는 사안이라고 판단했다.
이어 “오해에서 비롯된 지침으로 생각되나 정부의 법적 지시 준수를 위해 모든 사용자의 페이블5·미토스5 접근을 차단했다”며 “최대한 빠른 시일 내 접속이 복구될 수 있게 노력하고 있다”고 덧붙였다.
앤트로픽은 극히 제한적인 탈옥 가능성 발견을 이유로 이미 수억 명에 배포된 상용 모델을 리콜하는 것은 타당하지 않다는 입장을 분명히 했다. 또 이러한 기준이 업계 전반에 적용되면 모든 기업의 신규 AI 모델 배포가 사실상 중단될 것이라고 경고했다.
앞서 앤트로픽은 미국 국방부(전쟁부)와 정면 충돌한 사례가 있다. AI 기반 대규모 감시활동, 인간 통제를 벗어난 완전 자율무기 개발 등 AI의 군사적 활용범위를 전면 개방하라는 미 전쟁부 요구에 앤트로픽이 수용 불가 방침을 밝힌 것이다.
다리오 아모데이 앤트로픽 최고경영자(CEO)는 당시 “양심상 도저히 수용할 수 없다”고 불가원칙을 공개적으로 표명했다.
이후 미 전쟁부는 앤트로픽을 공급망 위험 기업으로 지정했으며, 앤트로픽은 미 전쟁부·연방총무청(GSA) 등 연방기관과 피트 헤그세스 전쟁부 장관 등을 상대로 지정 취소 소송을 제기했다.
박종진 기자 truth@etnews.com
