미국 정부, 앤트로픽 '페이블 5·미토스 5' 접근 전면 중단 명령...국가안보 들어 외국 국적자 대상 수출 통제, 앤트로픽은 "좁은 탈옥 사례일 뿐, 오해"라며 복구 추진

[한국정보기술신문] 미국 정부가 국가안보를 이유로 인공지능(AI) 기업 앤트로픽(Anthropic)의 최신 모델 '페이블 5(Fable 5)'와 '미토스 5(Mythos 5)'에 대한 접근을 전면 중단하라는 수출 통제 지시를 내렸다. 앤트로픽은 6월 12일 공식 입장문을 통해 이 같은 사실을 공개하고, 정부 지시를 따르기 위해 두 모델을 모든 고객에게서 즉시 차단했다고 밝혔다. 다만 회사는 이번 조치가 좁은 범위의 사소한 사안에 대한 오해에서 비롯됐다고 보고, 결정에 동의하지 않는다는 입장을 함께 내놨다.

앤트로픽에 따르면 이번 지시는 미국 내외를 막론하고 모든 외국 국적자가 두 모델에 접근하지 못하도록 하는 내용이다. 적용 대상에는 앤트로픽에 소속된 외국 국적 직원도 포함된다. 회사는 이 명령을 준수하려면 사실상 모든 고객을 대상으로 페이블 5와 미토스 5를 갑작스럽게 비활성화할 수밖에 없다고 설명했다. 다만 두 모델을 제외한 앤트로픽의 다른 모델은 이번 조치의 영향을 받지 않는다고 덧붙였다.

미토스 5는 앤트로픽이 선보인 최상위 등급의 모델이며, 페이블 5는 미토스 5와 동일한 기반 모델을 공유하되 일반에 공개할 수 있도록 추가 안전장치를 더한 모델이다. 수출 통제란 국가안보 등을 이유로 특정 기술이나 제품이 외국으로 넘어가는 것을 정부가 제한하는 제도를 말한다. 미국 정부는 이번 지시의 근거로 국가안보 관련 권한을 들었다고 앤트로픽은 전했다.

이번 조치로 두 모델을 쓰던 전 세계 이용자들은 갑작스럽게 서비스를 이용할 수 없게 됐다. 다만 앤트로픽은 페이블 5와 미토스 5에 한정된 차단이며, 그 밖의 모델 이용에는 변화가 없다는 점을 분명히 했다. 모델 하나가 아니라 외국 국적자라는 사람을 기준으로 접근을 막는 방식이어서, 미국 안에서 일하는 외국 국적 직원까지 적용 대상에 포함된 점이 이례적이라는 평가도 나온다.

앤트로픽은 미국 동부시간 기준 6월 12일 오후 5시 21분에 정부로부터 해당 지시를 받았다고 밝혔다. 회사에 따르면 정부가 보낸 공문에는 국가안보 우려의 구체적인 내용이 담겨 있지 않았다. 다만 앤트로픽은 정부가 페이블 5를 우회하거나 무력화하는 이른바 '탈옥(jailbreak)' 방법을 인지하게 된 것으로 이해하고 있다고 설명했다. 탈옥이란 AI 모델에 걸린 안전장치를 우회해, 본래 막혀 있던 기능이나 정보를 끌어내는 행위를 말한다.

앤트로픽은 문제로 지목된 기법의 시연을 검토한 결과, 이미 알려져 있던 소수의 사소한 취약점을 찾아내는 데 쓰였을 뿐이라고 밝혔다. 회사는 이 취약점들이 비교적 단순한 수준이며, 공개적으로 이용 가능한 다른 AI 모델들도 별도의 우회 없이 똑같이 발견할 수 있는 것이라고 설명했다.

앤트로픽은 페이블 5의 안전장치가 업계에서 가장 강력한 수준이라는 점을 거듭 강조했다. 회사는 출시 당시 사이버 보안 등과 관련한 오용 가능성을 크게 낮추는 강력한 안전장치를 적용했으며, 그 범위가 지나치게 넓다는 이용자 불만이 나올 정도였다고 밝혔다.

회사에 따르면 페이블 5 출시에 앞서 미국 정부와 영국 AI안전연구소(UK AISI), 여러 외부 전문 기관과 내부 팀이 수천 시간에 걸쳐 안전장치를 공격해 보는 '레드팀' 점검을 진행했다. 레드팀이란 보안 취약점을 미리 찾아내기 위해 공격자 입장에서 시스템을 시험하는 방식을 말한다. 앤트로픽은 이 점검에서 페이블 5의 안전장치가 앞서 배포된 어떤 모델보다 효과적인 것으로 나타났으며, 모델의 안전장치를 광범위하게 무력화하는 이른바 '범용 탈옥(universal jailbreak)'은 아직 어떤 시험자도 찾아내지 못했다고 밝혔다.

다만 회사는 완벽한 탈옥 방어는 현재 어떤 AI 기업도 구현하기 어렵다는 점을 인정했다. 업계에서 쓰이는 모든 안전장치는 특정 상황에서 일부 정보를 끌어낼 수 있는 '비범용 탈옥(non-universal jailbreak)'에 취약하며, 범용 탈옥도 언젠가는 발견될 가능성이 크다는 것이다. 앤트로픽은 이런 한계를 페이블 5를 공개할 때 이미 분명히 밝힌 바 있다고 설명했다.

앤트로픽은 완벽한 방어가 불가능한 만큼 페이블 5에는 여러 겹의 방어막을 두는 '심층 방어(defense in depth)' 전략을 적용했다고 밝혔다. 탈옥을 좁은 범위에 머물게 하거나 범용 탈옥을 만들어 내는 비용을 매우 높게 끌어올리고, 여기에 철저한 모니터링을 더해 공격이 성공하더라도 빠르게 탐지·차단하는 방식이다. 회사가 페이블에 대해 고객 데이터를 30일간 보관하도록 정책을 바꾼 것도 탈옥을 연구하고 대응하기 위한 조치라고 설명했다. 이 정책은 고객과의 관계에서 적지 않은 비용을 감수한 결정이라고 회사는 덧붙였다.

앤트로픽은 이 전략을 통해 페이블 5의 위험이 이미 업계 전반에 배포된 기존 모델들의 위험과 비슷한 수준으로 낮아졌다고 주장했다. 또 지금까지 해로운 결과로 이어진 우려스러운 비범용 탈옥은 한 건도 보고받지 못했으며, 공개된 탈옥 사례들은 무해한 응답이거나 미토스급 모델에서만 얻을 수 있는 추가 능력을 전혀 제공하지 않는 사소한 발견에 그쳤다고 밝혔다.

앤트로픽에 따르면 현재까지 정부가 제시한 근거는 좁은 범위의 비범용 탈옥 가능성에 대한 구두 설명뿐이다. 회사는 그 내용이 본질적으로 특정 코드 묶음(코드베이스)을 읽고 소프트웨어 결함을 고쳐 달라고 모델에 요청하는 수준이라고 전했다. 앤트로픽은 정부 지시의 근거로 추정되는 보고서를 검토한 결과, 거기서 드러난 능력은 오픈AI(OpenAI)의 'GPT-5.5'를 비롯한 다른 모델에서도 폭넓게 제공되는 것이며, 시스템을 안전하게 지키는 방어자들이 매일 활용하는 수준이라고 확인했다고 밝혔다. 회사는 향후 24시간에 걸쳐 더 자세한 내용을 공유하겠다고 했다.

앤트로픽은 정부의 법적 지시를 준수해 두 모델의 접근을 차단하면서도, 좁은 탈옥 가능성이 발견됐다는 이유로 수억 명에게 배포된 상용 모델을 회수하는 것에는 동의하지 않는다고 밝혔다. 만약 이런 기준이 업계 전반에 적용된다면 모든 첨단 모델 기업의 신규 모델 배포가 사실상 중단될 것이라는 주장이다.

회사는 평소 정부가 안전하지 않은 배포를 막을 권한을 가져야 한다고 공개적으로 밝혀 왔다고 강조했다. 다만 그 권한은 투명하고 공정하며 명확하고 기술적 사실에 근거한 법적 절차의 일부여야 한다는 전제를 달았으며, 이번 조치는 그러한 원칙에 부합하지 않는다고 평가했다. 앤트로픽은 고객에게 혼란을 끼친 데 대해 사과하면서, 이번 사안이 오해라고 보고 최대한 빨리 접근을 복구하기 위해 노력하고 있다고 밝혔다.

이번 입장문은 앤트로픽이 자사 처지에서 작성한 자료인 만큼, 미국 정부가 어떤 근거와 절차로 지시를 내렸는지에 대한 정부 측 공식 설명은 아직 공개되지 않았다. 따라서 양측의 주장이 엇갈리는 쟁점에 대해서는 향후 정부의 추가 설명과 독립적인 검증이 이뤄질 때까지 지켜볼 필요가 있다.