미 정부, 앤트로픽 최신 AI '페이블 5·미토스 5' 외국인 접근 전면 차단...한 논객 "앤트로픽이 스스로 요구한 규제, 제 발등 찍었다"...아모데이 '정부에 모델 차단권 부여' 제안 이틀 만에 수출통제 직격, 앤트로픽은 "오해" 반박

[한국정보기술신문] 미국 정부가 인공지능(AI) 기업 앤트로픽(Anthropic)의 최신 모델에 대한 외국인의 접근을 전면 차단한 가운데, 이 규제가 사실은 앤트로픽 스스로 정부에 요구해 온 것이라는 분석이 나왔다. AI 분야 평론가 SE 가이지스(SE Gyges)는 6월 14일(현지시간) 자신이 운영하는 뉴스레터 '베리 세인 AI(Very Sane AI)'에 올린 글에서, 앤트로픽이 며칠 전 정부에 'AI 모델 배포를 막을 권한'을 달라고 직접 요청해 놓고 이틀 만에 그 권한의 첫 표적이 됐다고 주장했다. 이 글은 객관적 보도가 아니라 한 논객이 펼친 분석과 견해에 해당한다.

앞서 미국 정부는 6월 12일(현지시간) 저녁 앤트로픽에 수출통제 지시(export control directive)를 내려, 자국민이 아닌 모든 외국 국적자가 앤트로픽의 최신 모델 '클로드 페이블 5(Claude Fable 5)'와 '클로드 미토스 5(Claude Mythos 5)'에 접근하지 못하도록 막았다. 수출통제란 국가 안보 등을 이유로 특정 기술이나 제품이 외국으로 넘어가는 것을 정부가 제한하는 조치를 말한다. 이번 지시는 미국 밖에 있는 외국인뿐 아니라 미국 안에 있는 외국인, 심지어 앤트로픽에서 일하는 외국 국적 직원에게까지 적용됐다. 앤트로픽은 일부 이용자만 골라 막는 것이 사실상 불가능하다고 보고 두 모델을 모든 이용자에게 전면 중단했다고 밝혔다. 회사 측은 클로드 오푸스 4.8 등 나머지 모델은 영향을 받지 않는다고 설명했다.

가이지스가 근거로 든 것은 앤트로픽 최고경영자(CEO) 다리오 아모데이(Dario Amodei)가 6월 10일 발표한 정책 에세이 '정책으로 본 AI 기하급수(Policy on the AI Exponential)'다. 아모데이는 이 글에서 일정 규모 이상의 첨단 AI 모델은 사이버보안, 생물무기, AI 통제력 상실, 그리고 이런 위험을 키우는 자동화 연구개발(R&D) 등 네 가지 위험에 대해 제3의 기관으로부터 의무적으로 검증을 받아야 하며, 검증 결과 위험이 크다고 판단되면 정부가 그 모델의 배포를 막거나 단념시킬 권한을 가져야 한다고 제안했다. 다만 그 권한은 위 네 가지 위험에만 한정돼야 하고, 정치적 편애나 자의적 결정을 막는 보호 장치가 있어야 한다는 단서를 달았다.

이 제안은 앤트로픽으로서는 입장의 큰 전환으로 평가된다. 회사는 2025년까지만 해도 안전 절차와 시험 결과를 공개하라는 '투명성' 중심의 입법을 지지하며 구속력 있는 규제는 위험이 분명해질 때까지 미루자는 태도를 보였으나, 이번 에세이에서 아모데이는 "위험이 이제 분명히 닥쳤다"며 항공기 안전을 관리하는 미국 연방항공청(FAA)처럼 출시 전 의무 검증을 거쳐 기준에 못 미치면 배포를 막는 구속력 있는 규제로 나아가야 한다고 주장했다.

가이지스는 이 제안을 한 문장씩 떼어 이번 사태와 맞춰 보면 거의 그대로 들어맞는다고 주장했다. 정부가 모델 배포를 막았고(차단권 행사), 제3자 평가에 근거했으며(검증), 사이버보안 위험을 이유로 들었다는(네 위험 중 하나) 것이다. 그는 아모데이의 발언이 업계와 입법자, 법정에서 모두 회사의 공식 입장으로 받아들여지는 만큼, 회사가 요구한 그대로 일이 벌어졌다고 봤다. '정치적 편애를 막는 보호 장치'에 대해서는, 그런 장치란 결국 '법원'을 뜻하며 아모데이도 다른 사람들처럼 소송을 내 판단을 받을 수 있는 만큼 별도의 특별한 보호 장치를 뜻한 것은 아닐 것이라고 그는 풀이했다.

가이지스의 글은 비판적 논조가 짙다. 그는 앤트로픽이 수년간 정부에 더 큰 권한을 달라고 요구해 왔고, 그 규제가 주로 오픈소스 프로젝트나 학계, 중소기업 같은 '남'에게 적용될 것이라 여겼을 것이라고 주장했다. 오픈소스란 누구나 자유롭게 가져다 쓰고 고칠 수 있도록 설계도(소스코드)를 공개한 소프트웨어를 말한다. 그러나 정작 자신이 제안한 것과 똑같은 규제를 스스로 적용받게 되자 달가워하지 않는다는 것이 그의 지적이다.

그는 AI 기업들이 자신들이 하는 일이 얼마나 거대하고 위험한지를 강조하면서도, 그 위험을 누가 책임지느냐는 물음에는 "정부나 사회가 해결할 것"이라며 미뤄 왔다고 비판했다. 이어 현실의 정부가 실제로 나선 지금, 그 정부는 늘 좋은 일만 하고 나쁜 일은 하지 않는 상상 속 정부가 아니라고 꼬집었다. 그는 어떤 기존 제도도 새 기술을 제대로 통제하지 못한다면, 그 기술을 만드는 쪽이 통제할 수 있는 제도를 함께 마련하거나 아니면 하던 일을 멈춰야 한다고 적었다.

가이지스는 이번 조치가 정치적 동기에서 비롯됐을 가능성도 어느 정도 있다고 봤다. 그는 올해 앞서 미 국방부(글에서는 'Department of War'로 표기)가 앤트로픽을 겨냥해 거래제한 명단에 올리려 했던 일을 '노골적인 정치적 압박'이라 평가하면서도, 이번 수출통제는 그때와 다르다고 했다. 이번에는 정부가 실제로 가진 분명한 권한(수출통제)에 근거했고, 회사가 스스로 자사 모델이 생물무기·사이버보안 위험을 안고 있어 규제가 필요하다고 거듭 밝혀 온 공개 기록이 남아 있다는 것이다. 그는 정부가 앤트로픽이 자사에 대해 해 온 말을 문자 그대로, 진지하게 받아들이면 어떤 일이 벌어지는지를 보여 주는 사례라고 적었다.

앤트로픽은 이번 조치를 '오해'로 규정하며 접근 복구를 위해 정부와 협의하고 있다고 밝혔다. 회사는 정부가 보낸 지시문이 구체적인 국가안보 사유를 담고 있지 않았다며, 이번 조치가 페이블 5의 안전장치를 우회하는 특정 기법, 즉 모델에 특정 코드를 읽혀 소프트웨어의 보안 취약점을 찾게 하는 방식에서 비롯된 것으로 보인다고 설명했다. 또 그 정도의 능력은 오픈AI(OpenAI)의 GPT-5.5 등 이미 공개된 다른 모델에서도 쓸 수 있고, 사이버보안 방어 인력이 일상적으로 활용하는 수준이라고 반박했다. 페이블 5는 더 강력한 모델인 미토스 5에 안전장치를 더한 버전으로, 두 모델은 같은 기반 위에 만들어졌다.

가이지스의 분석은 어디까지나 한 논객의 견해라는 점에서 신중하게 볼 필요가 있다. 특히 그는 이번 위험 평가를 아마존(Amazon)이 맡았고 재무장관이 협상을 주도했다고 적었으나, 주요 외신은 이번 지시가 미 상무부(Department of Commerce)와 그 산하 산업안보국(BIS)에서 나왔으며 하워드 러트닉(Howard Lutnick) 상무장관 명의로 발송됐다고 보도해 사실관계에 차이가 있다. '아모데이가 이번 결과를 요구했다'는 해석 역시 그의 정책 제안을 어떻게 읽느냐에 따라 평가가 갈릴 수 있는 대목이다. 아모데이의 제안은 정부의 자의적 결정을 막는 보호 장치와 정치적 남용 방지를 전제로 한 것이어서, 이번 조치가 그 전제에 부합하는지를 두고도 의견이 엇갈릴 수 있다.

이번 사안은 정부가 구체적 사유를 공개하지 않은 가운데 회사와 정부의 설명이 엇갈리고 있어, 누가 어떤 근거로 결정했는지를 둘러싼 다툼은 당분간 이어질 전망이다. AI를 국가 안보 자산으로 보는 시각이 강해지는 흐름 속에서, 첨단 모델을 어디까지 누구에게 열어 줄 것인지의 문제는 산업과 외교, 안보가 얽힌 쟁점으로 떠오르고 있다.