오픈 웨이트 AI 'GLM 5.2', 오푸스·GPT 넘본다...한 분석가 "AI 추론 이익률 붕괴 임박"...성능은 최상위 모델급인데 가격은 15~20% 수준, 코딩 도구에 그대로 갈아 끼울 수 있어 전환 비용도 낮아

[한국정보기술신문] 중국 지푸AI(Z.ai)가 내놓은 오픈 웨이트 인공지능(AI) 모델 'GLM 5.2'가 앤스로픽의 오푸스(Opus)나 오픈AI의 GPT 같은 최상위 모델에 견줄 만한 성능을, 그보다 훨씬 낮은 가격에 제공한다는 분석이 나왔다. AI 인프라 분야 분석가 마틴 앨더슨은 지난 7월 6일 자신의 블로그에 올린 글에서, GLM 5.2를 여러 단계의 작업을 스스로 처리하는 '에이전트형' 용도에서 오푸스·GPT의 진정한 경쟁자로 부를 만한 첫 오픈 웨이트 모델로 평가하며, 이런 흐름이 AI 추론 비용 구조를 뒤흔들 것이라고 내다봤다. 오픈 웨이트란 AI 모델의 핵심 정보인 가중치를 외부에 공개해, 누구나 내려받아 자신의 장비에서 직접 돌릴 수 있게 한 모델을 말한다.

이 글은 앨더슨이 예고한 두 편짜리 연재의 첫 번째 글이다. 그는 AI 업계에서 가장 덜 알려진 중요한 변화로 '추론 이익률의 붕괴'를 꼽으며, 이번 글에서 그 신호탄으로 GLM 5.2를 소개했다.

앨더슨은 논의의 출발점으로 지난해 초 시장을 흔들었던 중국 딥시크(DeepSeek) 사태를 끌어온다. 당시 딥시크가 기반 모델을 600만 달러도 안 되는 비용에 학습시켰다고 알려지자, 시장은 AI 모델을 만드는 데 드는 막대한 투자가 더는 필요 없어지는 것 아니냐고 받아들였고, 그 여파로 엔비디아 등 관련 기업의 주가가 하루 만에 크게 출렁였다. 학습이란 방대한 데이터를 모델에 반복 입력해 성능을 끌어올리는 과정을, 추론이란 그렇게 만들어진 모델을 실제로 돌려 답을 내놓게 하는 과정을 뜻한다.

그러나 앨더슨은 이것이 AI의 진짜 비용이 어디에 있는지를 잘못 읽은 것이라고 지적한다. 그의 설명에 따르면 학습은 한 번 크게 돈을 들여 끝내는 고정된 선투자에 가깝다. 반면 추론은 이용자가 많아질수록 그만큼 계속 늘어나는, 실질적인 한계 비용을 안고 있다. 한계 비용이란 서비스를 한 단위 더 제공할 때마다 추가로 드는 비용을 말한다. 결국 AI 기업의 사업 모델은 큰돈을 들여 모델을 한 번 학습시킨 뒤, 그 비용을 아주 많은 추론에 나눠 얹어 이익을 남기는 구조라는 것이다.

앨더슨은 최상위 모델을 만드는 이른바 '프런티어 랩'들이 추론에서 상당한 이익을 남기고 있다고 추정한다. 그는 앤스로픽이나 오픈AI가 토큰 100만 개(MTok)당 25달러가량을 받을 때, 실제 연산에 드는 비용과 비교하면 총이익률이 대략 90%에 이를 것이라는 어림셈을 제시했다. 토큰이란 AI가 글을 처리할 때 다루는 최소 단위로, 단어나 단어 조각에 해당한다.

다만 그는 이 수치가 정밀한 계산이 아닌 대략적인 추정임을 함께 밝혔다. 유출된 오픈AI의 재무 자료에서는 매출 기준 총이익률이 약 60% 수준으로 나타나는데, 여기에는 고객 지원이나 결제 처리 같은 다른 비용이 포함돼 있을 것이라고 그는 덧붙였다. 요컨대 정확한 폭은 알기 어렵지만, 추론에 붙는 이익의 여지가 상당하다는 것이 그의 주장이다.

앨더슨은 몇 주간 GLM 5.2를 직접 써 본 결과, 평소 주력으로 쓰는 오푸스와 구분하기 어려울 만큼 성능이 좋았다고 평가했다. 다만 약점도 분명하다고 지적했다. 우선 모델이 답을 내기 전에 생각을 많이 하는 탓에 속도가 느려, 실시간으로 주고받는 대화형 작업에는 다소 답답하다고 했다. 생각이 길어지면 그만큼 토큰을 더 쓰게 돼 비용 이점도 일부 줄어든다.

이미지를 이해하는 '비전' 기능이 없다는 점, 그리고 인터넷 검색 기능이 취약하다는 점도 한계로 꼽혔다. 앨더슨은 실제 에이전트 작업에서 웹 검색이 매우 자주 쓰이는데 GLM 5.2는 이 부분이 약하다며, 다만 이런 약점들은 시간이 지나면서 보완될 것으로 봤다.

앨더슨이 프런티어 랩에 특히 위협적이라고 본 대목은 오픈 웨이트 모델로 갈아타기가 매우 쉽다는 점이다. 지푸AI와 파이어웍스(Fireworks) 같은 제공사가 오픈AI 및 앤스로픽과 호환되는 접속 창구(엔드포인트)를 함께 제공하기 때문에, 앤스로픽의 클로드 코드(Claude Code)나 오픈AI의 코덱스(Codex) 같은 코딩 도구에서 접속 주소와 키만 바꿔 주면 곧바로 GLM 5.2를 쓸 수 있다는 것이다.

그는 대기업용 소프트웨어처럼 몇 년에 걸쳐 이전을 준비해야 하는 종속 관계와 달리, 이 경우 전환 비용이 매우 낮다고 강조했다. 특히 앤스로픽이 최근 비대화형 자동 작업에 대해 별도 요금을 물리려다 철회한 사례를 언급하며, 그런 용도에서는 GLM으로 대체하기가 더 쉬워졌다고 짚었다. 특정 회사의 도구에 갇히지 않으려는 이용자를 위해 코덱스나 오픈코드(OpenCode)처럼 코드가 공개된 대안 도구도 여럿 나와 있어, 갈아탈 선택지가 넓다는 점도 함께 들었다.

기업들이 우려하는 데이터 보안 문제에 대해서는, 지푸AI의 공식 서비스는 중국과의 연계나 약한 약관 탓에 기업이 쓰기 어렵겠지만, 오픈 웨이트인 만큼 제대로 된 계약 조건을 갖춘 다른 제공사를 고르거나 아예 자체 장비에 직접 설치해 쓸 수도 있다고 설명했다.

가격 차이는 더 두드러진다. 앨더슨에 따르면 GLM 5.2의 시세는 토큰 100만 개당 4.40달러 안팎으로, 오푸스 소매가의 20%가 채 되지 않고 GPT 5.5와 비교하면 약 15% 수준이다. 같은 작업에 토큰을 더 쓰는 점을 감안하더라도, 대부분의 작업에서 절반 이상 저렴할 것이라고 그는 내다봤다.

지푸AI는 앤스로픽·오픈AI의 구독제와 비슷하되 사용 한도를 더 넉넉하게 내세운 '코딩 요금제'도 운영하고 있다. 앨더슨은 데이터 학습·보관 관련 약관이 느슨해 전문 업무용으로는 팔기 어렵겠지만, 프런티어 랩들이 가격을 크게 올린다면 예산에 민감한 이용자에게는 유력한 대안이 될 수 있다고 봤다.

여기에 더해 앞으로 서비스 방식이 최적화되면서 비용이 더 내려갈 것으로 봤다. 그는 한 업체가 GLM 5.2를 엔비디아가 아닌 AMD 반도체에서 돌려 본 결과, 토큰당 비용이 엔비디아 블랙웰 대비 2.75배 저렴했다는 분석을 근거로 들었다. 오픈 웨이트 모델을 돌리는 제공사가 늘고 서로 값을 낮추면, 추론 가격은 지금보다 더 떨어질 여지가 있다는 것이다.

앨더슨은 추론 이익률이 실제로 무너질 때 업계에 어떤 일이 벌어지고 누가 이기고 지는지는 다음 글에서 다루겠다고 예고하며, "당신의 마진이 곧 나의 기회"라는 아마존 창업자 제프 베이조스의 유명한 말을 염두에 두라고 적었다.