클로드 코드, 첫 요청에 오픈코드보다 토큰 4.7배 더 쓴다...한 컨설팅사가 'API 경계'에서 측정...사용자가 한 글자 치기 전 3만3천 토큰 소모, 캐시 재작성으로 요금 눈덩이

[한국정보기술신문] 인공지능(AI) 코딩 도구 '클로드 코드(Claude Code)'가 경쟁 도구 '오픈코드(OpenCode)'보다 같은 작업에서 훨씬 많은 토큰을 쓴다는 측정 결과가 나왔다. 영국·유럽에서 활동하는 AI 컨설팅사 시스티마(Systima)는 지난 7월 12일 자사 블로그에 두 도구의 토큰 소비량을 비교한 실측 보고서를 공개했다. 보고서에 따르면 이용자가 단 한 줄짜리 답만 요청해도, 클로드 코드는 그 요청이 도착하기도 전에 이미 약 3만3천 토큰을 쓰는 반면 오픈코드는 약 7천 토큰에 그쳤다. 약 4.7배 차이다.

토큰이란 AI가 글을 처리할 때 쓰는 최소 단위로, 사용량과 요금을 매기는 기준이 된다. 클로드 코드와 오픈코드는 모두 개발자가 프로그램 코드를 짤 때 AI가 여러 단계의 작업을 대신 처리해 주는 '코딩 에이전트'다. 이런 도구는 이용자의 지시를 AI 모델에 넘기기 전에, AI가 지켜야 할 규칙과 쓸 수 있는 기능 목록 등을 함께 실어 보낸다. 이렇게 도구가 알아서 덧붙이는 분량이 곧 '토큰 부담(오버헤드)'이며, 이것이 크면 그만큼 요금과 응답 시간이 늘고 정작 코드를 다루는 데 쓸 공간은 줄어든다.

시스티마는 두 도구를 같은 AI 모델(클로드 소네트 4.5)과 같은 컴퓨터, 같은 작업에 올려놓고 주고받은 내용을 모두 기록했다. 도구와 AI 모델 사이에 기록용 중계기를 끼워, 도구가 실제로 내보낸 요청과 모델이 되돌려준 사용량을 그대로 남기는 방식이다. 회사는 이를 두고 소문이나 짐작이 아니라 실제 데이터로 도구의 동작을 확인하려는 시도라고 설명했다.

가장 단순한 시험은 "정확히 'OK'라고만 답하라"는 22글자짜리 요청이었다. 이때 클로드 코드가 함께 실어 보낸 것은 시스템 프롬프트 2만7천여 자, 도구 명세 27개(9만9천여 자), 첫 메시지에 끼워 넣는 안내 블록 약 8천 자였다. 반면 오픈코드는 시스템 프롬프트 9천여 자와 도구 10개(2만여 자)가 전부였다. 시스템 프롬프트란 AI에게 미리 정해 주는 역할·규칙 설명이고, 도구 명세는 AI가 쓸 수 있는 기능 하나하나의 사용법을 적어 둔 목록이다.

두 도구 모두 부담의 대부분은 도구 명세에서 나왔다. 클로드 코드의 약 3만3천 토큰 가운데 2만4천가량이, 오픈코드의 약 7천 토큰 가운데 4천8백가량이 도구 명세였다. 클로드 코드는 코딩 기본 기능 외에 예약 작업과 알림, 여러 작업을 나눠 시키는 조율 기능까지 27가지를 기본으로 싣고 있었고, 오픈코드는 고전적인 코딩 도구 10가지만 담고 있었다.

프롬프트 캐싱은 이 부담을 줄이는 장치다. 매번 똑같이 실어 보내는 앞부분을 한 번 저장해 두고, 다음부터는 싼값에 다시 읽어 오는 방식이다. 저장할 때는 기본 요금의 1.25배를 내지만, 이후 읽을 때는 10분의 1 값만 든다. 문제는 이 저장분을 다시 써야 할 때 생긴다.

시스티마의 측정에서 오픈코드는 매 요청마다 앞부분이 한 글자도 바뀌지 않아, 한 번 저장한 것을 계속 싼값에 읽어 왔다. 반면 클로드 코드는 한 세션 안에서도 저장분을 수만 토큰씩 다시 쓰는 일이 반복됐다. 같은 파일 요약 작업에서 클로드 코드가 다시 쓴 캐시가 5만3천여 토큰인 데 비해 오픈코드는 1천여 토큰이었다. 저장 상태에 따라 클로드 코드의 캐시 재작성량은 오픈코드의 5.9배에서 최대 54배에 이르렀다. 캐시 저장에는 웃돈이 붙기 때문에, 이것이 이용 요금이 늘어 보이는 주된 원인으로 지목됐다.

캐싱으로도 줄지 않는 비용이 하나 남는다는 점도 보고서는 짚었다. AI가 한 번에 다룰 수 있는 글의 총량, 이른바 '문맥창'을 밑바탕 부담이 차지해 버리는 문제다. 8만5천 토큰짜리 밑바탕은 20만 토큰 크기의 문맥창에서 매 요청마다 그 40퍼센트가 넘는 자리를 미리 차지하며, 이 몫은 캐시 할인으로도 줄어들지 않는다. 그만큼 실제 코드를 담을 여유가 처음부터 좁아지는 셈이다.

실제 업무 환경에서는 부담이 더 불어난다. 시스티마가 실제 프로젝트에서 쓰는 72KB짜리 지시 파일을 넣자, 두 도구 모두 요청마다 약 2만 토큰이 더 붙었다. 지시 파일이란 프로젝트별로 AI가 따라야 할 규칙을 적어 둔 문서다. 여기에 외부 서비스와 이어 주는 MCP 서버를 다섯 개 붙이면 5천7천 토큰이 추가됐다. MCP 서버란 메일·일정·업무 관리 같은 외부 도구를 AI가 쓸 수 있게 연결해 주는 장치다. 이런 것들을 합치면, 이용자가 한 글자를 치기도 전에 요청이 이미 7만5천8만5천 토큰에 이른다는 것이 회사의 설명이다. 시스티마가 실제 이용 환경 하나를 그대로 재현해 재 보니, 오픈코드는 열한 개의 MCP 서버와 지시 파일까지 얹었을 때 첫 요청이 9만 토큰을 넘었다. 회사는 도구 자체가 바닥값을 정하고, 이용자의 설정이 최종 청구액을 정한다고 정리했다.

부담이 가장 크게 튀는 대목은 작업을 하위 대리인에게 나눠 시킬 때였다. 하위 대리인(서브에이전트)이란 큰 일을 쪼개 맡기려고 따로 띄우는 보조 AI를 말한다. 시스티마 측정에서 직접 처리하면 12만1천 토큰이 드는 작업이, 두 개의 하위 대리인에게 나눠 맡기자 51만3천 토큰으로 4.2배가 됐다. 대리인마다 저마다의 밑바탕 부담을 다시 지고, 그 결과물을 원래 도구가 또 넘겨받아 읽어야 하기 때문이다. 시스티마는 세션이 예상보다 무거워졌다면 이 부분부터 살펴보라고 조언했다.

측정이 클로드 코드에 불리하기만 한 것은 아니었다. 코드를 쓰고 실행하고 고치기를 반복하는 여러 단계 작업에서는, 클로드 코드의 전체 토큰 총량이 오히려 오픈코드보다 적게 나왔다. 클로드 코드가 여러 도구 호출을 한 번의 요청으로 묶어 보내는 사이, 오픈코드는 매 차례 작은 밑바탕 부담을 거듭 물었기 때문이다. 실제로 이 작업에서 클로드 코드는 요청 3번으로 끝낸 반면, 오픈코드는 한 번에 도구를 하나씩만 불러 9번의 요청을 주고받았다. 시작점은 클로드 코드가 높았지만, 작업이 어떻게 풀리느냐에 따라 누가 더 쓸지가 갈린 셈이다.

시스티마는 이번 결과가 한 대의 컴퓨터에서 특정 버전(클로드 코드 2.1.207, 오픈코드 1.17.18) 한 쌍을 두고 잰 2026년 7월 시점의 단면일 뿐이라고 못박았다. 도구의 규칙은 자주 바뀌므로 개별 수치보다 측정 방법 쪽을 오래 참고할 만한 결과로 봐야 한다는 것이다. 또 측정 경로에 자체 중계 장비가 끼어 있어, 일부 수치는 그 영향을 덜어 내는 보정을 거친 값임을 밝혔다.