앤트로픽, 클로드 시스템 프롬프트 변경 이력 공식 문서로 계속 공개...2024년 7월 클로드 3부터 지난 7월 24일 오퍼스 5까지 17개 모델 기록, API에는 적용 안 돼
앤트로픽이 클로드의 시스템 프롬프트 변경 이력을 문서로 공개하고 있다.
[한국정보기술신문] 인공지능(AI) 기업 앤트로픽이 자사 챗봇 클로드(Claude)의 시스템 프롬프트 변경 이력을 공식 개발자 문서에 공개하고 있다. 회사는 클로드 플랫폼 문서의 릴리스 노트 항목에 '시스템 프롬프트' 페이지를 두고, 클로드 웹사이트(claude.ai)와 아이오에스(iOS)·안드로이드 앱에 적용되는 기본 지시문이 어떻게 바뀌었는지를 모델별·날짜별로 정리해 두고 있다. 현재 이 페이지에 실린 가장 최근 항목은 지난 7월 24일자 클로드 오퍼스 5(Claude Opus 5)다.
시스템 프롬프트는 이용자가 대화를 시작하기 전에 AI 모델에 미리 주어지는 지시문을 말한다. 이용자 화면에는 보이지 않지만, 모델이 어떤 태도로 답하고 무엇을 하지 말아야 하는지를 정하는 일종의 운영 지침 역할을 한다. 앤트로픽은 이 지시문을 통해 대화가 시작될 때마다 오늘 날짜 같은 최신 정보를 클로드에 전달하고, 코드를 마크다운 형식으로 제시하도록 하는 등 특정한 행동 방식을 유도한다고 설명했다. 마크다운은 문서의 제목이나 목록, 코드 등을 간단한 기호로 표시하는 서식 규칙이다.
2024년 8월 공개 시작...대형 AI 기업 중 처음
앤트로픽이 시스템 프롬프트를 공개하기 시작한 것은 2024년 8월 26일(현지시간)이다. 회사는 당시 클로드 3.5 소네트와 클로드 3 오퍼스, 클로드 3 하이쿠 세 모델의 지시문을 문서에 올렸다. 알렉스 앨버트 앤트로픽 개발자관계 총괄은 엑스(X·옛 트위터)에 클로드 웹사이트와 모바일 앱의 기본 시스템 프롬프트에 대한 변경 사항을 기록으로 남기겠다고 밝혔다.
당시 이 조치는 업계에서 이례적인 시도로 받아들여졌다. 대부분의 AI 기업은 시스템 프롬프트를 영업 비밀에 준하는 정보로 다뤄 외부에 공개하지 않았기 때문이다. 미국 정보기술 매체 테크크런치는 주요 AI 공급업체가 내놓은 첫 사례라고 평가하며, 다른 기업에도 같은 공개를 요구하는 압력이 될 수 있다고 짚었다. 벤처비트 역시 생성형 AI 업계의 투명성 기준을 새로 세운 것으로 관측된다고 전했다.
시스템 프롬프트는 그동안 이른바 '탈옥' 시도의 표적이기도 했다. 탈옥은 모델에 걸린 제약을 우회하도록 유도해 숨겨진 지시문이나 금지된 답변을 끌어내려는 시도를 말한다. 벤처비트는 앤트로픽이 지시문을 스스로 공개하면서 이런 시도를 앞질렀다고 설명했다.
클로드 3부터 오퍼스 5까지...17개 모델 항목 담겨
현재 이 페이지에는 모두 17개 모델의 변경 이력이 담겨 있다. 가장 오래된 항목은 2024년 7월 12일자 클로드 3 오퍼스와 클로드 3 하이쿠, 클로드 3.5 소네트다. 이후 클로드 3.5 소네트는 2024년 9월과 10월, 11월에 걸쳐 세 차례 더 갱신됐고, 클로드 3.5 하이쿠 항목은 2024년 10월 22일자로 올라 있다.
2025년에는 클로드 소네트 3.7이 2월에, 클로드 오퍼스 4와 소네트 4가 5월과 7월, 8월에 각각 기록됐다. 클로드 오퍼스 4.1은 지난해 8월 5일자로 남아 있다. 이어 클로드 소네트 4.5가 9월과 11월, 클로드 하이쿠 4.5가 10월과 11월, 클로드 오퍼스 4.5가 11월에 등재됐고, 이 세 모델은 올해 1월 18일자로 한 차례씩 더 갱신됐다.
올해 항목은 더 촘촘하다. 클로드 오퍼스 4.6이 2월 5일, 클로드 소네트 4.6이 2월 17일, 클로드 오퍼스 4.7이 4월 16일, 클로드 오퍼스 4.8이 5월 28일에 각각 올랐다. 6월 9일에는 클로드 페이블 5(Claude Fable 5)가, 7월 24일에는 클로드 오퍼스 5가 추가됐다. 오퍼스 5는 앤트로픽이 지난 7월 24일 출시한 모델로, 클로드 맥스 요금제의 기본 모델이자 클로드 프로에서 고를 수 있는 최상위 모델로 제공되고 있다.
4.6세대부터 항목 하나로...모델 ID 고정 방식 반영
문서에서 눈에 띄는 대목은 세대별로 기록 방식이 달라졌다는 점이다. 앤트로픽은 여러 날짜 항목이 있는 모델의 경우 이전 판과 달라진 부분을 굵은 글씨로 표시해 두었다고 밝혔다. 이용자가 어떤 문장이 새로 들어갔고 어떤 문장이 빠졌는지 바로 알아볼 수 있게 한 것이다.
반면 클로드 4.6 세대부터는 모델마다 항목이 하나씩만 있다. 회사는 이 세대부터 각 모델 ID가 고정된 스냅샷 하나로 관리되기 때문이라고 설명했다. 모델 ID는 개발자가 특정 모델을 불러 쓸 때 지정하는 이름이다. 스냅샷 방식은 같은 이름을 쓰는 모델의 내용이 나중에 바뀌지 않도록 특정 시점의 상태를 그대로 고정해 두는 것을 뜻한다. 이 방식에서는 모델이 바뀌면 이름도 함께 바뀌므로, 하나의 이름에 여러 날짜의 변경 기록이 쌓이지 않는다.
소비자용 앱에만 적용...API 이용자는 직접 작성
공개 범위에는 분명한 선이 그어져 있다. 앤트로픽은 이 문서에 실린 시스템 프롬프트 갱신 내용이 클로드 API에는 적용되지 않는다고 명시했다. API는 다른 기업이나 개발자가 자사 서비스에 클로드를 끌어다 쓸 수 있게 열어 둔 연결 통로를 말한다.
이 때문에 같은 클로드 모델이라도 어떤 서비스에서 쓰이느냐에 따라 답변 방식이 달라진다. API로 클로드를 가져다 쓰는 사업자는 자사 제품에 맞는 시스템 프롬프트를 직접 작성해 넣는다. 고객 상담용으로 만든 서비스와 문서 작성용으로 만든 서비스가 같은 모델을 쓰고도 서로 다른 말투와 제약을 보이는 이유가 여기에 있다. 공개된 문서는 어디까지나 앤트로픽이 자사 소비자용 웹·모바일 서비스에 적용한 기본 지시문의 이력인 셈이다.
이용자 입장에서 이 문서가 갖는 쓰임새는 두 가지로 정리된다. 하나는 클로드가 특정 요청을 거절하거나 특정한 형식으로 답할 때 그 근거를 지시문에서 되짚어 볼 수 있다는 점이다. 다른 하나는 모델이 어느 시점까지의 정보를 학습했는지 등 이용에 필요한 조건을 확인할 수 있다는 점이다.
"전면 공개는 아니다"...투명성 경쟁 확산 여부는 미지수
이 같은 공개가 AI 투명성의 완결판은 아니라는 지적도 있다. 창업 전문 매체 스타트업포천은 지난 4월 클로드 오퍼스 4.7의 시스템 프롬프트 공개를 다루며, 학습에 쓰인 데이터와 강화학습 과정에서의 선택, 내부 평가와 안전 장치 등은 여전히 외부에서 확인하기 어려운 영역으로 남아 있다고 전했다. 오픈AI와 구글도 모델 카드나 안전 관련 문서, 제품 설명서는 공개하지만 소비자용 챗봇의 시스템 프롬프트를 같은 수준으로 드러내지는 않는다는 점도 함께 짚었다.
같은 매체는 앤트로픽이 안전과 신중한 배포, 눈에 보이는 관리 체계를 중심으로 브랜드를 쌓아 온 만큼 이번 공개가 그 위치를 강화하는 효과도 있다고 분석했다. 앞으로 시스템 프롬프트 공개가 업계의 기본 요건으로 자리 잡을지, 아니면 앤트로픽의 차별화 요소로 남을지는 다른 기업의 대응에 달렸다는 관측이다.
앤트로픽은 시스템 프롬프트가 클로드의 답변을 개선하기 위해 주기적으로 갱신된다고 밝히고 있다. 다만 갱신 주기나 문구를 바꾸는 기준, 공개하지 않는 부분이 있는지에 대해서는 이 문서에 별도의 설명이 담겨 있지 않다. 실제 문서 내용은 클로드 플랫폼 문서 누리집의 릴리스 노트 항목에서 확인할 수 있다.
한국정보기술신문 인공지능분과 박정후 기자 news@kitpa.org
