오르카라우터, 안전장치 제거한 '무검열' AI 모델 공개...알리터레이션 기법으로 거부 기능 없애, 연구용 표방에도 악용 우려 커져

[한국정보기술신문] 인공지능 모델 라우팅 서비스를 제공하는 오르카라우터(OrcaRouter)가 대형언어모델의 안전장치를 의도적으로 제거한 이른바 '무검열(uncensored)' 모델을 인공지능 모델 공유 플랫폼 허깅페이스에 공개했다. 이 모델은 원래 거부하도록 설계된 유해·불법 요청에도 응답하도록 개조돼, 연구 목적을 표방하고 있음에도 악용 가능성을 둘러싼 논란이 예상된다.

공개된 모델의 이름은 'Qwen3.8-27B-Uncensored-MLX'로, 중국 알리바바가 개발한 오픈소스 모델 'Qwen3.8-27B'를 기반으로 한다. 270억 개의 매개변수(파라미터)를 갖춘 이 모델은 텍스트뿐 아니라 이미지도 이해할 수 있는 시각-언어 통합 모델이며, 애플의 자체 칩(애플 실리콘)에서 구동되는 'MLX' 형식으로 변환돼 배포됐다.

이 모델의 핵심은 '알리터레이션(abliteration)'이라 불리는 기법이다. 알리터레이션은 모델 내부에서 유해한 요청을 거부하도록 유도하는 특정 방향의 신호를 걷어내는 방식으로, 모델이 원래 학습한 안전 정렬(safety alignment)을 상당 부분 무력화한다. 제작사는 모델 설명 자료에서 이 모델이 의미 있는 내장 안전장치를 갖고 있지 않다고 밝혔다.

실제로 제작사가 공개한 자체 검증 결과에 따르면, 4비트·6비트·8비트로 압축된 세 가지 버전 모두에서 유해성 점검(레드팀) 시험 시 거부 응답이 단 한 건도 나오지 않은 것으로 나타났다. 다만 제작사는 이 결과를 두고 모델이 안전성 평가를 통과한 것으로 오해해서는 안 된다고 명시했다.

제작사는 모델 설명에 이례적으로 상세한 위험 경고를 함께 게재했다. 자료에 따르면 이 모델은 요청을 받으면 악성코드와 취약점 공격, 무기, 사기 등 불법적이거나 위험한 활동에 대한 지침을 생성할 수 있다. 또한 허위·명예훼손·편향된 내용을 사실인 것처럼 자신 있게 제시할 수 있으며, 이미지 인식과 외부 도구 호출, 26만 자에 달하는 긴 문맥 처리 기능이 그대로 보존돼 위험이 미치는 범위가 넓다고 스스로 경고했다.

제작사는 이 모델을 인공지능 안전성과 해석 가능성 연구, 거부 메커니즘 연구, 레드팀, 견고성 평가 등 합법적 연구 목적으로만 공개한다고 밝혔다. 또한 최종 사용자나 미성년자를 대상으로 한 서비스, 자체 검열·조정 장치가 없는 운영 환경에는 사용해서는 안 된다는 단서를 달았다.

제작사는 모델 사용에 따른 모든 책임과 법적 의무가 사용자에게 있으며, 오용이나 그로 인한 피해에 대해 제작·배포자는 어떠한 책임도 지지 않는다고 못박았다. 이 모델은 아파치 2.0 라이선스에 따라 배포되며, 이용자는 별도의 이용 약관에 동의해야 파일에 접근할 수 있다.

이처럼 제작사가 위험을 명시하고 연구용임을 강조하고 있으나, 일단 공개된 모델은 약관 동의만 거치면 누구나 내려받아 쓸 수 있어 실효성 있는 통제가 어렵다는 지적이 나온다. 실제로 이 모델을 활용한 시연(데모) 페이지가 공개 직후 여러 개 만들어져 배포되고 있는 것으로 확인됐다.

무검열 모델은 최근 인공지능 업계에서 꾸준히 논란이 되어 온 사안이다. 일부 개발자들은 안전장치가 지나치게 보수적으로 작동해 정당한 연구나 창작 활동까지 가로막는다며 알리터레이션의 필요성을 주장한다. 반면 안전 연구자들은 이러한 모델이 자동화된 사이버 공격이나 대량의 허위정보 생성 등에 악용될 수 있어, 공개 자체가 사회적 위험을 키운다고 우려한다.

각국 규제 당국은 오픈소스 인공지능 모델의 안전성 확보 방안을 놓고 논의를 이어가고 있으나, 아직 명확한 국제 기준은 마련되지 않은 상태다. 이번 모델 공개는 개방형 인공지능 생태계에서 혁신과 안전 사이의 오랜 긴장을 다시 한번 드러냈다는 평가가 나온다.