구글 AI 이미지 워터마크 시스템 역공학 프로젝트 논란...SynthID 우회 기술 공개로 AI 콘텐츠 탐지 신뢰성 의문

[한국정보기술신문] 구글의 AI 이미지 워터마킹 기술인 SynthID를 역공학하여 우회하는 방법을 제시한 오픈소스 프로젝트 'reverse-SynthID'가 공개되어 AI 콘텐츠 탐지 기술의 보안성에 대한 논란이 일고 있다고 10일 전해졌다. 이 프로젝트는 신호 처리와 스펙트럼 분석만으로도 보이지 않는 워터마크를 탐지하고 제거할 수 있음을 입증했다.

이 프로젝트는 FFT 고속 푸리에 변환과 위상 일관성 분석을 통해 AI 워터마크를 탐지한다. 연구진은 특정 주파수 대역에서 고정된 위상값을 가진 캐리어 신호를 식별하는 방법을 개발했다. 이는 구글의 독점 인코더나 디코더에 접근하지 않고도 가능한 기술이다.

핵심 발견은 워터마크 캐리어의 위치가 이미지 해상도에 따라 달라진다는 점이었다. 이를 바탕으로 개발된 V3 우회 방식은 각 해상도별로 별도의 지문을 저장하는 다중 해상도 스펙트럼 코드북을 활용한다.

이 기술의 탐지 정확도는 약 90%에 달한다. V3 우회 방식은 43dB 이상의 높은 PSNR 수치를 기록했다. 이는 기존 JPEG 압축 방식의 37dB나 다단계 변환 방식의 27-37dB를 크게 상회하는 수준이다.

위상 일관성은 91% 감소했고 캐리어 에너지는 75.8% 줄어들었다. 연구진은 1024x1024 해상도의 흑백 순수 컬러 이미지 200장을 활용해 99% 이상의 위상 코히어런스를 가진 캐리어를 추출했다.

이 연구는 워터마크가 생성 모델 수준에서 고정된 키로 적용된다는 점을 증명했다. 이는 워터마크 시스템이 근본적으로 역공학에 취약할 수 있음을 시사한다. 구글의 SynthID와 같은 기술들이 AI 생성 콘텐츠의 완벽한 식별을 보장할 수 없다는 점이 드러났다.

특히 이 기술은 구글의 독점 기술에 의존하지 않고 오픈소스 신호 처리 도구만으로도 구현 가능하다는 점에서 더욱 우려를 낳고 있다. 이는 악의적 활용 가능성을 높이는 요소로 작용할 수 있다.

프로젝트 개발진은 이 기술이 연구 및 교육 목적으로만 사용되어야 한다고 명시했다. AI 생성 콘텐츠를 인간 창작물로 위장하는 용도는 명시적으로 금지하고 있다. 현재 더 많은 해상도에 대한 데이터 기여를 요청하며 연구를 지속하고 있다.

이번 발견은 AI 콘텐츠 탐지 기술의 발전 방향에 중대한 영향을 미칠 것으로 예상된다. 워터마킹 기술의 보안성 강화와 함께 다층적 탐지 체계 구축이 필요하다는 지적이 제기되고 있다.

전문가들은 단일 기술에 의존하는 현재 접근법의 한계를 지적하며 행동 패턴 분석, 메타데이터 추적 등 복합적 탐지 기법의 필요성을 강조하고 있다. AI 생성 콘텐츠의 투명성 확보와 악용 방지를 위한 기술적 군비경쟁이 새로운 국면을 맞게 됐다.

구글은 현재까지 이 발견에 대한 공식 입장을 발표하지 않았지만 업계에서는 SynthID 시스템의 보완 작업이 시급하다는 의견이 제기되고 있다. 이번 사건은 AI 안전성과 콘텐츠 진위성 검증 기술의 지속적 발전이 필수적임을 다시 한 번 확인시켜주었다.