과기정통부–TTA, ‘AI 식별무늬’ 기술 동향 보고서 발간

[한국정보기술신문] 과학기술정보통신부(장관 유상임, 이하 ‘과기정통부’)와 한국정보통신기술협회(회장 손승현, 이하 ‘TTA’)는 최근 생성형 인공지능(AI) 기술의 확산에 따라, 인공지능이 만든 이미지·영상·텍스트 등을 판별할 수 있는 ‘식별무늬(워터마크)’ 기술의 중요성이 커지고 있다고 강조하며, 이를 종합적으로 다룬 「인공지능 식별무늬 기술 동향 보고서」를 발간했다고 밝혔다.

이번 보고서는 생성형 AI의 활용이 급증하는 사회 환경 속에서, AI 생성물의 오남용을 막고, 신뢰 가능한 AI 생태계를 조성하기 위한 기술적·정책적 기초 자료로 활용될 예정이다.

특히 인공지능 기본법 제31조에 따라 도입된 ‘생성물 투명성 확보 의무’의 일환으로, AI 생성물에 워터마크 삽입을 권장하거나 의무화하는 논의가 활발히 진행되고 있는 가운데, 국내외 기술 동향을 정리한 공식 보고서 발간은 국내 첫 사례다.

보고서 구성: 기술에서 정책까지 총망라

보고서는 총 5장으로 구성되어 있으며, 1장에서는 인공지능 생성물의 정의와 활용, 위험 사례를 소개하고, 2장에서는 워터마크 기술의 개념과 형태별 특징을 다룬다.

3장에서는 실제 도입 사례를 중심으로 국내외 주요 기업들의 워터마크 활용 현황을 설명하고 있으며, 4~5장에서는 질의응답, 워터마크 동작 방식, 국제 표준, 용어정리 등을 부록으로 제공한다.

생성물 유형별로는 이미지, 동영상, 음성, 텍스트 등 네 가지로 분류하였고, 가짜뉴스, 보이스피싱, 딥페이크 성범죄 등 AI 생성물이 유발할 수 있는 사회적 문제를 구체적인 사례를 통해 조명했다.

기술적 개요: 보이는 워터마크와 보이지 않는 워터마크

보고서에 따르면 워터마크는 사람의 눈으로 직접 확인 가능한 ‘인지 가능 워터마크’와, 특수한 소프트웨어나 시스템으로만 탐지 가능한 ‘인지 불가능 워터마크’로 나뉜다.

각 방식은 이미지·영상·오디오 등 콘텐츠 유형에 따라 적용 방식과 효과가 다르며, 보안성, 위변조 대응력, 탐지 용이성 등에서도 차이를 보인다.

특히 인지 불가능한 워터마크는 콘텐츠의 품질을 해치지 않으면서도 진위 여부를 판단할 수 있어, 주요 글로벌 기업에서 활발히 도입되고 있다.

예를 들어, 구글, 메타, 오픈AI 등은 자사 생성 콘텐츠에 C2PA, IPTC, JPEG Trust 등 국제 표준 기반 메타데이터와 함께 워터마크 기술을 병행 적용하고 있다.

국내외 정책 동향 비교

보고서는 우리나라 인공지능 기본법을 비롯해, 미국·중국·유럽연합의 관련 법안 및 규제 방향도 비교 분석했다. 특히 미국 국립표준기술연구소(NIST)가 올해 4월에 발표한 유사한 워터마크 기술 보고서를 참고하여, 국제적 정합성을 고려했다는 점도 강조되었다.

독일 뮌헨안보회의에서 논의된 딥페이크 대응 논의나, 일본·싱가포르의 정책 도입 움직임 등도 함께 소개되어, AI 생성물의 진위 검증이 전 세계적인 과제로 떠오르고 있음을 보여준다.

과기정통부는 이러한 국제 논의 흐름에 발맞춰, 국내 기업과 연구기관이 자율적으로 기술을 도입할 수 있도록 정책적 기반을 조성한다는 방침이다.

AI 생성물의 생명주기별 적용 방안

보고서는 AI 생성물의 생명주기를 ‘생성–배포–활용’의 3단계로 나누고, 각 단계별 이해관계자(서비스 제공사, 배포 플랫폼, 최종 수요자 등)를 정의하여 워터마크 적용 책임과 방식도 체계적으로 정리하였다.

각 이해관계자별로 어떤 기술을 어떻게 적용할 수 있는지에 대한 실무적인 가이드라인도 포함돼 있어, 기업의 도입 실무에 실질적인 도움이 될 것으로 보인다.

또한 기업이 워터마크를 도입할 때 고려해야 할 요소들—예: 콘텐츠 변형 저항성, 삽입 비용, 탐지 방식—에 대한 조언도 부록에 수록됐다.

기술적 한계와 보완 수단도 함께 다뤄

보고서는 워터마크 기술의 한계점도 숨기지 않고 정리했다. 예컨대, 이미지나 영상 편집을 통해 워터마크가 제거되거나 왜곡될 수 있으며, 고의적 무력화 공격에 취약할 수 있다는 점을 지적했다.

이에 대한 보완책으로는 메타데이터 병행 삽입, 탐지 알고리즘의 고도화, 정기적인 기술 검증 체계 구축 등이 제시되었다.

특히 보고서 말미에서는 워터마크만으로는 완전한 오남용 방지가 어려운 만큼, 인공지능 생성물 탐지 도구의 개발과 국제 협력의 필요성도 강조했다.

“신뢰할 수 있는 인공지능 환경 조성 계기”

김경만 과기정통부 인공지능기반정책관은 “이번 보고서를 통해 국내 기업들이 기술적 혼란 없이 투명성과 책임을 확보할 수 있는 기반이 마련되길 기대한다”며, “향후 전담반 운영 및 이해관계자 의견 수렴을 통해 실효성 있는 가이드라인도 함께 제공할 것”이라고 밝혔다.

손승현 TTA 회장 역시 “이번 기술 동향 보고서는 AI 산업의 윤리성과 안전성을 동시에 확보하는 중요한 출발점이 될 것”이라며, “TTA는 기업들과의 협력을 통해 지속적인 기술 보완과 표준화 노력을 이어가겠다”고 밝혔다.

보고서 열람 방법 및 향후 계획

「인공지능 식별무늬 기술 동향 보고서」는 한국정보통신기술협회 홈페이지(https://www.tta.or.kr)에서 열람할 수 있으며, 향후 과기정통부는 보고서 내용을 기반으로 세부 방침(가이드라인)을 마련해 관련 산업계와 학계에 배포할 예정이다.

이번 보고서는 생성형 인공지능의 사회적 책임 문제 해결을 위한 정부 차원의 첫 종합 보고서로서, 향후 관련 법령과 정책 설계의 핵심 자료로 활용될 가능성이 높다.

디지털 신뢰가 핵심 가치로 부상하는 시대, 이번 보고서는 기술과 윤리를 잇는 가교 역할을 할 것으로 기대된다.

한국정보기술신문 유관기관분과 김류빈 기자 news@kitpa.org