디지털 성범죄 AI로 24시간 자동 탐지-분석-신고 시스템 구축...성평등가족부, 3대 핵심 기술로 피해자 보호 강화

[한국정보기술신문] 성평등가족부가 디지털 성범죄 피해자 보호를 위한 3대 핵심 기술 시스템을 도입한다고 4월 1일 발표했다. 인공지능을 활용한 24시간 자동 탐지-분석-신고 체계가 구축되어 디지털 성범죄에 대한 선제적 대응이 가능해진다.

성평등가족부는 삭제요청 자동화, AI 기반 아동·청소년 온라인 성착취 선제 대응, AI 기반 딥페이크 탐지 시스템을 핵심 기술로 제시했다. 이 시스템들은 24시간 무중단으로 운영되어 피해를 신속하게 감지하고 대응한다.

기존에 수동으로 이루어지던 불법 콘텐츠 삭제 요청 과정이 완전 자동화된다. 시스템이 불법 콘텐츠를 발견하면 즉시 플랫폼 사업자에게 삭제 요청을 자동 전송한다. 이를 통해 피해 확산을 최소화할 수 있을 것으로 기대된다.

인공지능 기술을 활용해 아동·청소년 대상 온라인 성착취를 사전에 탐지하고 차단하는 시스템이 구축된다. 패턴 분석과 딥러닝 알고리즘을 통해 위험 상황을 예측하고 선제적으로 대응한다.

최근 급증하는 딥페이크 성범죄에 대응하기 위한 전문 탐지 시스템도 도입된다. AI가 조작된 영상과 이미지를 실시간으로 식별하여 유포를 차단한다. 기술 발전에 따라 더욱 정교해지는 딥페이크에 맞춰 탐지 알고리즘도 지속 업데이트된다.

새로운 시스템은 사람의 개입 없이 24시간 자동으로 운영된다. 인공지능이 인터넷상의 불법 콘텐츠를 실시간으로 모니터링하고 분석하여 즉시 신고 처리한다. 이를 통해 피해자의 2차 피해를 최소화할 수 있다.

이번 시스템 도입은 기존의 신고 중심 대응에서 기술 기반 선제적 보호로 패러다임을 전환하는 의미를 갖는다. 피해자가 직접 신고하지 않아도 시스템이 자동으로 감지하여 보호 조치를 취한다.

AI 시스템 운영 과정에서 개인정보 보호를 위한 강력한 보안 체계도 구축된다. 탐지 과정에서 수집되는 데이터는 암호화되어 처리되며, 시스템의 투명성을 위한 정기적인 성능 평가도 실시된다.

디지털 성범죄의 초국경적 특성을 고려해 해외 플랫폼과의 협력 체계도 강화된다. AI 탐지 시스템이 국외 서버에 업로드된 불법 콘텐츠도 추적할 수 있도록 국제 공조 체계를 확대한다.