마이크로소프트 코파일럿, 기밀 이메일 무단 요약...DLP 정책 우회 버그 확인...1월부터 약 한 달간 피해 지속

마이크로소프트, 코파일럿 AI가 기밀 라벨 이메일을 무단 요약한 버그 공식 인정

[한국정보기술신문] 마이크로소프트가 자사의 AI 어시스턴트 '마이크로소프트 365 코파일럿(Microsoft 365 Copilot)'에서 기업의 기밀 이메일을 무단으로 요약하는 버그가 발생했다고 공식 인정했다. 이 버그는 1월 하순부터 약 한 달간 지속되었으며, 기업들이 민감한 정보 보호를 위해 설정한 데이터 손실 방지 정책(DLP)을 우회한 것으로 확인되어 기업 고객들의 불안이 커지고 있다.

버그의 원인과 영향 범위

마이크로소프트에 따르면 이번 버그는 코파일럿 챗의 작업 탭 기능에서 발생했다. 이 기능은 사용자가 직접 질문하면 관련 이메일·문서·일정 등을 검색해 요약해주는 AI 기반 도구다. 해당 버그는 1월 21일 최초 감지된 것으로 알려졌으며, 코파일럿이 기밀 민감도 라벨이 붙어 있는 보낸 편지함 및 임시 보관함의 이메일을 자동으로 처리하고 요약하도록 만들었다.

마이크로소프트는 이에 대해 "기밀 라벨이 적용된 사용자 이메일이 마이크로소프트 365 코파일럿 챗에 의해 잘못 처리되고 있다"고 공식 확인하며, "코파일럿 작업 탭 챗이 민감도 라벨과 DLP 정책이 구성되어 있음에도 이메일을 요약하고 있다"고 설명했다. 영향을 받을 수 있는 대상은 마이크로소프트 365 코파일럿이 활성화되어 있고 이메일에 기밀 라벨을 설정한 모든 조직이다.

DLP 정책 무력화의 심각성

DLP 정책은 기업 정보 보호의 핵심 수단으로, AI 도구를 포함한 자동화된 시스템이 민감한 데이터에 접근하지 못하도록 차단하는 역할을 한다. 민감도 라벨과 DLP 정책이 결합되면 코파일럿은 해당 이메일에 접근하거나 요약할 수 없어야 한다. 그러나 이번 버그로 인해 이 보안 장치가 완전히 무력화되었다.

코파일럿은 마이크로소프트 그래프 및 인덱싱 레이어와 깊이 통합되어 다양한 콘텐츠를 검색하고 응답을 생성한다. 이번 사고는 AI의 광범위한 데이터 접근 권한이 오히려 보안 취약점으로 이어질 수 있음을 보여주는 사례로 평가받고 있다. 기밀 이메일에는 통상적으로 사업 계약서, 법률 서신, 수사 관련 자료, 개인 의료 정보 등 고도로 민감한 내용이 포함되는 경우가 많아 피해의 심각성이 우려된다.

수정 조치 및 향후 대응

마이크로소프트는 2월 초부터 수정 패치를 배포하기 시작했으며, 현재도 배포 모니터링을 지속하고 있다고 밝혔다. 또한 일부 영향받은 사용자들에게 직접 연락해 수정 사항이 정상적으로 적용됐는지 확인하고 있다. 그러나 완전한 수정 완료 시점은 아직 공개하지 않았으며, 정확히 얼마나 많은 사용자와 조직이 피해를 입었는지도 공개하지 않았다.

마이크로소프트 측 대변인은 영향을 받은 고객 수에 대한 질문에 응답하지 않았다. 다만 "영향 범위는 조사가 진행됨에 따라 변경될 수 있다"고만 언급했다. 전문가들은 영향 범위가 완전히 파악되지 않은 상황에서 민감한 이메일을 다루는 조직은 수정 패치가 완전히 적용될 때까지 코파일럿 접근을 일시적으로 제한하는 방안을 고려해야 한다고 권고하고 있다.

한국정보기술신문 정보보안분과 안서진 기자 news@kitpa.org