ChatGPT 설정 변경 한 번에 2년간 학술 데이터 전부 삭제...독일 교수 경고

독일 쾰른대 교수, 데이터 동의 옵션 비활성화로 연구 자료 영구 손실

[한국정보기술신문] 독일 쾰른대학교 식물 분자생리학 마르셀 부허 교수가 ChatGPT의 데이터 동의 옵션을 비활성화하자 2년간 축적한 학술 작업 자료가 경고 없이 영구 삭제되는 사고를 겪었다고 22일 네이처를 통해 밝혔다.

부허 교수는 ChatGPT Plus 유료 구독자로 2년간 AI 도구를 연구 보조 수단으로 활용해왔다. 그는 이메일 작성, 강의 계획서 초안 작성, 연구비 신청서 구성, 논문 수정, 강의 준비, 시험 출제 및 학생 답안 분석 등 다양한 학술 활동에 ChatGPT를 사용했다.

지난해 8월, 부허 교수는 데이터 제공 없이도 모든 기능을 사용할 수 있는지 확인하기 위해 데이터 동의 옵션을 일시적으로 비활성화했다. 그 순간 모든 대화 내역이 영구 삭제되고 프로젝트 폴더가 비워졌다. 2년간 체계적으로 구조화한 학술 작업이 한 번의 클릭으로 사라진 것이다. 경고 메시지도, 실행 취소 옵션도 없었다.

복구 불가능한 데이터

부허 교수는 처음에는 실수라고 생각했다. 다양한 브라우저와 기기, 네트워크를 시도하고 캐시를 지우고 앱을 재설치하며 설정을 반복적으로 변경해봤지만 아무 소용이 없었다.

OpenAI 지원팀에 문의했을 때 처음에는 AI 에이전트가 응답했고, 반복된 문의 끝에 사람 직원이 답했지만 결과는 같았다. 데이터는 영구적으로 손실됐으며 복구할 수 없다는 것이었다.

부허 교수는 "사라진 것은 단순한 메모나 일상적인 대화가 아니었다"며 "연구비 신청서 개발, 강의 자료 준비, 논문 초안 수정, 시험 분석 설계에 사용한 여러 대화가 포함된 프로젝트 폴더였다"고 설명했다. 2년에 걸쳐 구축한 지적 작업의 토대가 사라진 것이다.

학술 표준과 맞지 않는 AI 도구

부허 교수는 "우리는 점점 더 생성형 AI를 연구와 교육에 통합하도록 권장받고 있다"며 "개인은 글쓰기, 계획, 교육에 사용하고 대학들은 교육과정에 포함하는 실험을 하고 있지만, 이번 사례는 근본적인 약점을 드러낸다"고 지적했다.

그는 "한 번의 클릭으로 수년간의 작업을 돌이킬 수 없이 삭제할 수 있다면, ChatGPT는 전문적 사용에 완전히 안전하다고 볼 수 없다"며 "월 23달러를 지불하는 유료 구독자로서 돌이킬 수 없는 삭제에 대한 경고, 시간 제한이 있더라도 복구 옵션, 백업이나 중복 저장 같은 기본적인 보호 조치가 있을 것으로 생각했다"고 말했다.

OpenAI는 네이처의 문의에 "사용자가 대화를 영구 삭제하기 전 확인 메시지를 제공하지만, 일단 삭제되면 사용자 인터페이스, API, 또는 지원을 통해 콘텐츠를 복구할 수 없다"며 "이는 사용자 데이터에 관한 개인정보 보호 모범 사례 및 법적 요구사항과 일치한다"고 밝혔다.

회사 측은 "데이터 보호를 위해 사용자가 전문적 작업에 대한 개인 백업을 유지할 것을 항상 권장한다"고 덧붙였다.

AI 도구의 책임성 논란

이번 사건은 AI 도구가 학술 표준의 신뢰성과 책임성을 염두에 두고 개발되지 않았다는 점을 보여준다. OpenAI는 프라이버시 바이 디자인 원칙을 근거로 사용자가 데이터 공유를 비활성화하는 순간 모든 것을 흔적 없이 삭제한다고 설명했다.

부허 교수는 "OpenAI는 내가 요청하는 순간 정보를 삭제함으로써 사용자로서의 내 프라이버시에 대한 약속을 이행했다고 본다"며 "그러나 학술 작업에 있어서는 이러한 접근이 적절한지 재고해야 한다"고 강조했다.

전문가들은 연구자들이 AI 도구를 사용할 때 중요한 작업물의 별도 백업을 유지해야 하며, AI 서비스 제공자들도 전문적 사용 사례를 고려한 데이터 관리 정책을 마련해야 한다고 조언하고 있다.

한국정보기술신문 인공지능분과 성연주 기자 news@kitpa.org