arXiv AI 검증 안 된 콘텐츠 금지...1년 제출 제한 정책 도입

[한국정보기술신문] 학술 논문 선공개 플랫폼인 arXiv가 검증되지 않은 AI 생성 콘텐츠에 대한 강력한 제제 정책을 도입했다. 컴퓨터과학 섹션 의장 토마스 디테릭은 명백한 무심사 대형언어모델(LLM) 출력 증거가 발견된 논문 저자를 1년간 투고 금지한다고 발표했다.

정책은 저자가 제출 전에 자신의 작업을 검토하지 않았음이 분명한 사례만 대상으로 한다. "반박할 수 없는 증거"가 필요하다.

구체적으로는 실재하지 않는 논문을 인용하는 환각 참고, 문장에 남은 챗봇 지시문(예: "여기 200단어 요약입니다. 변경을 원하시나요?"), 제거되지 않은 플레이스홀더 데이터 등이 해당한다.

이 정도의 증거는 저자가 최소한의 검토도 하지 않았음을 명확히 보여준다.

정책은 의도적으로 좁게 설계되었다. 연구자는 여전히 초안 작성, 편집, 분석 등에 AI 도구를 사용할 수 있다. 금지는 오직 저자가 심사하지 않은 LLM 출력을 직접 붙여넣은 명백한 증거가 있을 때만 적용된다.

이는 AI 사용 자체를 금지하는 것이 아니라, 책임감 있는 사용을 강제하는 정책이다.

이 정책의 필요성은 데이터로 뒷받침된다. 컬럼비아 대학교 연구에 따르면 조작된 인용이 급증했다. 2023년에는 약 2,828편 중 1편 정도였으나, 2026년 초에는 277편 중 1편으로 급증했다.

AI 작성 도구의 확산이 주요 원인으로 지적되고 있다. 이는 학문 커뮤니티에 심각한 신뢰 위기를 초래할 수 있다.

arXiv는 컴퓨터과학, 수학, 물리학 분야의 선공개 논문 배포 채널이다. 이곳의 품질 기준은 학문 커뮤니티 전체에 영향을 미친다.

허위 인용과 환각 정보가 자유롭게 유포되면, 다른 연구자들이 무심코 이를 인용하게 되고 오류가 증폭된다. arXiv의 정책은 이 악순환을 차단하려는 노력이다.

정책이 효과적이려면 일관된 적용이 필수다. arXiv 편집진은 투고 과정에서 더 엄격한 심사를 진행할 것으로 예상된다.

연구자 커뮤니티도 이 정책을 긍정적으로 평가하고 있다. AI 도구 활용은 늘리되, 최종 결과에 대한 책임은 저자에게 있다는 원칙을 강화하는 정책이기 때문이다.