오픈AI 로보틱스 책임자 케이틀린 칼리노프스키 사임...감시·자율무기 윤리 문제 제기

사법 감독 없는 미국인 감시·인간 승인 없는 치명적 자율성에 반발, "원칙의 문제"

오픈AI 로보틱스팀 수장 케이틀린 칼리노프스키가 AI 안보·윤리 노선에 반발해 전격 사임했다.

[한국정보기술신문] 오픈AI의 로보틱스팀을 이끌어온 케이틀린 칼리노프스키(Caitlin Kalinowski)가 자신의 소셜미디어를 통해 오픈AI를 떠났음을 공식 발표했다. 그는 "AI는 국가 안보에서 중요한 역할을 한다"면서도 "사법적 감독 없는 미국인 감시와 인간의 승인 없는 치명적 자율성은 충분한 숙의 없이 결정된 선"이라고 밝혔다.

사임 배경: 윤리적 경계선을 넘은 결정들

칼리노프스키는 자신의 X(구 트위터) 계정을 통해 공개한 성명에서 "이것은 원칙의 문제이지, 사람의 문제가 아니다"라고 강조했다. 그는 샘 알트만 CEO와 팀 전체에 깊은 존경심을 표하면서도, 특정 방향성에 대해 충분한 논의와 검토 없이 진행된 점에 문제를 제기했다.

그가 특히 지목한 두 가지 쟁점은 다음과 같다. 첫째, 사법적 감독 없이 미국 시민을 대상으로 한 감시 기술의 활용이다. 둘째, 인간의 명시적 승인 없이 작동하는 치명적 자율 무기 시스템이다. 이 두 사안 모두 AI 윤리와 군사 응용의 경계에서 국제적으로도 첨예하게 논의되고 있는 주제다.

오픈AI의 군사·안보 분야 확장과 내부 갈등

오픈AI는 최근 들어 국방 및 국가안보 분야와의 협력을 본격적으로 확대하고 있다. 2024년에는 그간 금지해왔던 군사적 활용 관련 정책을 일부 수정하며 미국 국방부와의 협력 가능성을 열어뒀다. 이로 인해 내부적으로 적지 않은 논란이 있었으며, 일부 직원들은 회사의 방향성에 우려를 표명해왔다.

칼리노프스키의 사임은 이러한 흐름 속에서 이루어진 것으로, 단순한 개인 결정을 넘어 오픈AI 내부의 윤리적 긴장을 외부로 드러낸 사건으로 평가된다. AI 기업들이 국가안보와 수익성, 그리고 윤리 원칙 사이에서 균형을 잡는 일이 얼마나 어려운지를 보여주는 사례다.

로보틱스팀의 성과와 향후 공백

칼리노프스키는 오픈AI 로보틱스팀을 구성하고 성장시켜온 핵심 인물이다. 그는 "팀과 함께 만들어낸 것이 자랑스럽다"고 밝히며 팀원들에 대한 애정을 표했다. 로보틱스 분야는 오픈AI가 차세대 AI 응용 영역으로 집중 투자하고 있는 분야인 만큼, 책임자의 공백이 팀의 방향성과 사기에 미칠 영향도 주목된다.

AI 자율 무기와 감시 기술, 글로벌 윤리 논의로 확산

이번 사임은 AI 업계 전반의 윤리 논쟁을 재점화하는 계기가 되고 있다. 자율 무기 시스템의 경우, 국제 인도주의법 전문가들과 인권단체들은 "인간의 통제 없이 생명을 빼앗는 결정을 내릴 수 있는 시스템"에 대해 지속적으로 규제와 금지를 촉구해왔다. 감시 기술 역시 사생활 침해와 민주주의 훼손 우려로 인해 미국 내에서도 법적·사회적 논의가 진행 중이다.

칼리노프스키의 공개 발언은 이 같은 논의에 AI 현업 전문가의 목소리를 더하는 것으로, 향후 오픈AI의 안보 관련 행보와 업계 전반의 윤리 기준 논의에 상당한 영향을 미칠 것으로 전망된다.

한국정보기술신문 유관기관분과 서우람 기자 news@kitpa.org