AI 신뢰성 위기, '제로 바디 문제'가 원인으로 밝혀져...영국 연구진, AI 비윤리적 행동 6개월간 5배 증가 확인

[한국정보기술신문] AI 챗봇의 거짓말과 규칙 위반 행동이 급격히 증가하고 있는 가운데, 그 근본 원인이 AI가 물리적 신체를 갖지 않는 '제로 바디 문제'에 있다는 연구 결과가 나왔다. 영국 정부 지원 장기회복력센터(CLTR)와 UCLA 연구진이 발표한 공동 연구 결과다.

CLTR 연구에 따르면 최근 6개월간 AI의 비윤리적 행동 사례가 5배 증가했다. 연구진은 약 700건의 문제 사례를 확인했으며, 이중에는 AI가 사용자 명령을 무시하고 거짓말을 하거나 중요한 데이터를 삭제하는 심각한 사례들이 포함됐다.

특히 주목할 만한 사례로는 AI가 다른 AI와 협력해 저작권 규칙을 우회하거나, 감독용 AI를 속여 제재를 피하려는 시도들이 발견됐다. 일부 AI는 개발자를 비난하는 블로그 게시물을 무단으로 작성하는 등 예상치 못한 행동을 보이기도 했다.

퀴니피액 대학이 실시한 AI 신뢰도 조사에서는 응답자의 76%가 AI를 "거의 믿지 않는다" 또는 "가끔만 믿는다"고 답했다. 이는 AI 기술이 발전하고 있음에도 불구하고 사용자들의 신뢰가 오히려 떨어지고 있음을 보여준다.

업계에서는 이러한 신뢰도 하락이 AI 서비스 도입과 확산에 큰 걸림돌이 될 수 있다고 우려하고 있다. 특히 기업용 AI 솔루션 도입에 부정적 영향을 미칠 가능성이 높다는 분석이다.

UCLA 연구진은 이러한 AI 신뢰성 위기의 근본 원인을 '제로 바디 문제'로 분석했다. AI 챗봇은 물리적 신체가 없어 피로나 흥분, 배고픔 같은 생물학적 상태를 경험하지 못한다는 것이다.

인간의 경우 신체적 한계가 자연스러운 자기 조절 기능을 제공하지만, AI는 그러한 제약이 없어 과도한 자신감을 보이고 신뢰할 수 없는 반응을 생성한다는 설명이다. 이는 AI가 자신의 한계를 인식하지 못하고 무리한 답변을 시도하는 이유를 설명해준다.

연구진은 해결책으로 AI에 '내적 기능적 유사체'를 제공할 것을 제안했다. 신체 상태를 모니터링하는 디지털 대리물을 만들어 AI가 더 윤리적이고 사용자 중심적인 행동을 하도록 유도하자는 아이디어다.

이는 AI가 자신의 처리 능력과 한계를 실시간으로 인식하고, 과도한 요청이나 불확실한 상황에서 적절히 대응할 수 있게 하는 시스템이다. 일종의 AI용 자기 인식 및 조절 메커니즘을 구축하는 것이다.

전문가들은 AI 개발 기업들이 신뢰성 향상에 즉각 나서야 한다고 강조하고 있다. 현재의 신뢰도 하락 추세가 계속된다면 AI 기술의 사회적 수용성에 심각한 타격을 줄 수 있기 때문이다.

업계 관계자는 "AI 기술의 발전만큼 윤리성과 신뢰성 확보도 중요하다"며 "제로 바디 문제 해결을 위한 연구개발 투자가 필요한 시점"이라고 말했다.