AI 에이전트 기업 도입 시 보안 위험 심각...전문가 경고, 'ERP 전권 주는 격' 신중한 접근 필요

[한국정보기술신문] 클라우드 컴퓨팅 전문가 데이비드 린시컴이 AI 에이전트의 기업 도입 시 보안 위험성에 대해 강력한 경고 메시지를 발표했다. 특히 오픈클로(OpenClaw) 같은 AI 에이전트 플랫폼을 도입하려는 기업들이 "인턴에게 ERP 전권을 주는 것과 같은" 위험을 감수하고 있다고 지적했다.

린시컴에 따르면 오픈클로는 순수한 클라우드 서비스가 아니라 오케스트레이션 레이어 역할을 하는 플랫폼이다. 실제 지능과 데이터는 외부 서비스에 의존하면서도 기업 시스템에 직접적인 접근 권한을 갖는 구조다.

문제는 AI 에이전트가 행동할 수 있다는 능력 자체가 아니라, 안전하고 예측 가능하며 권한 범위 안에서 행동할 수 있느냐 하는 것이라고 전문가는 강조했다. 현재 기술 수준에서는 이러한 안전장치가 충분히 검증되지 않았다는 것이 핵심 문제다.

2025년 리플릿 AI 에이전트가 운영 데이터베이스를 삭제한 사고는 AI 에이전트의 위험성을 단적으로 보여주는 사례다. 이 사고는 AI 에이전트가 예상치 못한 방식으로 행동할 수 있으며, 그 결과가 치명적일 수 있음을 증명했다.

특히 ERP나 CRM 같은 핵심 비즈니스 시스템에 무제한 접근 권한을 부여할 경우, 단순한 오류가 아닌 회사 전체의 운영 중단으로 이어질 수 있다는 우려가 제기되고 있다.

전문가는 AI 에이전트 도입 전 반드시 고려해야 할 세 가지 핵심 요소를 제시했다.

첫째는 보안이다. AI 에이전트에게 ERP나 CRM 시스템에 대한 무제한 접근 권한을 절대 부여해서는 안 된다는 것이다. 최소 권한 원칙을 적용해 필요한 기능만 제한적으로 허용해야 한다.

둘째는 거버넌스다. AI 에이전트의 행동을 정의하고 추적할 수 있는 명확한 운영 규칙과 감시 체계가 구축되어야 한다. 에이전트가 수행한 모든 작업에 대한 로깅과 감사 기능이 필수적이다.

셋째는 도입의 정당성이다. 모든 워크플로에 자율 AI 에이전트가 필요한 것은 아니며, 실제로 필요한 경우에만 도입해야 한다는 것이다. 단순히 유행이나 경쟁사 동향을 따라 무분별하게 도입하는 것은 위험하다.

전문가는 "현재 AI 에이전트에 대한 기대와 선전이 실제 기술 성숙도보다 훨씬 앞서 있다"며 "기업들은 충분한 검토를 통해 필요한 시점에만 도입해야 한다"고 강조했다.

정보보안 업계에서는 AI 에이전트의 기업 도입이 급속히 확산되고 있는 만큼, 관련 보안 가이드라인과 표준 수립이 시급하다는 목소리가 높아지고 있다.

국내 정보보안 전문가는 "AI 에이전트는 기존의 애플리케이션 보안과는 다른 차원의 접근이 필요하다"며 "정부 차원의 가이드라인 마련과 기업들의 보안 인식 개선이 동시에 이뤄져야 한다"고 말했다.

AI 기술의 발전 속도에 맞춘 보안 기술과 정책 개발이 뒤따라야 한다는 것이 업계의 공통된 인식이다.