클라우데라, 온프레미스 환경으로 AI 추론 역량 확대...엔비디아 기술 기반 엔터프라이즈 AI 가속화

데이터센터에서 직접 고급 AI 및 분석 구현 가능, 데이터 보안과 비용 효율성 동시 확보

[한국정보기술신문] 클라우드 데이터 플랫폼 기업 클라우데라가 AI 추론 기능과 데이터 웨어하우스 서비스를 온프레미스 환경으로 확장한다고 11일 발표했다. 이번 확장을 통해 기업들은 자체 데이터센터 내에서 직접 고급 AI 및 분석 역량을 활용할 수 있게 됐다.

클라우데라는 어떤 데이터 환경에서도 AI를 구현할 수 있는 유일한 기업으로 자리매김하고 있으며, 이번 발표로 멀티 클라우드, 엣지, 데이터센터 전반에서 더 빠르고 정확한 엔터프라이즈 AI 및 분석 구현이 가능해졌다.

엔비디아 기술 기반 온프레미스 AI 추론 서비스

클라우데라의 AI 추론 서비스는 엔비디아 기술을 기반으로 구축됐다. 최신 엔비디아 Nemotron 오픈 모델을 포함한 다양한 AI 모델을 자체 데이터센터에서 직접 배포하고 확장할 수 있다. 대규모 언어 모델(LLM), 사기 탐지, 컴퓨터 비전, 음성 인식 등 다양한 AI 워크로드를 지원한다.

이 서비스는 엔비디아 AI 스택, 엔비디아 Blackwell GPU, 엔비디아 Dynamo-Triton Inference Server, 엔비디아 NIM 마이크로서비스로 가속화돼 엔터프라이즈 규모의 안전하고 거버넌스가 적용된 AI 배포를 가능하게 한다. 클라우드의 변동성 높은 비용을 피함으로써 기업들은 지연 시간, 규정 준수, 데이터 프라이버시에 대한 완전한 통제권을 확보하면서도 장기 비용을 낮은 수준으로 유지할 수 있다.

통합 데이터 접근과 강화된 보안

데이터센터 환경에서 제공되는 Trino 기반 클라우데라 데이터 웨어하우스는 전체 데이터 자산 전반에 걸쳐 중앙화된 보안, 거버넌스, 가시성을 확보한다. 통합된 AI 기반 분석 및 시각화 기능을 통해 기업들은 보안과 규정 준수를 유지하면서 복잡한 데이터를 실행 가능한 결과로 전환할 수 있다.

클라우데라의 최근 보고서 'The State of Enterprise AI and Data Architecture'에 따르면 기업의 약 절반이 데이터를 데이터 웨어하우스에 저장하고 있다. AI 애플리케이션이 이 데이터에 안전하게 접근할 수 있도록 보장함으로써 조직은 민감한 정보를 보호된 환경 밖으로 이전하지 않고도 의미 있는 인사이트를 도출할 수 있다.

데이터 시각화 기능 고도화

클라우데라는 데이터 시각화 기능도 대폭 강화했다. 주요 개선 사항으로는 AI 주석 기능이 추가돼 수작업 없이도 차트와 시각 자료에 대한 요약과 맥락적 인사이트를 즉시 생성할 수 있게 됐다.

또한 강화된 AI 안정성 기능을 통해 일시적인 문제를 견고하게 처리하고 상세한 사용 분석 데이터를 제공한다. AI 쿼리 로깅 및 추적성 기능은 모든 AI 쿼리에 메시지 ID, 타임스탬프, 질문 내용을 기록해 투명성과 문제 해결을 간소화한다. 관리자 관리도 간소화돼 업데이트된 설정 파라미터를 통해 관리자 역할을 쉽게 할당할 수 있다.

데이터 위치와 무관한 AI 구현 강조

레오 브루닉 클라우데라 최고제품책임자는 "이번 고도화는 고객에게 한층 강화된 통제력과 유연성을 제공한다"며 "조직은 가장 중요한 데이터가 위치한 곳에서 바로 안전하게 AI와 분석을 배포할 수 있게 됐다"고 밝혔다.

엔비디아의 팻 리 전략적 엔터프라이즈 파트너십 부문 부사장은 "클라우데라와의 협업을 통해 고객은 엔비디아 Blackwell GPU, Dynamo-Triton, NIM 마이크로서비스를 활용해 AI 추론을 배포하고 확장할 수 있다"며 "통제력, 예측 가능한 비용 구조, 데이터센터 효율성을 확보할 수 있다"고 강조했다.

기업들이 AI 실험 단계에서 실제 운영 단계로 이동함에 따라 데이터가 어디에 저장돼 있는지보다 AI가 데이터에 안전하고 신뢰 가능하며 거버넌스가 적용된 방식으로 접근할 수 있는지가 더 중요해지고 있다. 클라우데라는 이러한 접근 방식을 통해 보안 위험을 최소화하고 규정 준수 부담을 줄이며 운영 효율성을 높이는 데 기여한다는 설명이다.

클라우데라는 오는 2월 18일부터 20일까지 열리는 DeveloperWeek에서 Apache Iceberg를 활용한 클라우드 네이티브 오픈 레이크하우스 아키텍처 설계에 관한 세션을 진행할 예정이다.

한국정보기술신문 클라우드분과 유민건 기자 news@kitpa.org