데이터독, GPU 비용 해결 모니터링 서비스 출시...AI 인프라 확산으로 급증하는 GPU 비용…비효율 가시화로 ROI 극대화
데이터독이 기업의 GPU 비용 문제 해결을 위한 전용 모니터링 서비스를 정식 출시했다고 발표했다.
[한국정보기술신문] 클라우드 모니터링 전문 기업 데이터독이 기업의 AI 인프라 확산 과정에서 급증하는 GPU 비용 문제를 해결하기 위한 GPU 모니터링 서비스를 정식 출시했다고 24일 발표했다. 데이터독 CPO 얀빙 리는 GPU 인스턴스 비용이 전체 컴퓨팅 비용의 14%를 차지하며 큰 걸림돌이 되고 있다고 지적했다.
GPU 비용 급증 문제 해결
기존 GPU 도구들은 디바이스 상태에 대한 기본 지표만 제공해 부서간 리소스 불균형으로 인한 병목 문제 파악이 어려웠다. 또한 유휴 또는 비효율적 GPU 사용에 대한 가시성이 부족해 조사 속도가 지연되고 과도한 리소스 프로비저닝이 발생했다.
데이터독은 이러한 문제를 해결하기 위해 GPU 플릿 전반에 대한 포괄적인 가시성을 제공하는 모니터링 서비스를 출시했다.
4가지 핵심 기능 제공
새로운 GPU 모니터링 서비스는 4가지 핵심 기능을 제공한다. 비용 효율화를 위해 플릿 사용 패턴에 대한 가시성과 예측을 바탕으로 신규 구매 결정을 지원한다.
성능 가속화 측면에서는 병목 원인을 빠르게 파악해 AI 프로젝트 출시 속도를 개선한다. 장애 예방을 위해 비정상 GPU를 사전에 식별해 지연을 방지하며, ROI 극대화를 위해 과잉 예약되거나 활용되지 않는 GPU를 쉽게 파악하고 재할당할 수 있도록 지원한다.
사용자 만족도 높아
AI 인프라 전문 기업 하이퍼볼릭의 제품 총괄 카이 후앙은 별도의 설정 없이도 인스턴스와 디바이스별로 핵심 활용률, 메모리, 전력과 온도 지표를 즉시 확인할 수 있다고 평가했다.
이는 GPU 리소스의 효율적 관리와 비용 최적화에 크게 기여할 것으로 예상된다.
AI 인프라 시장 변화 반영
이번 서비스 출시는 AI 기술 도입이 확산되면서 GPU 기반 인프라 비용이 급격히 증가하는 시장 상황을 반영한다. 기업들이 AI 프로젝트를 추진하면서 GPU 자원에 대한 의존도가 높아지고 있지만, 이에 따른 비용 관리의 복잡성도 함께 증가하고 있다.
데이터독의 GPU 모니터링 서비스는 이러한 시장 요구에 부응해 기업들이 AI 인프라 투자 효과를 극대화하고 불필요한 비용을 줄일 수 있는 솔루션을 제공한다는 점에서 주목받고 있다.
한국정보기술신문 클라우드분과 유민건 기자 news@kitpa.org
