오픈AI GPT-5.5, 엔비디아 GB200에서 구동...토큰당 비용 35배 절감, 개발 생산성 대폭 향상
오픈AI가 새로운 GPT-5.5 모델을 엔비디아 GB200 NVL72 시스템에서 출시했다고 발표했다.
[한국정보기술신문] 오픈AI가 차세대 대화형 인공지능 모델인 GPT-5.5를 엔비디아의 최신 GB200 NVL72 랙 규모 시스템에서 구동한다고 23일 발표했다. 이번 협력으로 AI 모델의 운영 비용이 획기적으로 절감되고 개발 생산성이 크게 향상될 것으로 기대된다.
성능 향상과 비용 절감 동시 달성
엔비디아의 GB200 NVL72 시스템은 이전 세대 대비 토큰당 비용을 35배 절감하고, 메가와트당 토큰 출력을 50배 증가시켰다. 이는 AI 모델 운영의 경제성을 크게 개선한 것으로 평가된다.
엔비디아 내부적으로는 1만 명 이상의 직원이 코덱스 애플리케이션을 통해 GPT-5.5에 조기 접근할 수 있게 됐다. 실제 업무에 적용한 결과 며칠 걸리던 디버깅 작업이 몇 시간으로 단축되고, 수주가 필요했던 실험을 밤새 완료할 수 있게 됐다.
안전성 확보한 엔터프라이즈 환경 구축
새로운 시스템은 원격 SSH 연결과 읽기 전용 권한을 통해 엔터프라이즈 환경에서 안전하게 작동하도록 설계됐다. 이를 통해 기업들이 보안 우려 없이 고성능 AI 모델을 활용할 수 있는 환경이 마련됐다.
오픈AI와 엔비디아의 협력은 2016년 DGX-1 전달을 시작으로 10년간 지속되고 있다. 젠슨 황 엔비디아 CEO는 이번 발표에서 "AI 인프라의 새로운 표준을 제시했다"고 평가했다.
한국정보기술신문 인공지능분과 성연주 기자 news@kitpa.org
