레플리케이트, 클라우드플레어에 합류...AI 플랫폼 생태계 확장

AI 모델 공유 플랫폼 레플리케이트가 글로벌 네트워크 기업 클라우드플레어에 인수되며 독립 브랜드 유지

[한국정보기술신문] AI 모델 공유 및 실행 플랫폼 레플리케이트(Replicate)가 클라우드플레어(Cloudflare)에 합류한다고 18일 발표했다. 레플리케이트는 개발자들이 복잡한 AI 인프라 없이도 손쉽게 AI 모델을 배포하고 실행할 수 있도록 지원하는 플랫폼으로, 이번 합류를 통해 클라우드플레어의 글로벌 네트워크와 개발자 플랫폼을 활용할 수 있게 됐다.

레플리케이트는 이번 발표를 통해 독립 브랜드로 계속 운영되며, 기존 API는 변경되지 않을 것이라고 밝혔다. 현재 레플리케이트를 활용해 구축한 서비스들은 기존과 동일하게 작동하며, 플랫폼에서 사용 중인 모델들도 계속 지원된다. 레플리케이트 측은 합류 후 더 빠른 속도와 더 많은 리소스를 제공할 수 있을 것이라고 설명했다.

AI를 위한 기본 구성요소 구축

레플리케이트는 AI를 위한 기본 도구와 추상화 계층을 구축해왔다. 이를 통해 소프트웨어 개발자들은 복잡한 기술적 세부사항을 이해하지 않고도 AI를 활용할 수 있다. 레플리케이트는 먼저 코그(Cog)라는 오픈소스 도구를 개발했다. 코그는 모델의 표준 형식을 정의하는 도구로, 현재 깃허브에 공개되어 있다.

이후 레플리케이트는 사람들이 모델을 공유하고 API를 통해 실행할 수 있는 플랫폼을 만들었다. 모델이 무엇인지, 어떻게 게시하고 실행하는지, 데이터를 어떻게 입출력하는지에 대한 표준을 정의했다. 레플리케이트는 이러한 추상화 계층이 운영체제의 저수준 기본 요소와 유사하다고 설명한다.

클라우드 기반 분산 AI 운영체제

레플리케이트가 제공하는 이러한 기본 요소들은 클라우드에서 실행된다. AI 모델들은 특수한 GPU와 클러스터가 필요하며 프로덕션 환경에서 확장되어야 하기 때문이다. 레플리케이트는 이를 클라우드에서 실행되는 AI를 위한 분산 운영체제로 설명하며, 네트워크가 곧 컴퓨터라는 개념을 강조했다.

레플리케이트가 클라우드플레어를 선택한 이유는 클라우드플레어의 강력한 네트워크 인프라 때문이다. 클라우드플레어는 이미 이러한 운영체제의 다른 많은 부분을 구축해왔다. 워커스(Workers)는 에이전트와 연결 코드를 실행하기에 완벽한 플랫폼이며, 듀러블 오브젝트(Durable Objects)는 상태 관리를, R2는 파일 저장을, WebRTC는 미디어 스트리밍을 담당한다.

개발자 중심 기업의 만남

레플리케이트 관계자는 클라우드플레어가 개발자를 위한 제품을 만들고 이를 대규모 엔터프라이즈 비즈니스로 성장시킨 방식을 존경해왔다고 밝혔다. 클라우드플레어는 개발자를 이해하고 그들을 위한 좋은 제품을 만드는 방법을 아는 유일한 상장 기업이라고 평가했다.

클라우드플레어는 웹 앱 구축의 기본값이 되었으며, 레플리케이트도 Y 컴비네이터에 지원하기 위한 프로토타입을 구축할 때부터 클라우드플레어를 활용했다고 전했다. 이번 합류를 통해 두 기업은 AI 앱 구축의 기본값이 되겠다는 목표를 제시했다.

향후 계획

저수준 추상화 계층을 확보한 만큼, 레플리케이트와 클라우드플레어는 더 높은 수준의 추상화를 구축할 계획이다. 모델을 조율하고 에이전트를 구축하는 방법, 실시간 모델을 실행하거나 엣지에서 모델을 실행하는 방법 등이 포함된다. 이를 통해 개발자들이 더 쉽게 AI 애플리케이션을 구축할 수 있는 환경을 제공할 예정이다.

한국정보기술신문 클라우드분과 유민건 기자 news@kitpa.org