엔비디아, 로봇용 소형 AI 컴퓨터 '젯슨 토르' 2종 내놨다...손바닥만 한 모듈로 로봇·엣지 AI 대중화 겨냥...블랙웰 기반 T3000·T2000 공개, 크기·전력 절반으로 줄이고 파운데이션 모델을 현장 기기에서 직접 구동, 2027년 1분기 정식 출시

[한국정보기술신문] 로봇이 연구실을 벗어나 공장과 매장, 도로로 쏟아져 나오는 시대를 겨냥한 소형 인공지능(AI) 컴퓨터가 나왔다. 엔비디아(NVIDIA)는 지난 7월 15일(현지시간) 자사 블로그를 통해 로봇과 엣지 AI를 위한 새 컴퓨터 모듈 '젯슨 토르(Jetson Thor)' 계열의 T3000과 T2000을 공개했다고 밝혔다. 이 두 모듈은 엔비디아의 최신 반도체 설계 방식인 '토르(Thor) 아키텍처'를 바탕으로 만들어졌으며, 범용 로봇과 스스로 움직이는 기계를 대량으로 보급하는 데 쓰도록 설계됐다. 엣지 AI란 멀리 있는 데이터센터에 접속하지 않고 로봇이나 기기 자체에서 곧바로 AI를 처리하는 방식을 말한다.

그동안 사람처럼 두 발로 걷는 휴머노이드 로봇이나 스스로 판단해 움직이는 기계는 대부분 연구실 안에 머물러 있었다. 하지만 이들이 실제 현장에 대량으로 투입되기 시작하면서, 크기가 작고 전력을 적게 쓰면서도 대형 AI 모델을 굴릴 수 있는 강력한 컴퓨터에 대한 수요가 커졌다는 것이 엔비디아의 설명이다. 여기서 대형 AI 모델은 흔히 '파운데이션 모델'이라 부르는데, 다양한 작업에 두루 쓸 수 있도록 방대한 데이터로 미리 학습시킨 기반 모델을 가리킨다.

엔비디아에 따르면 이미 여러 기업이 젯슨 토르 계열의 상위 제품인 '젯슨 AGX 토르'를 바탕으로 로봇을 만들고 있다. 회사는 1X와 어질 로봇, 아마존 로보틱스, 보스턴 다이내믹스, 화낙(FANUC), 히타치, 테크맨 로봇 등이 이 플랫폼을 쓰고 있다고 소개했다.

새로 공개된 두 모듈 가운데 성능이 높은 쪽은 T3000이다. 엔비디아는 이 모듈이 손바닥만 한 크기 안에서 초당 865조 번(865 FP4 테라플롭스) 수준의 AI 연산을 처리한다고 밝혔다. 테라플롭스는 컴퓨터의 계산 성능을 재는 단위로, 1테라플롭스는 초당 1조 번의 연산을 뜻한다. 회사는 이 성능이 상위 제품인 T5000과 비슷한 수준이면서도, 크기와 전력 소비는 대략 절반으로 줄였다고 설명했다.

T3000에는 엔비디아의 최신 그래픽처리장치(GPU) 설계인 '블랙웰(Blackwell)' 기반 GPU와 8개의 연산 핵을 갖춘 Arm 계열 중앙처리장치(CPU), 32기가바이트(GB)의 메모리가 함께 담겼다. GPU는 원래 화면을 그리는 장치였지만, 많은 계산을 한꺼번에 처리하는 데 강해 오늘날 AI 연산의 핵심으로 쓰인다. 회사는 크기를 줄였는데도 언어를 다루는 대형 언어 모델은 물론, 글과 이미지를 함께 이해하는 모델, 보고 판단해 행동으로 옮기는 모델 등 여러 종류의 AI를 상위 제품에 버금가는 속도로 처리한다고 밝혔다. 최근 메모리 값이 크게 오른 상황에서 T3000으로 옮기면 비용을 줄일 수 있다는 점도 함께 내세웠다.

또 산업 현장용으로는 안전 기능을 더한 'IGX T3000'도 함께 내놨다. 이 제품은 같은 성능을 내면서도 사람과 나란히 일하는 로봇을 위한 안전장치를 갖췄다고 회사는 설명했다.

또 다른 모듈인 T2000은 더 넓은 범위의 기기를 겨냥한 보급형이다. 초당 400조 번(400 FP4 테라플롭스) 수준의 연산 성능과 16GB 메모리를 갖춰, 카메라 영상을 분석하는 AI, 스스로 돌아다니는 이동 로봇, 물건을 집고 옮기는 산업용 로봇 팔 등을 만드는 개발자에게 출발점이 되도록 했다.

엔비디아는 이번 신제품을 더하면서 초당 70조 번(70 TOPS)부터 2000테라플롭스에 이르는 폭넓은 성능대의 엣지 AI 제품군을 갖추게 됐다고 밝혔다. 개발자가 사실상 거의 모든 종류의 엣지 AI 작업에 맞는 제품을 골라 쓸 수 있게 됐다는 것이다.

엔비디아는 하드웨어와 함께 개발을 돕는 소프트웨어도 선보였다. 새로 공개한 '젯슨 에이전트 스킬(agent skills)'은 AI가 개발 과정의 번거로운 작업을 대신 처리해 주는 도구다. AI 에이전트란 사람이 일일이 지시하지 않아도 스스로 판단해 여러 단계의 작업을 수행하는 AI를 말한다.

이 도구는 그동안 전문가가 손으로 며칠씩 매달려야 했던 '메모리 최적화' 작업을 자동으로 처리해 준다. 메모리 최적화란 AI 모델이 기기의 한정된 저장 공간을 더 효율적으로 쓰도록 다듬는 작업이다. 회사는 이 도구를 쓰면 몇 주 걸리던 작업을 며칠 만에 끝내고 메모리를 크게 아낄 수 있다고 밝혔다. 이 도구는 이번 신제품뿐 아니라 이전 세대인 '젯슨 오린'을 포함한 젯슨 제품군 전반을 지원한다.

실제 사례로, 휴머노이드 로봇 기업 유비테크(UBTech)와 어질 로봇, 산업용 솔루션 기업 커넥트 테크는 이 방식으로 메모리 사용량을 최대 15GB 줄여, 64GB짜리 모듈에서 32GB짜리로 옮길 수 있었다고 회사는 소개했다. 무인 매장 분야의 샌드스타는 메모리를 최대 4GB 아껴 더 작은 모듈로 옮겼고, 지능형 교통 분야의 노트래픽은 특정 모듈에서 메모리 사용량을 30% 줄여 AI 기능을 더 넣을 여유를 확보했다. 이렇게 메모리를 아끼면 더 저렴한 부품으로도 같은 일을 할 수 있어 전체 비용이 낮아진다는 것이 엔비디아의 설명이다.

엔비디아는 로봇에 특화된 소형 AI 모델 '코스모스 3 엣지(Cosmos 3 Edge)'도 함께 내놨다. 이 모델은 매개변수(파라미터)가 40억 개 규모로, 몸을 가진 로봇 같은 기계가 주변을 보고, 실시간으로 상황을 판단해, 다음에 할 행동을 예측하고 만들어 내도록 돕는다. 매개변수란 AI가 학습으로 익힌 값으로, 그 수가 모델의 능력을 좌우한다.

회사는 개발자가 이 모델을 특정 로봇과 센서에 맞게 하루 정도면 추가로 학습시킬 수 있어, 가상 환경에서 익힌 것과 실제 현장 사이의 차이를 좁힐 수 있다고 설명했다. 이렇게 다듬은 모델은 젯슨 토르에 얹어 곧바로 실시간 영상 분석과 로봇 제어에 활용할 수 있다.

엔비디아는 실제 모듈이 나오기 전에도 개발을 시작할 수 있도록 '가상 체험(에뮬레이션) 모드'를 지원한다. 개발자는 이미 판매 중인 '젯슨 AGX 토르 개발자 키트'를 통해 T3000과 T2000의 성능을 미리 흉내 내 시험해 볼 수 있다. 세 제품이 같은 칩 구조와 소프트웨어를 공유하는 만큼, 개발 결과를 실제 모듈로 그대로 이어 갈 수 있다는 것이 회사의 설명이다.

회사에 따르면 T3000의 가상 체험 모드는 이달 말 관련 소프트웨어(젯팩 7.2.1)와 함께 제공되며, T2000용은 이후 순차적으로 지원될 예정이다. 실제 T3000과 T2000 모듈은 2027년 1분기에 판매를 시작한다. 엔비디아는 이미 여러 협력사가 젯슨 토르 기반 제품과, 기존 제품에서 새 모듈로 옮겨 가는 것을 돕는 방안을 준비하고 있다고 덧붙였다.