SK하이닉스, FMS 2026서 '계층형 메모리' 기반 차세대 AI 인프라 해법 제시...샌디스크와 HBF 첫 표준 규격 공개, 375단 4D 낸드 웨이퍼도 첫선

[한국정보기술신문] SK하이닉스가 인공지능(AI) 에이전트 확산으로 급증하는 데이터 처리 수요에 대응하기 위해 성격이 다른 여러 메모리를 하나의 체계로 묶는 '계층형 메모리(Tiered Memory)' 구조를 차세대 AI 인프라의 핵심 해법으로 제시했다. SK하이닉스는 지난 4일부터 6일까지(현지시간) 미국 캘리포니아주 산타클라라 컨벤션센터에서 열린 메모리·스토리지 분야 세계 최대 전시 컨퍼런스 'FMS(Future of Memory and Storage) 2026'에 참가해 이 같은 기술 방향성을 공개했다고 7일 밝혔다. 이번 행사에는 350명이 넘는 AI 전문가가 참여해 최신 기술 동향을 공유했고, 사흘 동안 3500명 이상이 전시장을 찾았다.

행사 첫날 기조연설에는 김천성 SK하이닉스 솔루션개발 부문장과 강욱성 차세대 상품기획 담당이 함께 나섰다. 주제는 'AI 에이전트 시대, 계층형 메모리에 기반한 AI 인프라의 효율적 구현 방안'이었다.

두 발표자는 AI의 활용 범위가 학습 중심에서 대규모 추론과 에이전틱 AI로 넓어지면서, 하나의 메모리 제품만으로는 늘어나는 데이터를 감당하기 어렵다고 진단했다. 에이전틱 AI는 사람의 지시를 기다리지 않고 스스로 계획을 세워 여러 단계의 작업을 처리하는 AI를 말한다. 작업 단계가 늘어날수록 중간에 저장하고 다시 꺼내 써야 할 데이터가 함께 불어난다.

계층형 메모리는 이 문제를 속도와 용량, 비용이 서로 다른 메모리를 층으로 나눠 해결하자는 구상이다. 자주 쓰고 빨라야 하는 데이터는 고대역폭메모리(HBM)에, 용량이 커야 하는 데이터는 낸드나 기업용 SSD에 두고, 이들을 유기적으로 연결해 시스템 전체의 효율을 끌어올리는 방식이다. SK하이닉스는 HBM 중심의 성능 경쟁에서 한발 더 나아가 서버용 D램과 낸드, SSD, CXL을 하나의 AI 인프라 구조 안에서 함께 최적화하겠다는 방향을 분명히 했다.

행사 개막에 맞춰 SK하이닉스는 샌디스크와 함께 차세대 스토리지 기술인 고대역폭 플래시(HBF·High Bandwidth Flash)의 첫 표준 규격을 개방형 컴퓨팅 프로젝트(OCP)를 통해 공개했다.

HBF는 HBM과 SSD 사이에 놓이는 새로운 메모리 계층이다. HBM 수준의 빠른 데이터 전송 속도를 내면서도 낸드플래시를 기반으로 해 용량을 크게 키울 수 있다는 것이 특징이다. AI 추론이 확산되면서 처리해야 할 데이터가 급격히 늘어난 상황에서 대역폭과 용량 확장성을 동시에 확보할 수 있는 기술로 주목받고 있다.

이번 규격은 낸드 다이를 8단과 16단으로 쌓는 두 가지 방식을 기준으로 최대 512GB 용량을 정의했다. 대역폭은 세 등급(Grade 1~3)으로 나눠 약 0.4TB/s에서 3.0TB/s까지 구현할 수 있도록 규정했다. HBF와 프로세서를 잇는 연결 방식으로는 업계 표준인 UCIe를 채택해, 그래픽처리장치(GPU)나 중앙처리장치(CPU) 등 종류가 다른 프로세서에도 유연하게 붙일 수 있는 기반을 마련했다. UCIe는 서로 다른 반도체 칩렛을 표준화된 방식으로 연결하는 규격이다.

이번 표준은 SK하이닉스와 샌디스크가 지난해 8월 표준화 협력에 나선 뒤 올해 2월 컨소시엄을 출범한 지 약 6개월 만에 내놓은 첫 결과물이다. 컨소시엄에는 구글과 텐스토렌트도 참여하고 있다. 행사 마지막 날에는 임의철 SK하이닉스 솔루션AT 담당과 라지브 나가비라바 샌디스크 부사장, 샤오위 마 구글 딥마인드 시니어 스태프 엔지니어가 'HBF로 메모리 월 돌파'를 주제로 패널 토의를 진행했다.

다만 HBF가 실제 시장에 자리 잡기까지는 시간이 필요하다는 시각도 있다. 삼성전자와 마이크론 등 경쟁사는 아직 컨소시엄에 합류하지 않고 상황을 지켜보고 있다. 개방형 표준은 참여 기업이 늘어날수록 힘을 얻는 만큼, 생태계 확대가 이번 기술의 성패를 가를 변수로 꼽힌다.

SK하이닉스 전시 부스는 파트너십존과 스마트 엣지, Next Gen. Tech, Tech 세션 등으로 꾸려졌다.

파트너십존에서는 엔비디아의 차세대 AI 가속기 '베라 루빈(Vera Rubin)' 모형과 HBM4 모형을 나란히 배치해 빅테크와의 협업 관계를 부각했다. 실물 제품으로는 HBM4E 48GB 12단과 HBM4 48GB 16단, HBM3E 36GB 12단, AI 서버용 저전력 D램 모듈인 소캠(SOCAMM)2 등이 전시됐다. 델의 서버 시스템 'R7625'와 여기에 탑재되는 64GB DDR5 RDIMM, 기업용 SSD(eSSD) 'PS1110 E3.S'를 함께 놓아 실제 적용 사례도 소개했다. 이와 함께 256GB DDR5 RDIMM과 128GB DDR5 MRDIMM, PEB210, PS1101 등 서버용 메모리·스토리지 제품군이 배치됐다.

낸드 분야에서는 고용량 eSSD인 PS1101 라인업이 눈길을 끌었다. 이 제품은 한 셀에 4비트를 저장하는 쿼드러플레벨셀(QLC) 기반으로, 기존 176단 제품보다 성능을 약 55% 높였다. SK하이닉스는 이달부터 주요 클라우드서비스제공업체(CSP) 고객을 대상으로 샘플 공급을 시작할 계획이다.

스마트 엣지 구역에서는 375단 4D 낸드 웨이퍼가 전면에 배치됐다. 웨이퍼 본딩(웨이퍼 간 접합) 공법을 적용한 SK하이닉스의 첫 낸드 제품으로, 이전 세대보다 전력 대비 성능을 2.5배 높인 것이 특징이다. 회사는 이를 기반으로 한 고성능·고용량 eSSD를 내년 상반기 양산할 계획이다.

컴퓨트익스프레스링크(CXL) 기반 기술 시연도 관심을 모았다. CXL은 프로세서와 메모리, 저장장치를 하나의 규격으로 묶어 서로 자원을 나눠 쓸 수 있게 하는 연결 기술이다.

SK하이닉스는 여러 서버와 GPU가 메모리를 공유하는 '풀드 메모리(Pooled Memory)'를 활용해 분산 AI 에이전트 서빙 시스템을 선보였다. AI 에이전트가 답변을 만드는 과정에서 쓰는 KV 캐시를 서버끼리 주고받고 다시 활용하도록 해, 기존 네트워크 통신 방식보다 데이터 처리 효율을 높일 수 있다는 점을 보여주는 데 초점을 맞췄다. KV 캐시는 AI 모델이 앞서 처리한 문맥을 다시 계산하지 않도록 저장해 두는 임시 데이터다.

D램과 SSD를 결합한 'CMM-Hybrid' 솔루션도 함께 시연됐다. 메모리에 연산 기능을 더한 'CMM-Ax'를 활용해 대규모언어모델(LLM)의 긴 문맥 처리 속도를 높이는 차세대 추론 시스템도 공개됐다. 관련 연구는 컴퓨터 아키텍처 분야 국제학회인 'MICRO 2026'에 채택됐다.

행사 기간 SK하이닉스는 기조연설과 패널 토의 외에도 AI 제조 자동화, HBF, 침수 냉각 환경용 SSD, CXL 메모리 등을 주제로 12개의 기술 세션을 열어 연구 성과를 공유했다.

SK하이닉스는 "이번 FMS 2026을 통해 차세대 AI 메모리 아키텍처의 방향성을 제시하고, HBM부터 서버 D램, 낸드, CXL에 이르기까지 AI 인프라 전 계층을 아우르는 기술 역량을 업계에 널리 알릴 수 있었다"며 "앞으로도 고객과 파트너들이 필요로 하는 최적의 AI 메모리 솔루션을 선제적으로 개발하고 제공해 나가겠다"고 밝혔다.

FMS는 매년 미국에서 열리는 메모리·스토리지 분야 최대 규모 전시 컨퍼런스다. 과거 낸드플래시 중심의 '플래시 메모리 서밋'이라는 이름으로 열리다가 D램과 스토리지 전반으로 범위를 넓히면서 현재 명칭으로 바뀌었다. 올해 행사에서는 AI 데이터센터 수요 급증을 반영하듯 AI 인프라에 대한 관심이 전반적으로 두드러졌다.