SK하이닉스, 'AI 메모리의 미래' 5가지 제시...HBM 넘어 D램·낸드까지 '풀 스택' 강조...연산보다 데이터 이동·저장 효율이 AI 경쟁력 좌우, 학습서 추론으로 넓어지는 수요에 종합 대응 선언

[한국정보기술신문] SK하이닉스가 6월 23일 자사 뉴스룸을 통해 인공지능(AI) 시대 메모리 반도체의 역할과 자사의 대응 전략을 다섯 가지 관점으로 정리한 글을 공개했다. 회사는 이 글에서 이제 AI 경쟁력이 단순히 연산이 얼마나 빠른가가 아니라, 데이터를 얼마나 빠르고 효율적으로 옮기고 처리하느냐에 달려 있다고 진단하며, HBM과 D램, 낸드 플래시를 아우르는 폭넓은 제품군으로 AI 인프라 전반을 뒷받침하는 '풀 스택(full stack)' 전략을 내세웠다. 메모리 반도체는 데이터를 저장하거나 잠시 담아 두는 반도체를, AI 인프라는 인공지능을 돌리는 데 필요한 데이터센터와 반도체, 통신망 등 기반 설비 전반을 일컫는다.

회사의 설명은 그동안 AI 경쟁의 중심에 있던 GPU 같은 연산 장치만으로는 AI 성능을 끌어내기 어려워졌다는 문제의식에서 출발한다. AI 모델이 커지고 쓰임새가 넓어질수록, 연산 장치가 제 성능을 내려면 데이터가 제때 공급돼야 하는데 이 대목에서 메모리의 중요성이 부쩍 커졌다는 것이다.

SK하이닉스가 첫 번째로 꼽은 것은 '메모리 월(memory wall)'이라는 문제다. 메모리 월은 연산 장치가 데이터를 처리하는 속도와, 메모리가 그 데이터를 공급하는 속도 사이에 생기는 격차를 가리킨다. 아무리 빠른 연산 장치라도 필요한 데이터가 제때 도착하지 않으면 제 성능을 다 쓰지 못하고 멈춰 서게 된다. 회사는 이 격차가 AI 시스템의 성능과 효율, 확장성을 가로막는 '병목'이 될 수 있다고 설명했다. 병목은 좁은 통로 탓에 전체 흐름이 느려지는 현상을 빗댄 말이다.

이 때문에 회사는 AI 성능이 더 이상 연산 능력만으로 결정되지 않으며, 메모리의 데이터 전송 능력(대역폭)과 용량, 전력 효율, 응답이 늦어지는 정도(지연시간), 신뢰성이 함께 시스템 성능을 좌우한다고 봤다. 메모리가 연산을 거드는 주변 부품이 아니라, AI 시스템이 실제로 얼마나 효율적으로 돌아가는지를 결정하는 핵심 설비가 됐다는 것이다.

두 번째는 AI 가속의 핵심으로 떠오른 HBM(고대역폭 메모리)이다. HBM은 여러 개의 D램 칩을 위로 쌓아 올려 좁은 공간에서도 많은 데이터를 한꺼번에 주고받을 수 있게 만든 메모리다. D램은 데이터를 빠르게 읽고 쓰는 대신 전원이 꺼지면 내용이 지워지는 메모리를 말한다. 연산 장치 가까이에서 데이터를 빠르게 전달해 앞서 말한 병목을 줄이는 것이 HBM의 역할이다.

회사는 HBM이 첨단 AI 가속기와 고성능 데이터센터를 자사와 직접 잇는 대표 기술이라고 강조했다. 특히 차세대 제품인 'HBM4'를 AI 모델과 작업량이 더 커지고 복잡해지는 흐름에 대응할 핵심 기술로 지목했다. SK하이닉스는 앞서 6월 18일 차세대 제품인 'HBM4E'의 12단 샘플을 공급했다고 밝히는 등 차세대 HBM 라인업을 잇따라 선보이고 있다.

세 번째로 회사는 AI 메모리 수요가 학습 단계를 넘어 추론과 실제 서비스로 빠르게 확산되고 있다고 진단했다. 학습은 AI가 대량의 데이터로 능력을 익히는 과정을, 추론은 학습을 마친 AI가 사용자의 실제 요청에 답을 내놓는 과정을 말한다. 검색과 콘텐츠 생성은 물론 제조·금융·헬스케어 등 여러 산업으로 AI 활용이 번지면서, 사용자 요청에 답하는 추론이 끊임없이 반복적으로 일어나고 있다는 것이다.

회사는 이런 흐름이 메모리 수요 전망에서도 나타난다고 덧붙였다. AI 데이터센터가 늘고, 스스로 여러 작업을 처리하는 'AI 에이전트'와 추론 서비스가 퍼지며, 기기 자체에서 AI를 돌리는 '온디바이스 AI'가 본격화되면서 HBM뿐 아니라 서버·시스템 메모리와 낸드 기반 저장장치 수요까지 함께 늘어난다는 것이다. AI 에이전트는 사람의 지시를 받아 여러 단계의 일을 스스로 처리하는 AI를, 온디바이스 AI는 데이터센터를 거치지 않고 기기 안에서 직접 작동하는 AI를 말한다. 회사는 이를 두고 AI 메모리 수요가 특정 제품군에 머물지 않고 HBM에서 AI-DRAM, AI-NAND로 이어지는 포트폴리오 전반으로 넓어지고 있음을 보여 주는 대목이라고 설명했다.

이에 따라 메모리에 요구되는 조건도 다양해진다고 회사는 설명했다. 학습에는 높은 대역폭과 큰 용량이 중요하지만, 추론에서는 빠른 응답성과 효율적인 데이터 처리, 긴 맥락을 다루는 능력이 더 중요해진다. 회사는 이런 흐름 속에서 AI 메모리 수요가 HBM에 머물지 않고 서버용 D램과 낸드 기반 저장장치로까지 넓어지고 있다고 밝혔다.

네 번째는 회사가 핵심 전략으로 내세운 풀 스택 AI 메모리 포트폴리오다. 풀 스택은 'AI에 필요한 메모리를 빠짐없이 갖췄다'는 뜻으로, 회사는 HBM, AI-DRAM, AI-NAND라는 세 축이 서로 다른 역할을 맡는다고 설명했다.

HBM은 AI 가속기에 초고속 데이터를 공급하는 역할을 맡고, AI-DRAM은 서버와 컴퓨팅 장비 전반의 성능과 효율을 떠받치는 시스템 메모리 역할을 한다. 회사는 AI-DRAM 제품으로 SOCAMM2와 GDDR7, DDR5 등을 들었다. AI-NAND는 추론 시장이 커지며 늘어나는 저장 수요에 대응하는 축으로, 회사는 한 개에 245테라바이트(TB)를 담는 대용량 QLC eSSD 등을 사례로 제시했다. eSSD는 데이터센터용 대용량 저장장치를, 테라바이트는 약 1조 바이트에 해당하는 데이터 용량 단위를 말한다. 회사는 세 축이 함께 맞물려 돌아갈 때 AI 인프라가 더 효율적으로 확장될 수 있다고 강조했다.

마지막으로 회사는 AI 인프라가 데이터센터 학습용 설비부터 기업용 AI 서비스, AI PC, 엣지 기기까지 쓰임새에 따라 다른 균형을 요구하는 '맞춤형'으로 진화하고 있다고 봤다. 엣지 기기는 데이터센터가 아니라 사용자 곁에서 직접 데이터를 처리하는 스마트폰·기기 등을 가리킨다.

SK하이닉스는 HBM에서 쌓은 경쟁력을 AI-DRAM과 AI-NAND로 넓혀, AI 인프라 전반을 뒷받침하는 '풀 스택 AI 메모리 크리에이터(Full Stack AI Memory Creator)'로 도약하겠다는 목표를 제시했다. 제품을 공급하는 데 그치지 않고, 고객과 협력하며 각 작업에 맞춘 메모리 해법을 제안하는 기술 파트너로 역할을 넓히겠다는 구상이다.

다만 이번 글은 SK하이닉스가 자사 뉴스룸을 통해 자사의 기술과 전략을 직접 소개한 자료인 만큼, 외부의 독립적 검증을 거친 내용은 아니다. 또 풀 스택 전략과 차세대 제품들이 실제 시장에서 어떤 성과로 이어질지는 양산 일정과 공급 규모, 경쟁 상황을 함께 지켜봐야 가늠할 수 있을 전망이다. AI 인프라 수요가 커지며 메모리 시장의 경쟁도 치열해지고 있어, 이번에 제시한 메모리 중심 전략이 업계에서 어떤 평가를 받을지가 관건이 될 것으로 보인다.