AI 칩 원가의 63%가 메모리...HBM이 비용 구조를 다시 짰다

[한국정보기술신문] 인공지능(AI) 가속기 칩 한 개를 만드는 데 들어가는 부품 비용 가운데 고대역폭메모리(HBM)가 차지하는 몫이 2년 만에 절반 수준에서 3분의 2 가까이로 치솟았다. AI 동향 분석 기관 에포크 AI(Epoch AI)는 지난 21일 데이터 분석 자료를 통해 엔비디아, AMD, 구글, 아마존이 설계한 AI 칩의 부품 원가 구조가 메모리 중심으로 빠르게 재편되고 있다고 밝혔다.

에포크 AI는 네 기업이 설계한 AI 칩을 생산량 기준으로 가중 평균한 결과, HBM이 전체 부품 비용에서 차지하는 비중이 2024년 1분기 52%에서 2025년 4분기 63%로 올랐다고 분석했다. 같은 기간 다른 부품의 비중은 모두 줄었다. 첨단 패키징은 19%에서 15%로, 기판과 전력 공급 장치 등 보조 부품은 15%에서 10% 안팎으로 낮아졌다. 반면 연산을 담당하는 로직 다이의 비중은 13~14% 수준에서 큰 변화 없이 유지됐다.

비중뿐 아니라 절대 금액에서도 HBM의 증가세가 두드러졌다. 에포크 AI에 따르면 네 설계사가 쓴 HBM 비용은 2024년 약 120억 달러에서 2025년 약 320억 달러로 1년 만에 세 배 가까이 늘었다. 이는 모든 부품 항목 가운데 가장 빠른 증가 속도다.

AI 칩 부품에 들어간 전체 지출 규모도 같은 기간 약 220억 달러에서 약 520억 달러로 크게 불어났다. 에포크 AI는 이 증가분 300억 달러 가운데 약 200억 달러가 HBM 지출 증가에서 비롯됐다고 설명했다. 부품비 전반이 늘어난 가운데서도 비용 증가의 대부분을 메모리가 끌어올린 셈이다.

에포크 AI는 AI 칩을 메모리(HBM), 로직 다이, 첨단 패키징(TSMC의 CoWoS), 보조 부품의 네 항목으로 나눠 분석했다. 메모리는 HBM3와 HBM3e 적층 메모리를, 로직은 3~5나노미터급 첨단 공정 다이를, 보조 부품은 기판과 전력 공급 장치 등 로직과 메모리를 제외한 입력 요소를 가리킨다.

분석 방식은 칩 한 개당 각 부품의 원가를 추정한 뒤, 분기별 생산량 추정치를 곱해 항목별 총지출을 구하고 이를 분기마다 비중으로 환산하는 것이다. 부품 원가 자료는 기업의 재무 공시와 부품사 신고 자료, 증권가 분석 보고서를 토대로 만든 칩별 자재 명세서에서 가져왔다.

다만 에포크 AI는 추정에 불확실성이 있다는 점도 함께 밝혔다. 부품 원가는 계약과 공급사, 시점에 따라 달라질 수 있고 분기별 생산량과 칩 종류 구성 비율 추정에도 오차가 있어 그 영향이 비중 수치에 반영된다는 설명이다. 실제로 2025년 4분기 메모리 비중 63%는 모든 부품 원가가 한쪽 극단으로 동시에 움직일 경우 54~73% 범위에서 변할 수 있다고 분석됐다.

에포크 AI는 메모리 공급이 빠듯하고 가격이 오르고 있어 2026년에는 HBM 비중이 더 커질 가능성이 높다고 내다봤다. 대형 데이터센터 운영 기업들도 이런 흐름을 이미 투자 계획에 반영하고 있다.

마이크로소프트는 2026 회계연도 설비 투자 전망치 1900억 달러 가운데 약 250억 달러가 부품 가격 상승에서 비롯된 것이라고 밝혔다. 메타 역시 부품 가격 상승을 이유로 2026년 설비 투자 범위를 100억 달러 늘려 잡았다. AI 칩 수요가 이어지는 가운데 메모리 가격 상승이 빅테크 기업의 투자 부담으로 이어지고 있는 것이다.

이번 분석은 AI 경쟁의 무게 중심이 연산 성능뿐 아니라 메모리 확보 능력으로 옮겨가고 있음을 보여준다. AI 칩의 원가 구조에서 메모리가 가장 큰 비용 항목으로 자리 잡으면서, HBM을 만드는 메모리 반도체 기업들의 위상과 공급망 내 협상력 또한 한층 커질 것으로 전망된다.