지난 6편에서는 전기차와 수소차의 에너지 공급망을 둘러싼 주도권 싸움을 분석했습니다. 이번에는 요즘 주식 시장과 테크 뉴스에서 가장 뜨겁게 다뤄지는 주제이자, 전 세계 기술 자본이 미친 듯이 몰려들고 있는 'AI 반도체'와 그 심장에 들어가는 'HBM(고대역폭 메모리)'의 구조를 파헤쳐 보겠습니다.

챗GPT를 필두로 한 생성형 AI 열풍 이후, 엔비디아의 주가는 하늘을 뚫을 기세로 올랐고 한국의 SK하이닉스와 삼성전자의 희비도 이 HBM이라는 부품 하나 때문에 크게 갈렸습니다. 제가 테크 시장의 흐름과 기업들의 기술 발표를 꾸준히 관찰하며 느낀 것은, HBM이야말로 단순한 D램의 업그레이드 버전이 아니라 반도체 생태계의 판도를 바꾸는 '게임 체인저'라는 점입니다. 도대체 HBM이 무엇이길래 전 세계 데이터센터들이 이 칩을 구하지 못해 안달인지, 그리고 한국 기업들의 진짜 경쟁력은 어디에 있는지 알기 쉽게 정리해 드립니다.

1. AI 반도체의 병목 현상, 그리고 HBM의 등장 원리

컴퓨터가 똑똑하게 작동하려면 연산을 담당하는 '두뇌(CPU나 GPU)'와 데이터를 기억하는 '창고(D램)'가 끊임없이 대화를 나눠야 합니다. 인공지능, 특히 초거대 AI는 공부해야 할 데이터의 양이 일반 컴퓨터와는 비교도 안 될 정도로 엄청납니다. 엔비디아가 만든 고성능 GPU는 계산 속도가 엄청나게 빠른데, 문제는 데이터를 보내주는 메모리 창고의 문(대역폭)이 좁아서 일어났습니다. 계산기는 이미 준비가 끝났는데 책상 위로 책이 들어오는 속도가 너무 느려 계산기가 놀고 있는 현상, 이를 반도체 공학에서는 '메모리 병목 현상(Memory Bottleneck)'이라고 부릅니다.

이 문제를 해결하기 위해 등장한 것이 바로 HBM(High Bandwidth Memory)입니다. 기존 D램은 메인보드 위에 평면으로 나란히 배치해 데이터를 주고받았지만, HBM은 D램을 아파트처럼 위로 높게 쌓아 올린 형태입니다. 그리고 건물 사이에 초고속 엘리베이터를 수천 개 뚫어(TSV 기술) 데이터를 한 번에 엄청난 양으로 나릅니다. 도로 폭을 수천 차선으로 넓혀버린 것과 같아서, 엔비디아의 초고속 GPU가 쉬지 않고 연산할 수 있도록 데이터 공급줄을 뚫어준 혁신적인 기술입니다.

2. 엔비디아가 갑(甲)이고 HBM은 을(乙)일까? 시장의 독점적 구조

흔히 엔비디아가 AI 시장을 독점하고 있으니 부품을 납품하는 메모리 반도체 회사들은 철저한 '을'일 것이라고 생각하기 쉽습니다. 하지만 최근 시장 구조는 전혀 다르게 흘러가고 있습니다. HBM은 만들기가 까다로워서 수율(불량 없는 합격품 비율)이 매우 낮고, 대량 생산이 극도로 제한적입니다.

2026년 현재 상용화가 한창인 HBM4 및 HBM3E 제품군은 엔비디아, 마이크로소프트, 구글 같은 빅테크 기업들이 향후 몇 년 치 물량을 선주문하며 계약금을 미리 밀어 넣을 정도로 공급 부족 상태가 심각합니다. 엔비디아가 아무리 좋은 GPU 칩을 찍어내도 HBM이 없으면 완제품을 팔 수가 없기 때문에, 지금은 오히려 메모리 제조사들이 강력한 가격 결정권(Pricing Power)을 쥐는 기이한 '슈퍼 을'의 시대가 열렸습니다.

3. SK하이닉스의 독주와 삼성전자의 맹추격: 진짜 관전 포인트

국내 반도체 시장을 보시는 분들이 가장 궁금해하는 대목이 바로 두 거인의 자존심 싸움입니다. HBM 초기 시장은 기술 변화의 흐름을 빠르게 읽고 패키징 기술(MR-MUF)을 선제적으로 도입한 SK하이닉스가 완전히 주도권을 잡았습니다. 엔비디아 공급망의 핵심 축을 장악하며 창사 이래 역대급 실적을 갈아치우는 저력을 보여준 배경입니다.

하지만 삼성전자의 저력을 무시할 수는 없습니다. 처음에는 HBM 공급망 진입 시기가 다소 늦어지며 고전했지만, 6세대 제품인 HBM4 개발 주기를 앞당기며 엔비디아의 차세대 AI 플랫폼(Vera Rubin 등) 공급망 진입 테스트를 빠르게 통과하는 중입니다. 삼성의 가장 큰 무기는 설계부터 파운드리(위탁생산), 메모리까지 전부 한 지붕 아래에서 해결할 수 있는 '토탈 솔루션' 능력입니다. HBM4부터는 베이스 다이(Base Die)라는 하단 칩을 미세 공정 파운드리로 만들어야 하는데, 이 영역에서 삼전과 하이닉스(TSMC와 연합)의 패권 경쟁이 2차전으로 번지고 있습니다.

4. 우리가 투자와 뉴스 분석에서 실수하기 쉬운 점

일반 투자자나 블로그 독자분들이 범하기 쉬운 실수는 HBM이 잘 팔리니 모든 D램 회사가 영원히 우상향할 것이라 믿는 것입니다. HBM은 주문형 반도체(ASIC)에 가깝습니다. 일반 D램처럼 미리 만들어두고 도매가로 파는 시클리컬(경기순환) 상품이 아니라, 고객사(엔비디아 등)의 칩 일정에 맞춰 맞춤형으로 생산되는 고부가가치 제품입니다.

따라서 단순히 반도체 업황이 좋다 나쁘다를 떠나서, 해당 기업이 "엔비디아나 AMD의 최신 칩 라인업에 제때 수율을 맞춰 납품 승인을 받아냈는가"를 팩트 기반으로 체크해야 합니다. 만약 수율 확보에 실패해 공급 일정이 한두 분기만 밀려도 주가와 시장 점유율이 무섭게 요동치는 구조적 특성을 지니고 있기 때문입니다. 테크 뉴스의 표면적인 단어보다 '수율'과 '고객사 타임라인'이라는 본질을 읽는 눈이 필요한 이유입니다.