IT용어

HBM (High Bandwidth Memory)

미니임 2026. 3. 10. 12:09

1. 개요 (Overview)

**HBM(고대역폭 메모리)**은 여러 개의 D램 칩을 수직으로 쌓아 올려 데이터 전송 속도를 혁신적으로 높인 고성능 메모리입니다. 기존 GDDR(Graphic DDR) 계열의 메모리가 가진 물리적 한계(공간 차지, 전력 소모, 대역폭 제한)를 극복하기 위해 개발되었으며, 주로 GPU(그래픽 처리 장치)와 같은 고성능 프로세서 바로 옆에 배치되어 '데이터 병목 현상'을 해결하는 역할을 합니다.

2. 핵심 기술 스택 (Tech Stack)

HBM의 성능을 가능하게 하는 핵심 제조 공정 및 기술은 다음과 같습니다.

  • TSV (Through Silicon Via, 실리콘 관통 전극):
    • D램 칩에 수천 개의 미세한 구멍을 뚫어 상하층 칩을 전극으로 직접 연결하는 기술입니다. 기존의 와이어 본딩 방식보다 데이터 전송 경로가 짧아져 속도가 빠르고 소비 전력이 낮습니다.
  • TC-NCF / MR-MUF (접합 기술):
    • TC-NCF (Thermal Compression Non-Conductive Film): 칩 사이에 비도전성 필름을 넣고 열과 압력을 가해 붙이는 방식 (삼성전자 주력).
    • MR-MUF (Mass Reflow Molded Underfill): 칩을 쌓은 후 액체 형태의 보호재를 채워 굳히는 방식. 방열 특성이 우수함 (SK하이닉스 주력).
  • Silicon Interposer (실리콘 인터포저):
    • GPU와 HBM을 물리적으로 연결해주는 중간 기판입니다. 매우 미세한 회로를 통해 데이터를 초고속으로 주고받을 수 있게 합니다.
  • HBM Base Die (로직 다이):
    • 적층된 D램의 맨 아래층에 위치하여 메모리 컨트롤러와 소통하고 전체적인 데이터를 제어하는 로직 층입니다.

3. 주요 특징 (Characteristics)

  1. 초고대역폭 (High Bandwidth): 수천 개의 데이터 통로(I/O)를 통해 기존 GDDR5 대비 10배 이상의 대역폭을 제공합니다.
  2. 저전력 소비 (Low Power): 데이터 전송 경로가 짧고 작동 전압이 낮아 데이터 처리량 대비 전력 효율이 매우 높습니다.
  3. 공간 효율성 (Form Factor): 수평이 아닌 수직으로 쌓기 때문에 PCB 위에서 차지하는 면적을 획기적으로 줄여 시스템 소형화가 가능합니다.
  4. 확장성: 8단(8H), 12단(12H)을 넘어 최근에는 16단 이상의 적층 기술이 개발되고 있습니다.

4. 세대별 발전 현황

HBM은 기술의 발전에 따라 세대가 구분됩니다.

  • HBM1: 최초의 도입 (AMD GPU 등).
  • HBM2 / HBM2E: 엔비디아 V100, A100 등 기업용 서버 시장 진입.
  • HBM3: 초당 $819GB$ 이상의 대역폭 실현.
  • HBM3E: 현재 주력 제품. 초당 $1.2TB$ 이상의 속도를 내며 AI 가속기(H100, B200 등)에 필수 탑재.
  • HBM4: 2025~2026년 양산 예정. 베이스 다이에 파운드리 공정을 도입하여 맞춤형(Custom) HBM 시대를 열 것으로 기대됨.

5. 활용 사례 (Use Cases)

  • AI 및 딥러닝 (Generative AI): ChatGPT와 같은 생성형 AI 모델을 학습시키고 추론하기 위한 GPU(NVIDIA H100 등)의 전용 메모리로 사용됩니다.
  • HPC (High-Performance Computing): 기상 예측, 분자 모델링 등 방대한 데이터를 처리해야 하는 슈퍼컴퓨터.
  • 네트워크 장비: 고성능 라우터 및 스위치에서 급증하는 트래픽 데이터를 지연 없이 처리하기 위해 활용됩니다.
  • 자율주행: 차량 내부에서 대량의 센서 데이터를 실시간으로 분석해야 하는 고성능 전장 시스템.

6. 향후 전망 및 과제

  • 수율 및 비용: 공정이 매우 복잡하여 일반 D램보다 생산 비용이 3~5배 비싸며, 높은 수율을 확보하는 것이 경쟁력의 핵심입니다.
  • 발열 관리: 칩을 수직으로 쌓기 때문에 내부 열을 방출하는 것이 기술적 난제입니다. 이를 해결하기 위한 하이브리드 본딩(Hybrid Bonding) 기술이 연구되고 있습니다.
  • 맞춤형 HB
반응형