왜 HBM을 연결해서 읽을까
HBM이라는 단어만 외우면 다음 뉴스에서 또 막힙니다. DRAM을 어떻게 쌓는지, 쌓은 칩을 어떻게 연결하는지, 그 과정에서 열과 높이를 어떻게 다루는지까지 이어서 보면 기업이 어떤 기술을 강조하는지도 이해할 수 있습니다.
이 글은 HBM3E를 중심으로 공개된 기술 설명을 연결한 학습 사례입니다. 최신 제품 전체의 경쟁 순위를 매기는 글은 아닙니다. 기술 선택은 회사와 제품 세대에 따라 달라질 수 있습니다.
DRAM을 쌓고, 층 사이를 연결한다
DRAM은 데이터를 저장하는 메모리입니다. HBM은 여러 DRAM 칩을 수직으로 쌓고 연결한 고대역폭 메모리입니다. 대역폭은 단위 시간에 옮길 수 있는 데이터의 양입니다. 많이 저장하는 용량과 빠르게 옮기는 대역폭은 구별해야 합니다.
다음은 기존 위키의 구조 개념도입니다. 층수와 치수는 실제 제품을 재현하지 않습니다.
TSV는 실리콘 칩을 관통하는 수직 전기 연결입니다. 칩과 칩의 접합면에서는 작은 돌기인 마이크로범프가 연결을 이어줍니다. 따라서 TSV와 범프를 같은 부품으로 취급하면 안 됩니다. 아래 공정 설명은 범프를 사용하는 접합을 다루며, 모든 미래 HBM의 접합 방식을 뜻하지 않습니다. S1: SK하이닉스 기술 설명
여기까지 읽으면 질문이 바뀝니다. ‘HBM은 무엇인가?’에서 **‘연결 지점을 어떻게 붙이고 보호하는가?’**로 넘어갑니다.
쌓는 방식이 접합과 방열 문제로 이어진다
적층한 칩은 안정적으로 접합되어야 하고 칩 사이의 틈도 보호되어야 합니다. SK하이닉스는 얇은 칩의 휨과 적층 제품의 열 관리를 패키징 기술의 과제로 설명합니다. 그래서 패키징은 완성된 칩을 단순히 포장하는 단계보다 넓은 역할을 갖습니다. S1
MR-MUF는 적층 칩의 범프를 리플로 방식으로 연결하고, 틈을 몰딩 재료로 채우는 방식입니다. SK하이닉스는 HBM2E·HBM3·HBM3E에 적용한 기술 설명에서 방열 재료와 일괄 접합의 장점을 강조합니다. 이는 해당 회사가 발표한 기술 설명이며 독립적인 기업 간 성능 시험 결과는 아닙니다. S1
TC-NCF는 비전도성 필름을 사용하는 열압착 접합 방식입니다. 삼성전자는 2024년 HBM3E 12H 발표에서 Advanced TC-NCF로 12단 제품을 8단 제품과 같은 높이 규격에 맞췄다고 설명했습니다. 신호용과 방열용 범프의 크기를 구별하는 배치가 열 특성과 수율 개선에 도움이 된다고도 밝혔습니다. S2: 삼성전자 발표
기업별 차이는 같은 질문으로 비교한다
| 비교 질문 | SK하이닉스의 해당 기술 설명 | 삼성전자의 2024년 HBM3E 12H 발표 |
|---|---|---|
| 어떤 방식으로 붙이나 | MR-MUF, 범프 리플로와 몰딩 | Advanced TC-NCF, 필름을 이용한 열압착 |
| 무엇을 개선하려 하나 | 방열, 칩 보호, 적층 칩의 변형 문제 | 적층 높이, 칩 간격, 열 특성, 수율 |
| 무엇까지 알 수 있나 | 공개된 공정 개념과 회사가 설명하는 장점 | 공개된 공정 개념과 회사가 설명하는 장점 |
| 무엇은 판정하지 않나 | 미공개 수율, 다른 회사 대비 실제 우열 | 미공개 수율, 다른 회사 대비 실제 우열 |
수율은 제조한 제품 중 기준을 만족하는 제품의 비율입니다. ‘수율을 개선하는 방법을 발표했다’와 ‘경쟁사보다 수율이 높다’는 서로 다른 주장입니다. 이 글은 전자만 다룹니다. 위 표는 회사·제품·발표 시점을 제한한 비교이며 모든 세대에 적용하지 않습니다. S1, S2
AI 가속기는 왜 HBM을 사용하는가
NVIDIA H200은 HBM3e를 탑재하며 공개 사양은 용량 141GB, 메모리 대역폭 4.8TB/s입니다. NVIDIA는 늘어난 용량과 대역폭을 대규모 언어 모델 및 생성형 AI 처리에 연결해 설명합니다. S3: NVIDIA H200
이 사례에서 읽을 수 있는 연결은 AI 가속기의 메모리 요구 → HBM의 용량과 대역폭 → 이를 구현하는 메모리·패키징 기술입니다. 이 설명은 제품 사양에 근거한 해석입니다. 특정 시점의 구매 경쟁, 계약 규모나 공급사 선정 이유까지 증명하지는 않습니다.
뉴스에서 ‘12단’을 보면 용량과 높이 규격을, ‘새 접합 기술’을 보면 접합과 방열 문제를, ‘AI 가속기’를 보면 용량과 대역폭 요구를 함께 찾아보세요. 이 질문들이 단어 사이의 연결을 만듭니다.
이어서 읽기와 근거
- 반도체 용어 사전의 HBM: 출발점인 용어 설명과 수집된 기사.
- 반도체 지식 지도: 제조 과정과 제품 종류에서 HBM의 위치.
- AI 지식 지도: HBM이 사용되는 AI 분야로 이동.
공식 발표에서 확인한 내용과 이 글의 설명을 구별했습니다. 과거 발표의 개발·샘플 계획을 현재 양산 상태로 바꾸지 않았습니다. 공개되지 않은 기업별 수율은 포함하지 않았습니다. 근거 링크가 없어지면 해당 주장을 재확인 대상으로 다룹니다.