HBM 생산 공정에서 TSV 기술이 중요한 이유
최근 AI 산업의 성장과 함께 HBM(High Bandwidth Memory)은 반도체 시장에서 가장 주목받는 기술 중 하나가 되었습니다. 특히 생성형 AI와 대규모 언어모델(LLM)의 등장으로 엔비디아 GPU 수요가 폭발적으로 증가하면서 HBM 시장도 빠르게 성장하고 있습니다.
현재 AI 반도체 시장에서 HBM은 사실상 필수 부품으로 자리 잡았습니다. 삼성전자, SK하이닉스, 마이크론 등 글로벌 메모리 기업들이 HBM 생산 경쟁에 뛰어들고 있는 이유도 여기에 있습니다.
그런데 HBM을 이해하기 위해서는 반드시 알아야 하는 기술이 있습니다. 바로 TSV(Through Silicon Via) 기술입니다. 업계에서는 “TSV 없이는 HBM도 없다”는 표현을 사용할 정도로 중요한 기술로 평가받고 있습니다.
일반 소비자들에게는 다소 생소한 용어일 수 있지만, 실제로 HBM 성능과 생산성을 결정하는 핵심 기술 중 하나가 TSV입니다. 이번 글에서는 TSV 기술이 무엇인지, 왜 HBM 생산 공정에서 중요한지, 그리고 앞으로 어떤 방향으로 발전할 가능성이 있는지 쉽게 설명해 보겠습니다.
HBM이 기존 DRAM과 다른 이유
먼저 HBM과 일반 DRAM의 차이를 이해할 필요가 있습니다.
우리가 흔히 사용하는 PC용 메모리나 서버용 메모리는 대부분 평면 구조를 사용합니다. 쉽게 말하면 메모리 칩을 옆으로 배치하는 방식입니다.
반면 HBM은 완전히 다른 구조를 가지고 있습니다.
HBM은 여러 개의 DRAM 칩을 수직으로 쌓아 올리는 적층(Stacking) 구조를 사용합니다.
현재 사용되는 HBM3E 제품은 8단 또는 12단 적층 구조를 사용하고 있으며, 향후 HBM4와 HBM5에서는 더 많은 층이 사용될 가능성이 높습니다.
이러한 적층 구조를 구현하기 위해 반드시 필요한 기술이 바로 TSV입니다.
TSV란 무엇인가
TSV는 Through Silicon Via의 약자입니다.
직역하면 실리콘을 관통하는 통로라는 의미입니다.
기존 반도체는 칩 가장자리에 연결선을 배치하는 방식이 일반적이었습니다.
하지만 HBM처럼 여러 개의 칩을 수직으로 쌓으려면 각 층이 서로 직접 연결되어야 합니다.
TSV는 이 문제를 해결하기 위해 등장했습니다.
실리콘 칩 내부에 매우 작은 구멍을 만들고, 그 안을 구리(Copper)와 같은 전도성 물질로 채워 전기 신호가 이동할 수 있도록 만드는 기술입니다.
쉽게 설명하면 건물 각 층을 연결하는 엘리베이터 통로와 비슷한 개념입니다.
TSV가 왜 필요한가
만약 TSV 기술이 없다면 HBM 적층 구조를 구현하기 어렵습니다.
메모리 칩을 단순히 쌓기만 하면 데이터가 이동할 수 없기 때문입니다.
HBM은 각 층에 저장된 데이터를 GPU로 전달해야 합니다.
이 과정에서 TSV는 데이터가 이동하는 고속 통로 역할을 담당합니다.
수천 개 이상의 TSV가 하나의 HBM 스택 내부에 존재하며, 이들을 통해 초고속 데이터 전송이 이루어집니다.
즉, TSV는 HBM 내부의 핵심 연결망이라고 볼 수 있습니다.
TSV가 HBM 성능을 높이는 이유
HBM이 AI 반도체 시장에서 주목받는 가장 큰 이유는 높은 대역폭(Bandwidth) 때문입니다.
대역폭은 데이터를 얼마나 많이 전송할 수 있는지를 의미합니다.
기존 DRAM은 데이터 이동 거리가 상대적으로 길기 때문에 속도 향상에 한계가 있었습니다.
하지만 HBM은 TSV를 활용해 각 메모리 층을 직접 연결합니다.
덕분에 데이터 이동 거리가 크게 줄어듭니다.
데이터가 이동하는 거리가 짧아지면 전송 속도는 빨라지고 전력 소비는 감소합니다.
결과적으로 AI 연산 성능도 향상됩니다.
이 때문에 엔비디아의 H100, H200, Blackwell GPU 모두 HBM을 사용하고 있습니다.
TSV 공정은 왜 어려울까
TSV는 개념만 보면 단순해 보일 수 있습니다.
하지만 실제 제조 과정은 매우 복잡합니다.
먼저 실리콘 웨이퍼에 매우 작은 구멍을 뚫어야 합니다.
이 구멍의 크기는 머리카락 굵기보다 훨씬 작습니다.
그리고 내부를 절연 처리한 후 구리를 채워 넣어야 합니다.
이 과정에서 아주 작은 오차만 발생해도 불량이 생길 수 있습니다.
특히 AI용 HBM은 품질 기준이 매우 높기 때문에 TSV 공정의 정밀도가 매우 중요합니다.
TSV와 수율의 관계
반도체 산업에서 가장 중요한 개념 중 하나가 수율(Yield)입니다.
수율은 생산된 제품 중 정상 제품 비율을 의미합니다.
HBM은 구조가 복잡하기 때문에 수율 확보가 쉽지 않습니다.
특히 TSV는 HBM 수율을 결정하는 핵심 요소입니다.
예를 들어 수천 개 TSV 중 단 하나라도 문제가 발생하면 전체 HBM 스택이 불량이 될 수 있습니다.
이 때문에 삼성전자와 SK하이닉스는 TSV 공정 기술 향상에 막대한 투자를 하고 있습니다.
결국 HBM 경쟁력은 성능보다 수율에서 결정된다는 말이 나오는 이유도 여기에 있습니다.
HBM 적층 수 증가와 TSV 기술 발전
현재 시장에서는 12단 HBM3E가 주목받고 있습니다.
하지만 AI 모델 규모가 커지면서 더 높은 용량의 메모리가 필요해지고 있습니다.
HBM4와 HBM5 시대에는 적층 수가 더욱 증가할 가능성이 높습니다.
적층 수가 많아질수록 TSV 수도 증가합니다.
즉, TSV 기술 난이도도 함께 높아집니다.
향후 HBM 경쟁은 단순히 적층 수 경쟁이 아니라 TSV 기술 경쟁이 될 가능성이 높습니다.
엔비디아가 TSV 기술을 중요하게 보는 이유
엔비디아는 HBM을 직접 생산하지는 않습니다.
하지만 GPU 성능을 극대화하기 위해 HBM 품질을 매우 중요하게 생각합니다.
HBM 품질은 결국 TSV 품질과 연결됩니다.
TSV 품질이 좋지 않으면 데이터 전송 속도가 떨어질 수 있고 발열 문제도 발생할 수 있습니다.
따라서 엔비디아는 HBM 공급 업체들에게 매우 높은 품질 기준을 요구하고 있습니다.
이 때문에 HBM 공급 기업들은 TSV 기술 경쟁력을 지속적으로 강화하고 있습니다.
TSV 이후의 차세대 기술은?
최근 반도체 업계에서는 하이브리드 본딩(Hybrid Bonding) 기술도 주목받고 있습니다.
하이브리드 본딩은 TSV와 함께 사용되거나 일부 구조를 대체할 가능성이 있는 차세대 연결 기술입니다.
또한 HBM4 이후에는 더욱 정밀한 적층 기술이 요구될 전망입니다.
하지만 당분간은 TSV가 HBM 생산의 핵심 기술로 자리 잡을 가능성이 높습니다.
마무리
HBM은 AI 시대를 대표하는 메모리 기술로 자리 잡았습니다. 하지만 HBM의 뛰어난 성능 뒤에는 TSV라는 핵심 기술이 존재합니다.
TSV는 단순한 연결 기술이 아니라 HBM 성능, 전력 효율, 수율, 생산성까지 결정하는 중요한 요소입니다. 특히 HBM4와 HBM5 시대가 다가오면서 TSV 기술의 중요성은 더욱 커질 것으로 예상됩니다.
앞으로 AI 반도체 시장을 이해하려면 GPU와 HBM뿐 아니라 TSV 기술까지 함께 살펴보는 것이 중요합니다. 결국 AI 시대의 경쟁력은 얼마나 빠르게 데이터를 이동시키고 안정적으로 처리할 수 있는지에 달려 있기 때문입니다.