HBM 반도체는 기존의 메모리 반도체와 비교하여 많은 차이점을 가지고 있습니다. HBM은 고성능 컴퓨팅 시장을 타깃으로 개발된 차세대 메모리 반도체로 엔비디아의 고성능 AI 용 GPU 등에 탑재되고 있습니다. 기존의 메모리 반도체와의 차이점과 HBM 생산 공정에서 주목받을만한 기술 및 반도체 장비에 대해 알아보겠습니다.
HBM이란?
HBM(High Bandwidth Memory)은 고성능 컴퓨터 시스템 및 그래픽 처리에 사용되는 최신 반도체 메모리 기술로, 대역폭, 용량 및 전력 효율성 면에서 개선되었습니다. 3D 적층 기술을 적용하여 한층 빠른 데이터 전송과 저전력 소비를 통해 높은 성능을 제공합니다. HBM은 주로 AI(인공지능)과 같은 대량의 데이터 처리와 고해상도 그래픽, 과학 및 기술 분야의 계산에 필요한 고성능 시스템에서 사용됩니다.
HBM과 기존 D램 비교
▶ 3D 적층 기술
HBM은 3D 적층 기술을 사용하여 다수의 D램 칩을 수직으로 적층시킵니다. 이는 칩 간의 짧은 전기적 연결과 통신 경로를 제공하며, 높은 대역폭과 저지연 시간을 가능하게 합니다. 기존 D램은 평면 구조로 연결되어 있으며, 연결 경로가 더 길어질 수 있습니다.
▶ 대역폭
HBM은 고대역폭 메모리로 알려져 있습니다. HBM은 여러 개의 독립적인 채널을 가지고 있으며, 각 채널은 동시에 데이터를 전송할 수 있습니다. 이는 데이터 전송 속도를 크게 향상시키고, 처리량과 성능을 향상시킵니다. 기존 D램은 단일 채널 구조를 가지며, 한 번에 하나의 연산만 처리할 수 있습니다. HBM의 대역폭은 DDR5의 약 15배 수준의 대역폭을 나타내는 것으로 알려져 있습니다.
▶ 전력 효율성
HBM은 저전력 소비를 위해 설계되었습니다. 3D 적층 구조는 짧은 연결 길이와 효율적인 데이터 이동을 제공하여 전력 소비를 줄입니다. 이는 HBM이 기존 D램보다 더 효율적으로 작동할 수 있도록 합니다.
▶ 용량
HBM의 용량은 가장 최근 출시된 HBM3 기준 24GB 수준으로 일반적인 D램(DDR5 → 최대 512GB) 대비 비교적 작은 용량을 가집니다. 하나의 HBM 스택은 일반적으로 여러 개의 DRAM 칩으로 구성되며, 용량이 제한될 수 있습니다. 반면에 기존 D램은 단일 칩으로 더 큰 용량을 제공할 수 있습니다. 하지만 엔비디아의 GPU와 같은 고성능 그래픽 칩에 탑재된다는 점을 감안하면 얘기가 다릅니다. 기존에 GPU용 메모리로 주로 사용되었던 GDDR6의 경우, 칩 당 용량은 2GB로 통상 GPU에 12개가 탑재된다고 가정시, 총 용량은 24GB이며 HBM의 경우 GPU에 4개가 탑재되어 총 용량은 96GB에 이릅니다. 기존 GDDR6대비 4배 수준의 용량을 확보할 수 있게됩니다.
HBM 공정에서 주목 해야 할 기술 및 장비
▶ 적층 기술 관련 장비
HBM은 다수의 D램 칩을 수직으로 적층시키는 3D 구조를 가지고 있습니다. 이를 위해 필요한 장비로는 칩 스택 구성을 도와주는 웨이퍼 본딩 및 스택 인터커넥트 공정에 사용되는 본딩 장비가 있습니다.
▶ TSV (Through-Silicon Via)
TSV는 칩 스택을 연결하는 데 사용되는 기술로, 각 층 사이를 연결하기 위해 칩 내부에 수직으로 구멍을 뚫는 역할을 합니다. TSV 공정에는 TSV 에칭 장비 등이 사용됩니다.
▶ 인터커넥트 기술
HBM은 칩 스택 간의 통신을 위해 인터커넥트 기술을 사용합니다. 이에는 전달 선, 스위치, 라우팅 및 인터커넥트 장비가 포함될 수 있습니다.
▶ 특수 패키징 기술
HBM 메모리는 일반적으로 그래픽 카드와 같은 고성능 장치에 사용됩니다. 따라서 HBM 생산에는 고밀도와 열 효율성을 제공하는 특수한 패키징 기술이 사용될 수 있습니다. 이에는 고밀도 기판, 열 관리 솔루션, 인터포저 및 패키지 장비 등이 포함될 수 있습니다.