고대역폭 메모리 HBM 관련 최근 메모리반도체 빅3인 삼성전자, SK하이닉스, 마이크론이 5세대 제품인 HBM3E를 대량 양산한다는 소식이 연달아 나오고 있습니다. HBM은 최근 그래픽 카드, GPU, AI 프로세서 등 다양한 분야에 사용되는 아주 중요한 것인데요, 사실 반도체에 대해 잘 모르면 낯설게 다가오는 용어이기도 합니다.
그래서 HBM이 무엇인지, 각 용어의 의미와 개발 연혁 등에 대해 정리해 보겠습니다.
조금만 집중해서 읽어보시면 아주 쉽게 이해하실 수 있으니 같이 알아보시죠!
최근 뉴스
세 개의 기사는 모두 차세대 고대역폭메모리(HBM3E)의 개발과 양산에 초점을 맞추고 있으며, 삼성전자, SK하이닉스, 마이크론 세 회사 간의 경쟁 구도를 다루고 있습니다.
첫 번째 기사에서는 삼성전자가 12단 HBM3E를 개발한 것에 대해 언급하고 있습니다. 삼성전자는 이를 통해 HBM3 8단 대비 50% 이상 성능이 개선된 제품을 제공하며, 고객사에 상반기 내 양산을 시작할 계획이라고 발표했습니다.
두 번째 기사는 SK하이닉스가 3월에 세계 최초로 5세대 HBM3E 양산을 시작한다는 내용을 다루고 있습니다. SK하이닉스는 이를 통해 글로벌 HBM 시장에서의 리더십을 강화하고, 주요 고객사인 엔비디아에 초도 물량을 공급할 계획입니다.
이 제품은 엔비디아가 올해 2분기 말 또는 3분기 초 출시할 예정인 차세대 AI(인공지능)용 GPU(그래픽처리장치) B100에 들어갈 예정이라고 합니다.
마지막으로, 세 번째 기사는 마이크론이 HBM3E를 대량 생산한다고 발표한 내용을 다루고 있습니다. 마이크론은 8단 D램을 적층하여 24GB 용량을 구현했으며, 이는 전력 효율 면에서 경쟁사 대비 30% 우수하다고 강조하고 있습니다.
이 제품은 엔비디아가 2분기 출시 예정인 H200 텐서 코어 그래픽처리장치(GPU)에 탑재되는 것으로 알려졌습니다.
HBM이란?
이 용어는 High Bandwidth Memory의 약자로서 고대역폭 메모리를 의미합니다. 책을 여러 권 쌓아 올리듯이 DRAM 칩을 수직으로 쌓아 올리는 3D 스택 메모리 기술을 사용하여, 단일 평면 위에 메모리 칩을 배치하는 기존의 2D 플랫 메모리보다 훨씬 더 높은 데이터 전송 속도와 대역폭을 제공합니다.
*DRAM
Dynamic Random Access Memory의 약자이며, 가장 일반적으로 사용되는 형태의 랜덤 액세스 메모리(RAM)입니다. 컴퓨터, 스마트폰, 게임 콘솔 등 다양한 전자 기기에서 데이터를 일시적으로 저장하고 처리하는 데 사용됩니다.
DRAM은 그 특성상 전원이 공급되는 동안에만 데이터를 유지할 수 있으며, 전원이 꺼지면 저장된 정보를 잃어버리는 휘발성 메모리입니다.
*대역폭
컴퓨터나 전자기기가 일정 시간 동안 얼마나 많은 데이터를 처리할 수 있는지를 나타내는 용어로서, 고대역폭은 데이터를 전송하는 너비 또는 속도가 매우 높다는 뜻입니다.
HBM 개발 연혁
HBM은 아래 이미지와 같은 순서로 개발되었습니다. 최근 출시 제품이 5세대가 됩니다.
- HBM 기술은 대역폭이 넓은 메모리 솔루션을 필요로 하는 고성능 컴퓨팅 시장의 수요에 부응하기 위해 개발되었습니다. 이 기술은 기존의 GDDR(Graphics Double Data Rate) 메모리보다 더 높은 대역폭과 에너지 효율을 제공하는 것을 목표로 했습니다.
- HBM의 첫 번째 버전인 HBM1은 2013년경에 소개되었습니다. 2Gb 용량의 다층 DRAM 층을 수직으로 적층했고 대역폭은 128GB/s입니다. 주로 고성능 그래픽 카드에서 사용되었으며, AMD의 피지(Fiji) GPU에 처음 도입되었습니다.
- 두 번째 세대인 HBM2는 2016년경에 시장에 출시되었습니다. 레이어당 최대 8Gb 용량을 지원하여 전체적으로 더 많은 데이터를 저장할 수 있게 되었고, 1세대에 비해 두 배 높은 최대 256GB/s의 대역폭을 제공하며 메모리 용량도 증가시켰습니다.
- 2세대의 확장 버전인 HBM2E는 2019년경에 출시 했고, 레이어당 최대 16Gb 용량과 최대 460GB/s 이상의 대역폭을 제공하였습니다. 주로 인공 지능(AI), 머신 러닝, 고성능 컴퓨팅 분야에 사용되었습니다.
- HBM3는 2020년대 초에 등장했으며, 레이어당 최대 16Gb 이상의 용량을 지원하며, 대역폭은 HBM2 대비 크게 향상되어 최대 512GB/s 이상을 제공할 수 있습니다. 데이터 센터, 고성능 컴퓨팅, 그리고 고급 그래픽 처리가 요구되는 어플리케이션에 주로 사용되었습니다.
- HBM3E는 HBM3의 확장 버전으로, 레이어당 용량을 더욱 늘려 최대 24Gb 이상을 지원할 수 있으며, 대역폭은 1TB/s에 근접하거나 이를 초과할 수 있습니다. 이는 최신 GPU, 고성능 서버, 그리고 대규모 데이터 처리가 필요한 시스템에 필요한 메모리 솔루션이 될 예정입니다.
레이어당 용량과 총 대역폭
위의 내용을 읽으시면서 느끼셨을 텐데, HBM의 성능은 결국 레이어당 용량과 대역폭에 의해 결정됩니다. 각각의 용어와 상관관계에 대해 정리해 보겠습니다.
레이어당 용량
HBM 메모리는 여러 개의 DRAM 층(레이어)을 수직으로 쌓아 올린 구조입니다. “레이어당 용량”은 바로 각 층에 저장할 수 있는 데이터의 양을 의미합니다.
예를 들어, 한 레이어가 8Gb(기가비트)의 데이터를 저장할 수 있다면, 이는 그 층의 용량을 나타냅니다. 레이어당 용량이 크면 클수록 같은 물리적 크기의 메모리 칩에서 더 많은 데이터를 저장할 수 있습니다.
총 대역폭
위에서 잠시 설명해 드렸듯이 대역폭은 메모리가 얼마나 빠르게 데이터를 읽고 쓸 수 있는지를 나타내는 지표인데, “총대역폭”은 메모리 인터페이스 전체를 통해 한 번에 전송할 수 있는 최대 데이터양을 의미하며, 보통 GB/s(기가바이트/초) 단위로 표현됩니다.
높은 대역폭은 메모리가 CPU나 GPU와 더 많은 데이터를 빠르게 주고받을 수 있게 해줍니다.
상관 관계
레이어당 용량과 총 대역폭은 서로 다른 특성을 나타내지만, HBM 메모리의 전체 성능과 효율성을 결정하는 데 있어 상호 연관된 관계를 가지고 있습니다.
- 레이어당 용량은 메모리가 저장할 수 있는 데이터의 양을 결정하며, 총대역폭은 그 데이터를 얼마나 빠르게 전송할 수 있는지를 나타냅니다. 즉, 레이어당 용량이 높은 메모리는 더 많은 데이터를 저장할 수 있지만, 이 데이터를 효율적으로 처리하려면 충분히 높은 대역폭이 필요합니다.
- 높은 레이어당 용량을 갖춘 메모리는 이론적으로 더 많은 정보를 저장할 수 있지만, 이 정보를 처리하고 접근하는 속도는 총대역폭에 의해 제한됩니다. 따라서, 메모리의 레이어당 용량과 총대역폭은 서로 균형을 이뤄야 최적의 성능을 발휘할 수 있습니다.
- 특정 애플리케이션은 높은 용량의 메모리를 필요로 하면서도 동시에 빠른 데이터 전송 속도를 요구할 수 있습니다. 예를 들어, 고해상도 그래픽 처리나 대규모 데이터베이스 작업은 높은 레이어당 용량과 높은 대역폭을 모두 필요로 합니다. 이 경우, 두 특성이 서로를 보완하여 전체 시스템의 효율성과 성능을 향상시키는 역할을 합니다.
쉽게 설명하면, 좋은 HBM 메모리는 레이어당 용량과 대역폭의 어느 한쪽만 우수해서는 제 성능을 발휘하지 못하므로 균형 있는 특성을 가져야 합니다.
*비트(Bit)
‘이진 숫자’라는 뜻의 ‘binary digit’의 줄임말입니다. 데이터의 가장 작은 단위로서 0 또는 1의 값을 가질 수 있으며, 데이터 전송 속도나 네트워크 속도 등은 종종 비트 단위로 측정됩니다(예: Mbps, Gbps).
*바이트(Byte)
8개의 비트로 구성됩니다. 컴퓨터 메모리와 저장 공간에서 데이터양을 나타내는 데 흔히 사용됩니다. (예: MB, GB, TB)
컴퓨터에서 데이터를 표현하는 데 일반적으로 사용되는 기본 단위이며 예를 들어, 텍스트 문자 하나를 저장하기 위해 일반적으로 1바이트(8비트)가 사용됩니다.
HBM 활용 분야
주로 고성능 컴퓨팅을 필요로 하는 다양한 분야에서 사용하는데, 대표적인 용도는 아래와 같습니다.
- 고성능 그래픽 카드와 GPU에서 주로 사용됩니다. 예를 들어, AMD의 라데온 시리즈 그래픽 카드는 이 기술을 사용하여 높은 해상도와 복잡한 그래픽 처리를 필요로 하는 게임과 프로페셔널 그래픽 작업에서 뛰어난 성능을 제공하고 있습니다..
- AI와 머신 러닝 모델은 대규모 데이터 세트를 학습하고 처리할 때 상당한 양의 메모리 대역폭을 요구하는데, 이 칩을 사용하여 더 빠른 데이터 액세스를 제공하여, 머신 러닝 작업의 효율성을 높이고 학습 시간을 단축합니다.
- 고성능 네트워크 스위치나 라우터와 같은 장비는 대량의 데이터를 신속하게 처리하고 전송해야 합니다. HBM은 이러한 네트워크 장비에서 데이터 처리 속도를 향상시킬 수 있으며, 네트워크 트래픽의 지연 시간을 줄이고 처리량을 증가시킵니다.
- 고급 운전자 지원 시스템(ADAS)과 자율 주행 차량에서는 대량의 센서 데이터를 실시간으로 처리해야 합니다. HBM은 이러한 시스템에서 빠른 데이터 처리를 가능하게 하여, 차량이 주변 환경을 신속하게 인식하고 반응할 수 있도록 지원합니다.
HBM의 기술 수준이 발전할수록 위의 분야도 함께 발전 하고, 더불어 우리에게 더 많은 편의를 제공해 줄 수 있을 것 같습니다.
시장 전망과 글 마무리
AI와 자율주행, 게임, 네트워크와 같은 기술이 고도로 발전할수록 더 우수한 성능을 가진 HBM이 필요합니다. 위의 뉴스에서 보듯이 이미 메모리 반도체 빅3는 기술 개발에 사활을 걸고 있고, 그에 따라 시장 규모는 계속하여 커져 갈 것입니다.
앞으로도 우리는 각종 매체에서 HBM이라는 용어를 자주 접하게 될 텐데, 나와 아무 관련이 없다며 무관심으로 대하시는 것 보다는, 위의 내용을 참고하여 이 메모리 칩이 어떤 것인지 이해해 두신다면 1가지 상식을 더할 수 있을 것 같습니다.
그럼 읽어주셔서 감사합니다.
