차세대 메모리 HBM과 그 다음은?

작년 하반기부터 반도체 재고가 쌓인다며, 수요 정체 관련 뉴스 기사가 나오가 시작했다. 현재 메모리 반도체 시장 상황은 어떨까? 역시나 좋지 않다.

 

*메모리 반도체에 대해 자세히 알고 싶다면? 아래 링크 클릭! ↓↓

https://simguani.tistory.com/29

시스템 반도체와 메모리 반도체

 

아래 IDC의 메모리 시장 자료를 보면 21년부터 26년 까지는 큰 성장을 보이지 않고 있다. PC나 스마트폰 등 IT 시장에서의 수요 감소로 메모리 다운사이클이 2025년까지 지속된 후에 반등이 일어날 것이라고 전망하고 있다.


또한 메모리 제조업체들의 재고가 급격히 증가하면서 D램과 낸드 가격이 연간 10~20%대로 지속 하락할 것이며, 특히 낸드 시장은 주요 경쟁업체가 D램에 비해 더 많아 이러한 현상이 더 심화될 것이라고 설명한다.

IDC, 디일렉

메모리 반도체 선도 기업인 삼성과 SK하이닉스의 실적도 좋지는 않은 상황이다. 삼성의 반도체 부문 매출은
98조 4600억 원을 기록했으나 영업이익은 23조 8200억 원으로 전년보다 감소했다. 또한 지난해 삼성전자의 4분기 실적은 연결 기준으로 매출 70조 4600억 원, 영업이익 4조 3100억 원을 기록했다. 매출은 3분기 대비 8.2% 감소, 영업이익은 전분기 대비 6.55% 감소했다.


SK하이닉스는 지난해 매출 44조 6481억 원, 영업이익 7조 66억 원을 기록했고, 수요 부진과 제품가 하락으로 4분기에는 10년 만에 영업손실을 봤다. 4분기 매출 7조 6986억 원, 영업손실 1조 7012억 원 (영업손실률 22%), 순손실 3조 5235억 원 (순손실률 46%)을 냈다.


이렇게 안 좋은 시장 상황에서도 기술 개발을 계속 이루어지고 있다. 시장을 성장시킬만한 새로운 기술이나 사용처가 필요하다. 기존 메모리 시장의 주를 이었던 것은 디램과 낸드플래시인데, 시장에 불을 지필수 있는 차세대 메모리에 대해 알아보자.

차세대 메모리, HBM

HBM (SK하이닉스)

HBM은 High Bandwidth Memory로서 기존 디램 대비 고성능 메모리이다. 여러 개의 디램 칩을 아래와 같이 수직으로 쌓아 실장하고 기판 없이 패키징 하는 실리콘 레벨의 메모리 반도체이다. 아래를 보면 HBM을 구성하는 DRAM die  (칩)와 맨 아래의 Base die는 TSV 공정을 통해 연결되었다. TSV는 Through Silicon Via의 약자로, Silicon die에 구멍을 낸 후 도금을 하여 칩들을 수직으로 쌓았을 때 전기적으로 연결시키는 기술이다.

HBM과 2.5D 패키지 구조 (AMD)

HBM은 칩을 수직으로 쌓기 때문이 기존 DRAM에 비해 공간 확보가 가능하다. 또한 기존 방식 대비 신호 전달 속도가 빠르고, 집적도(Density)가 높아 칩 간 연결된 거리가 매우 짧기 때문에 성능 차이가 날 수밖에 없다.

DRAM과 HBM 비교 (AMD)

챗GPT 구동에 사용되는 엔비디아의 A100 칩에도 HBM이 들어간다. 아래와 같이 초록색 기판 위에 큰 GPU die 옆에 HBM 6개가 실장 되어있다. 사실 챗GPT가 이슈화되기 전부터 HBM은 주로 서버용이나 HPC 등 고성능 칩과 함께 사용되고 있었다. 그런데 챗GPT에 HBM이 사용된다는 사실이 널리 퍼지면서 HBM을 제대로 홍보해 주며, HBM을 생산하는 기업인 삼성과 SK하이닉스도 관련주로 거론됐었다.

NVIDIA A100

 

반응형

HBM의 단점

1. 비싼 가격
가장 큰 단점은 가격이다. 성능은 뛰어나지만 공정이 복잡하고 ASP (평균판매가)가 D램의 최소 3배 이상이다. 이전 세대 제품인 HBM2은 16Gb(기가비트) D램 기준으로 최신 제품의 2배 이상이고, SK하이닉스가 엔비디아 등에 공급하는 HBM3은 최대 5배까지 가격이 치솟은 것으로 알려졌다.


2. 발열 문제
열이 많이 발생하고, 열 방출이 원활하지 않다는 것이다. DRAM die를 수직으로 쌓은 구조이기 때문에 Die에서 발생하는 열을 배출하는데 제약이 있다.

일반적인 반도체 패키지의 열 방출 방식은 PC의 CPU응 뜯어보면 알 수 있듯이 Thermal grease와 같은 점도 있는 재료를 Die 위에 뿌리고 Heat sink 등을 붙이는 식이다. 그러나 HBM이 사용되는 고성능 패키지 칩 중 일부는 로직 Die와 함께 열이 너무 많이 발생해서 물에 담그는 방식으로도 냉각을 한다고 한다.

HBM이 주력 메모리가 될까?

현재까지는 기존 DRAM의 시장 규모가 주를 이룬다. HBM은 고성능 칩에만 적용되고 있어 주력 메모리는 아니다. HBM이 메모리 시장을 이끄는 주력 메모리가 되려면 앞서 말한 가격이나 열 방출 관련 문제를 해결하기 위한 기술 개발이 계속 이루어져야 할 것이다. HBM이 주가 될지 아니면 또 다른 새로운 메모리가 생겨나 주를 이룰지 지켜볼 필요가 있다.


관련해서 삼성과 SK하이닉스는 HBM 다음 세대 메모리를 계속 개발 중이다. 대표적으로는 PIM (Processing In Memory)가 있고, 이외에도 미래 상용화될 수 있는 메모리 기술로 SCM (Storage Class Memory), ACiM (Accelerator In Memory)등이 있다.

PIM 구조 (SK하이닉스)

이들의 컨셉은 유사하다. 기존에는 CPU나 GPU등과 별도로 메모리를 구성했는데, 이제 메모리 안에도 연산을 하는 Processing unit을 넣어 컴퓨팅과 메모리의 경계를 없애는 것이다. 데이터가 계속 많아지다 보니 CPU가 처리할 일이 많아지는데, 메모리가 부담을 덜어주는 것이다. 이 부분은 다음번에 자세히 다뤄봐야겠다.