차세대 AI 반도체로 주목 받는 ‘CXL·PIM’
엔비디아에 ‘HBM3E’ 8단·12단도 준비중
CXL 기반 2.0 D램 개발 성공...대역전 시도
초격차를 자랑하던 삼성전자가 때아닌 위기론에 휩싸였다. 불행은 한꺼번에 온다는 말처럼 징후는 곳곳에서 터져 나오고 있다. 돌이켜보면 위기는 이번이 처음이 아니었다. 이건희 선대회장 시절, 삼성은 ‘프랑크푸르트 선언’으로 대반전의 드라마를 썼다. 그렇기에 삼성에는 ‘위기극복’이라는 DNA가 숨어있을지 모른다. <인사이트코리아>는 6회에 걸쳐 ‘이재용의 신경영 시즌Ⅱ’ 시리즈를 기획한다. 국내외 각계 각층이 말하는 재도약의 해법을 제시한다.<편집자주>
[인사이트코리아 = 정서영 기자] ‘고대역폭메모리(HBM), 컴퓨트 익스프레스 링크(CXL), 프로세싱 인 메모리(PIM).’ 차세대 인공지능(AI) 반도체로 꼽히는 제품들이다. 반도체 업계가 이러한 제품에 주목하는 이유는 뭘까.
AI 수요가 늘어나면서 이를 수행할 반도체 기술이 중요해져서다. 국내 반도체 기업인 삼성전자는 이러한 상황에 발맞춰 신기술 확보에 주력하고 있다. 더욱이 삼성전자가 HBM 시장에서 우위를 점하지 못하고 있어 CXL이나 PIM 등 차세대 반도체 기술은 공을 들일 수밖에 없는 영역이다.
가장 먼저 차세대 AI 반도체로 떠오른 제품은 HBM이다. HBM의 중요도는 날로 갈수록 높아지고 있다. HBM은 고대역폭 메모리, D램 여러 개를 수직으로 쌓아 연결함으로써 데이터 처리 속도를 끌어올린 고성능 메모리 반도체다.
삼성전자는 현재 HBM 최대 고객사인 엔비디아에 5세대인 ‘HBM3E’ 8단의 납품이 임박한 상황이다. 12단도 품질 검증(퀄 테스트)을 진행 중이다. HBM은 몇 층을 쌓아올렸느냐에 따라 8단, 12단으로 구성된다. 더 쌓아올림으로써 처리 속도와 용량을 끌어올린 것이다.
다만 삼성전자는 해당 시장에서 경쟁사인 SK하이닉스에 밀리고 있다. SK하이닉스는 엔비디아에 HBM3E 8단에 이어 12단까지 먼저 공급했다. 여기에 내년 상반기 최고 사양인 48GB(기가바이트) 16단 제품 공급 계획까지 공식화했다. 젠슨 황 엔비디아 최고경영자(CEO)는 “HBM4를 빠르게 공급하라”고 SK하이닉스를 재촉하고 있다.
하지만 6세대인 HBM4는 또 다른 HBM 전쟁의 서막이 열릴 것이라는 관측이 우세하다. HBM4는 HBM을 컨트롤하는 로직다이를 생산하기 위해 파운드리 공정에 맡겨야 한다.
삼성전자는 내년 하반기 HBM4 양산을 목표로 하고 있다. 특히 삼성전자가 TSMC와의 협업 가능성을 열어둔 가운데 향후 TSMC가 공정을 맡게 되면 격차를 좁힐 여지가 있다는 분석이 나온다.
CXL, PIM…차세대 반도체 선점하라
삼성전자는 ‘넥스트 HBM’으로 불리는 CXL을 다음 승부처로 보고 있다. CXL은 중앙처리장치(CPU), 그래픽처리장치(GPU), 스토리지 등의 다양한 장치를 효율적으로 묶어 보다 빠른 연산 처리를 가능하게 한다.
최장석 삼성전자 메모리사업부 신사업기획팀장 상무는 지난 7월 ‘CXL 솔루션’ 설명회에서 “쉽게 말해 HBM은 고속도로를 만들어 데이터가 빠르게 왔다 갔다 할 수 있게 하는 것이고, CXL은 여러 도로를 연결하는 것”이라며 “도로를 넓혀 용량을 더 확장한 개념”이라고 설명했다.
삼성전자는 2021년 CXL 기반 D램을 최초로 선보인 데 이어 작년 5월에는 업계 최초로 CXL 2.0을 지원하는 ‘128기가바이트(GB) CXL D램’ 개발에 성공했다. 삼성전자는 올해 2분기 공개한 ‘256GB CXL 2.0 기반 D램’을 하반기 양산한다는 계획이다.
최 상무는 “CXL은 올해 하반기부터 관련 시장이 본격적으로 열릴 것”이라며 “CXL 2.0 D램이 하반기 활성화되면 시장도 움직일 것으로 보여 이에 맞춰 삼성전자도 준비 중”이라고 말했다. 시장조사업체 욜 인텔리전스에 따르면 CXL 시장 규모는 오는 2028년까지 125억 달러(약 17조5587억원)에 달할 것으로 내다봤다.
또한 업계에선 삼성전자가 PIM도 차세대 반도체 대안으로 삼고, 추진할 것으로 본다. PIM은 하나의 칩 내부에 메모리와 프로세서 연산기를 집적한 반도체다. PIM을 사용하면 메모리 반도체의 전송 과정이 줄어들어 데이터 처리 속도가 향상될 뿐만 아니라 전력 대비 성능비도 높일 수 있다. 각종 연산을 메모리에 내재화함으로써 성능과 전성비까지 개선한 셈이다.
삼성전자는 지난 2021년 업계 최초로 PIM을 HBM에 결합한 HBM-PIM을 개발했다. 앞서 삼성전자는 AMD의 GPU ‘MI-100’ 가속기 카드에 HBM-PIM 메모리를 탑재한 결과, 기존 GPU 가속기 대비 성능은 2배 늘고 에너지 소모는 50% 감소한 것을 확인했다.
앞으로 삼성전자는 GPU를 대체할 수 있는 PIM 개발에 주력할 것으로 점쳐진다. 무엇보다 저전력을 특징으로 하는 PIM은 AI 시대 최대 난제로 꼽히는 전력 소모를 최소화할 수 있다. 지난 5월 ‘AI-PIM 반도체 워크숍’에서 손교민 삼성전자 마스터는 “다음 AI 메모리로 유력한 제품은 PIM”이라고 밝히기도 했다.