메모리 반도체의 경계가 허물어지는 맞춤형 시대
내년에는 고객의 요구사항을 최우선으로 반영하는 '커스텀(맞춤형) 고대역폭 메모리(HBM)' 시장이 본격적인 막을 올릴 것으로 보인다. 기존에는 정해진 표준 규격에 따라 제품을 만들어 여러 고객사에게 납품하는 방식이 주를 이루었으나, 이제는 고객사의 인공지능(AI) 반도체 구조에 맞춰 설계 단계부터 협업하는 모델로 진화하고 있다. 이에 따라 메모리 기업들의 경쟁 지점도 단순한 저장 용량이나 속도 경쟁을 넘어, AI 시스템 전체의 전력 효율과 성능을 최적화하는 영역으로 급격히 확장되는 추세다.
이러한 변화는 반도체 산업의 협력 구도 자체를 재편하고 있다. 엔비디아나 구글 같은 AI 칩 설계 기업이 HBM의 내부 설계 과정에 직접 관여하기 시작했으며, 메모리 업체들 또한 단순 데이터 저장용 D램 제조를 넘어 고객 전용 제어 회로와 같은 로직 설계 분야까지 활동 범위를 넓히고 있다. 단순히 완성된 반도체를 서로 연결하는 단계를 지나, 개발 초기 단계부터 설계와 공정, 패키징 전 과정을 긴밀하게 조율하는 통합적 협력 구조가 자리 잡고 있는 것이다.
'베이스 다이'가 결정하는 커스텀 HBM의 핵심 기술
커스텀 HBM은 사용자의 AI 반도체 용도와 구조에 최적화하여 제작되는 맞춤형 메모리를 의미한다. 기술적 핵심은 적층된 D램 최하단에서 외부 AI 칩과 통신을 담당하는 '베이스 다이'에 있다. 이를 아파트 구조에 비유하면 상층부는 데이터를 저장하는 공간이며, 베이스 다이는 외부와 소통하는 1층 로비와 같다. 고객이 원하는 특정 기능을 베이스 다이에 심고 연결 방식을 최적화함으로써, 데이터 전송 능력과 전력 소모 효율을 극대화하는 것이 커스텀 HBM의 본질이다.
이러한 기술적 변곡점은 기업 간의 역할 분담도 바꾸고 있다. 지난 8월 엔비디아가 공개한 'NVHBM'이 대표적인 예시다. 기존 AI 가속기에 포함되던 메모리 제어 회로를 베이스 다이로 이식하는 것이 핵심인데, 이 과정에서 그동안 메모리 업체들이 주도해온 베이스 다이 설계권에 고객사인 엔비디아가 개입하게 된다. 결과적으로 메모리 제조사들은 고객 맞춤형 제어 회로를 구현하기 위한 로직 설계 역량을 필수로 갖춰야 하는 상황에 직면했다.
파운드리 협력과 기술적 난제, 그리고 시장의 향방
생산 방식의 변화도 불가피하다. 삼성전자의 경우, 기존에 자체 파운드리를 통해 생산하던 베이스 다이를 엔비디아의 요청에 따라 경쟁사인 TSMC 공정을 활용해 제작하는 방안이 논의되고 있다. 고객의 AI 칩 성능을 극대화하기 위해 설계사와 메모리 업체, 파운드리 업체가 개발 초기부터 설계와 생산 공정을 한데 모아 조율하는 구조로 재편되고 있는 것이다. 커스텀 HBM은 고객별로 복잡한 설계 요구와 추가 기능을 수용해야 하므로 표준 제품보다 단가가 높게 형성된다. 구글과 아마존 같은 빅테크 기업들이 자체 주문형 반도체(ASIC) 개발을 확대함에 따라, 이에 최적화된 맞춤형 HBM 수요는 더욱 늘어날 전망이다.
다만 고객의 개입이 커질수록 메모리 업체들의 주도권은 약화될 수 있다는 우려도 나온다. 기존에는 메모리 업체가 베이스 다이 설계와 회로 배치를 주도했으나, 커스텀 방식에서는 고객이 요구하는 전용 회로 공간을 확보하기 위해 메모리 업체의 자체 회로를 훨씬 더 좁은 면적에 밀어 넣어야 하기 때문이다. 이는 설계 부담을 가중시키고 더 미세한 공정 기술을 요구하게 된다. 한 업계 관계자는 반도체 경쟁의 본질이 극도로 제한된 공간에 얼마나 효율적으로 회로를 배치하느냐의 싸움이라고 설명했다.
향후 AMD나 브로드컴 같은 다른 AI 칩 개발사들까지 TSMC 공정을 통한 베이스 다이 제작을 요구하게 된다면, 메모리 업체가 수주에 성공하더라도 핵심 부품 생산은 외부 파운드리에 의존해야 하는 구도가 심화될 수 있다. 특히 자체 파운드리 역량을 보유한 삼성전자는 HBM 수주 물량을 내부 파운드리 생산으로 연결하는 데 있어 구조적 제약을 받을 가능성이 있다. 결국 메모리 기업들의 HBM 양산 스케줄이 TSMC의 생산 능력과 물량 배정 상황에 따라 크게 좌우될 수 있다는 분석이다.