설계 단계부터 고객이 개입하는 '커스텀 HBM' 시대의 도래

메모리 반도체의 패러다임 변화

기존의 메모리 반도체 시장이 표준 규격에 따라 제품을 만들어 여러 고객사에게 공급하던 방식에서 벗어나, 인공지능(AI) 반도체 구조에 맞춰 설계 초기 단계부터 고객과 협력하는 형태로 급격히 변화하고 있다. 이제 메모리 업체들의 경쟁력은 단순한 저장 용량이나 데이터 전송 속도를 넘어, 시스템 전반의 효율성과 전력 소모를 최적화하는 영역까지 확장되는 추세다.

이러한 흐름 속에서 반도체 기업 간의 협력 구도 또한 재편되고 있다. 엔비디아나 구글 같은 기업들이 설계 과정에 직접 관여하는 것은 물론, 메모리 제조사들도 단순한 데이터 저장용 D램 개발을 넘어 고객사 전용 제어 회로인 로직 설계 단계에 참여하게 된다. 각 기업이 개별적으로 만든 반도체를 단순히 연결하는 수준을 지나, 개발의 시작점부터 설계와 공정, 패키징 전 과정을 긴밀하게 조율하는 협력 모델이 구축되고 있는 것이다.

커스텀 HBM의 핵심, 베이스 다이

새롭게 부상하는 맞춤형 메모리는 반도체의 구조와 용도에 최적화하여 설계하는 것이 특징이다. 이 기술의 핵심 요소는 층층이 적층된 D램의 최하단에서 외부 연산 칩과 데이터를 주고받는 역할을 수행하는 ‘베이스 다이’다. 이를 아파트 구조에 비유하자면, 위층은 데이터를 저장하는 공간이고 베이스 다이는 외부와 소통하는 1층 입구와 같다. 고객이 원하는 특정 기능을 베이스 다이에 탑재하고 연결 방식을 최적화함으로써, 데이터 전송 성능을 극대화하고 전력 효율을 높이는 것이 커스텀 HBM의 본질이다.

기술 생태계의 변화와 새로운 과제

커스텀 HBM은 반도체 산업의 기술 영역과 협력 구조를 근본적으로 뒤흔들고 있다. 일례로 지난 8월 엔비디아가 공개한 사례를 보면, 기존 가속기에 탑재되던 메모리 제어 회로를 베이스 다이로 옮기는 방식이 핵심이다. 이는 삼성전자나 SK하이닉스 같은 메모리 기업이 주도해 온 베이스 다이 설계 영역에 엔비디아와 같은 고객사가 직접 참여함을 의미하며, 이에 따라 메모리 업체들은 고객 전용 로직 설계 역량을 더욱 강화해야 하는 과제를 안게 되었다.

생산 방식의 변화도 예상된다. 삼성전자가 자체 파운드리에서 제작해 온 베이스 다이를 엔비디아의 요구사항에 맞춰 경쟁사 칩과 최적화된 형태로 생산해야 할 수도 있다. 이에 따라 설계사와 메모리 업체, 그리고 파운드리가 개발 초기부터 설계와 생산 공정을 함께 조율하는 구조로 변모할 전망이다. 구글과 아마존 등 빅테크 기업들이 자체 AI 칩 개발을 가속화함에 따라, 각 칩의 용도에 맞춘 맞춤형 HBM 수요는 늘어날 것이며, 이는 표준형 제품보다 높은 단가 형성으로 이어질 가능성이 크다.

다만 고객 맞춤형 설계가 확산될수록 메모리 업체가 가졌던 주도권은 약화될 수 있다. 기존에는 메모리 업체가 베이스 다이 설계와 회로 배치를 결정했으나, 커스텀 방식에서는 고객사가 전용 회로를 위한 공간 확보부터 함께 논의해야 한다. 고객의 요구로 회로 공간이 늘어나면 메모리 업체는 한정된 면적 내에 자체 회로를 더 미세하게 구현해야 하는 설계 부담을 지게 된다. 한 업계 관계자는 반도체 기술의 본질을 극도로 좁은 공간에 얼마나 많은 회로를 집어넣느냐의 싸움이라고 설명했다.

또한 특정 공정 사용을 요구받을 경우, 메모리 주문을 확보하더라도 핵심 부품의 생산은 외부 파운드리에 맡겨야 하는 상황이 발생할 수 있다. 특히 자체 파운드리 역량을 보유한 삼성전자의 경우, 커스텀 HBM 수주가 내부 파운드리 물량으로 직결되지 못하는 제약이 생길 수 있다. 결과적으로 메모리 업체들의 성패가 고객사의 생산 능력과 물량 배정 방식에 더욱 큰 영향을 받게 될 것으로 보인다.