AI 진화가 불러온 메모리 폭증 예고
에이전틱 인공지능(AI)이 막대한 양의 토큰을 소비하며 발전함에 따라 메모리 시장의 패러다임이 급격히 변하고 있다. 삼성전자 메모리사업부 상품기획팀장인 최상무(상무)는 29일 서울 여의도 국민일보 컨벤션홀에서 개최된 ‘2026 국민미래포럼’의 주제 발표를 통해 이러한 전망을 내놓았다. 최 상무는 에이전트를 지속적으로 생성하고 구동하며 토큰을 소모하는 AI의 특성을 ‘토큰 잡아먹는 귀신’이라 정의하며, AI 기술의 진보가 메모리 수요의 폭발적 증가를 견인할 것이라고 설명했다.
그는 AI 기술이 클라우드 영역에 머물지 않고 스마트폰이나 노트북 같은 엣지 기기로까지 빠르게 확산될 것이라고 분석했다. 현재의 기기들이 8~12GB의 메모리를 탑재하고 있다면, 본격적인 AI 구동을 위해서는 지금보다 약 10배에 달하는 메모리 용량이 필요할 것이라는 계산이다. 또한 AI가 한 번에 처리할 수 있는 정보의 범위인 컨텍스트 윈도우가 기존의 ‘책 한 권’ 수준을 넘어 ‘도서관 전체’ 규모로 확장되면서, 이전의 연산 데이터를 저장하고 불러오는 KV캐시의 중요성도 급격히 커졌다. 최 상무는 이러한 KV캐시의 증가 추세를 고려할 때, 관련 메모리와 스토리지의 요구량이 전 세계 산업계가 생산하는 D램과 낸드플래시의 전체 물량을 상회할 수 있다고 경고했다.
CPU와 GPU의 비중 변화와 차세대 시장 전망
AI 기술의 발전 양상도 변화하고 있다. 작년까지만 해도 질문에 대한 답변을 도출하는 단계였기에 그래픽처리장치(GPU)와 고대역폭메모리(HBM)가 시장을 주도했으나, 올해부터는 비서 역할을 수행하는 에이전트를 운용하기 위한 중앙처리장치(CPU)의 역할이 부각되고 있다. 최 상무의 설명에 따르면 이제 GPU와 CPU는 거의 대등한 비중으로 사용되는 추세이며, 특히 CPU에는 수많은 DDR 모듈이 투입되어야 하기에 엄청난 양의 메모리가 요구된다.
향후 2~3년 내에는 구독형 서비스 대신 고사양 기기를 통해 AI 모델을 직접 구동하려는 수요가 늘어나면서 소비자 기기 기반의 AI 시장이 크게 성장할 것으로 보인다. 최 상무는 이러한 소비자용 차세대 메모리가 2028년 말이나 2029년경에는 양산 단계에 진입할 수 있을 것으로 내다봤다.
기술 조합의 시대로 접어든 메모리 산업
삼성전자는 이러한 변화에 대응하기 위해 전력 소모와 발열, 용량 문제를 해결할 다양한 기술을 준비하고 있다. 저전력 모듈인 소캠(SOCAMM)을 비롯해 열 관리를 위한 히트 패스 블록(HPB), 그리고 CXL 메모리 풀링 기술이 그 예다. 아울러 맞춤형 HBM(cHBM)과 수직적 적층 구조를 가진 zHBM, Z-낸드 등도 개발 라인업에 포함되어 있다. 최 상무는 과거에는 누가 더 빠르고 저렴하게 대량으로 생산하느냐가 핵심 경쟁력이었으나, 이제는 재료의 유사성이 높아진 만큼 각 기업이 보유한 차별화된 기술들을 어떻게 최적으로 조합하여 제품화하느냐가 승부처가 될 것이라고 강조했다.