AI 에이전트 시대의 도래와 메모리의 역할
'고대역폭메모리(HBM)의 설계자'로 잘 알려진 김정호 한국과학기술원(KAIST) 전기및전자공학부 교수는 29일 서울 여의도 국민일보 컨벤션홀에서 개최된 '2026 국민미래포럼'에 참석해 강연을 진행했다. 김 교수는 이 자리에서 인공지능(AI) 시장의 주도권이 메모리 반도체의 향방에 따라 결정될 것이라고 단언했다.
'AI 에이전트 시대와 HBM·고대역폭플래시(HBF) 패권 수호'를 주제로 마이크를 잡은 김 교수는 향후 30년의 미래를 AI 에이전트가 지배하는 시대로 규정했다. 그는 AI가 단순한 도구를 넘어 정치적 활동을 수행하거나 기업의 주식을 발행하고 상장까지 진행하는 수준에 이를 것이라고 전망했다. 특히 AI의 지능 수준을 좌우하는 핵심 요소는 기억력이라고 설명했다. 김 교수는 환각 현상(Hallucination)이 없는 고도의 AI 모델 역시 결국 뛰어난 기억력을 갖춘 모델이며, 기업들이 이러한 필요성을 인지하고 있어 메모리의 수요와 처리 속도는 지속적으로 높아질 것이라고 분석했다. 이에 따라 AI 추론 과정의 병목 현상이 기존의 연산 영역에서 메모리 영역으로 전이될 것이라는 예측도 내놓았다.
냉각 기술이 결정할 데이터센터의 승부
데이터센터를 중심으로 한 AI 인프라 구축 환경에서 전력 공급만큼이나 중요한 변수로 냉각 기술을 꼽았다. 김 교수는 삼성전자와 SK하이닉스, 그리고 엔비디아 사이의 최종적인 승패는 냉각 기술의 혁신 여부에 따라 갈릴 것이라고 진단했다. 그는 데이터센터 장비를 영하 196도의 액화질소 속에 담가야 할 정도의 파격적인 기술 혁신이 요구된다고 강조했다. 아울러 자신이 초기 개념과 기본 구조를 제안했던 HBM이 2013년 SK하이닉스에 의해 세계 최초로 상용화되기 전까지는 초기 아이디어 단계에서 외면받았던 사례를 언급하며 혁신의 가치를 역설했다.
국가 안보로서의 반도체 생산 능력과 금융 게임
김 교수는 한국의 메모리 제조 역량을 국가 안보 차원에서 재해석했다. 현재 전 세계적으로 벌어지는 AI 인프라 확장 열풍을 19세기 철도망 구축에 비유한 그는, 1904년 러일전쟁 당시 러시아의 패배 원인 중 하나로 시베리아 횡단철도의 미완공을 지적했다. 물류망이 전쟁의 승패를 가르듯 AI 패권 역시 인프라 확보가 관건이라는 설명이다. 또한 1950년 한국전쟁의 배경이 된 '애치슨라인'을 언급하며, 이제는 한국의 강력한 반도체 생산 능력이 국가를 보호하는 방패 역할을 하고 있다고 평가했다.
마지막으로 그는 AI 인프라 경쟁이 막대한 현금 동원력과 투자금 조달 능력을 겨루는 '금융 게임'의 양상으로 변모할 것이라고 경고했다. 김 교수는 미국 월가에서 엔비디아의 GPU를 담보로 하는 대출 상품이 등장한 점과 코어위브 같은 네오클라우드 업체들이 겪는 자금 조달 이슈를 예로 들며, 향후 경쟁의 핵심이 자본력에 달려 있음을 시사했다.