로보택시가 달리는 실리콘밸리의 미래 풍경
이달 방문한 실리콘밸리에서 마주한 첫 풍경은 운전석이 비어 있는 웨이모의 로보택시였다. 샌프란시스코의 극심한 교통 정체와 사거리에서 서로 밀고 들어오는 차량들 사이에서 웨이모는 다소 위축된 모습을 보이며, 15분이면 갈 거리를 한 시간이나 걸려 이동했다. 그러나 놀라운 점은 그 긴 시간 동안 그 누구도 운전대를 잡지 않았다는 사실이었다. 테슬라의 FSD(Full Self-Driving) 기술 역시 운전자의 손길 없이 스스로 주행하며 도로 위에서 미래 기술의 실체를 증명하고 있었다.
샌프란시스코와 산타클라라를 연결하는 101번 고속도로의 입간판들은 더욱 생경한 메시지를 던지고 있었다. 한국의 경부고속도로 입간판들이 세계로 수출되는 K-푸드 광고로 채워져 있는 것과 대조적으로, 이곳의 광고판에는 '추론(inference)'이라는 단어가 커다란 글씨로 새겨져 있었다. 이는 이미 구축된 AI를 구동하는 작업, 즉 추론 기술과 그에 필요한 인프라에 대한 광고였다. 행사장에 채 도착하기도 전에 실리콘밸리의 가장 뜨거운 화두가 무엇인지 직관적으로 체감할 수 있는 대목이었다.
에이전트 AI 시대와 폭발하는 토큰 수요
미래 기술의 발원지인 실리콘밸리에서 발표되는 혁신은 곧바로 산업이 되어 전 세계로 확산된다. 최근 가장 큰 주목을 받은 테슬라의 신형 로드스터 시연은 마치 AI가 합성한 영상이 아니냐는 의구심이 들 정도로 경이로운 움직임을 선보였다. 다만 양산 시점이 2028년으로 예정되어 있어, 일론 머스크의 계획대로라면 당장 내년이나 올해 도로에서 이 차량을 만나기는 어려울 전망이다.
과거에는 먼 미래의 영역으로만 여겨졌던 '추론' 기술은 불과 2년 만에 현실의 핵심 수요로 급부상했다. 단순한 질의응답에 그치던 챗봇의 시대는 지나갔으며, 이제는 여러 단계의 추론 과정을 연속적으로 수행하는 에이전트 AI가 일상의 풍경이 되었다. 물론 빅테크 기업들의 천문학적인 설비 투자와 앤트로픽, 오픈AI 같은 기업들이 보여주는 가파른 매출 성장 및 막대한 손실을 두고 회의론자들은 수익성에 의문을 제기한다. 하지만 기술 기업들은 시장의 확신이 있기에 움직인다. 101번 고속도로의 '추론' 광고는 기술과 시장이 이미 만났음을 시사한다.
인프라 경쟁력이 곧 국가의 생존 전략
AI의 시장 규모는 데이터 처리 단위인 '토큰(token)'을 통해 확인할 수 있다. 구글의 사례를 보면, 2024년 9조 7,000억 개 수준이었던 월간 토큰 처리량은 올해 5월 3,200조 개로 2년 만에 무려 330배나 폭증했다. 또한 연간 1조 개 이상의 토큰을 소비하는 구글 클라우드 고객사도 기존 150여 곳에서 약 500곳으로 대폭 늘어났다. 이는 기업들이 AI를 실제 업무 현장에 적극적으로 투입하고 있음을 의미하며, 토큰을 생산하는 공장인 AI 데이터센터가 가장 시급한 인프라임을 방증한다.
AI가 단순한 생산성 도구에 머물지, 세상을 뒤바꿀 혁명이 될지는 알 수 없으나 인프라의 중요성은 변함없다. 경부고속도로를 달리는 한국인들에게 추론의 시대는 아직 멀게 느껴질 수 있지만, 기술의 흐름은 이미 우리 곁에 도달해 있다. 대한민국은 AI 반도체와 인프라를 동시에 구축할 수 있는 몇 안 되는 국가라는 강점을 활용해 선택과 집중을 해야 한다. 공공부문에서도 국산 AI 반도체인 NPU를 활용해 실무 현장에서 검증하는 움직임이 시작되고 있다.
과거 카타르 월드컵 당시 강조되었던 '중요한 건 꺾이지 않는 마음'은 지금도 유효하다. 폭발적인 추론 수요를 감당할 AI 인프라와 반도체에 대한 투자가 멈춰서는 안 된다. 과거 축구의 목표가 16강이었다면, 이제 AI 산업에서 대한민국이 지향해야 할 목표는 글로벌 3강, 혹은 그 이상의 위치여야 한다.