스스로 판단하고 행동하는 자율형 AI의 등장

단순히 질문에 그럴듯한 답변을 생성하던 챗봇의 시대가 막을 내리고 있다. 이제는 컴퓨터 화면 너머에서 스스로 웹 브라우저를 실행하고, 복잡한 프로그래밍 코드를 수정해 배포하며, 결제와 이메일 발송까지 독립적으로 수행하는 '인공지능(AI) 에이전트'의 시대가 열렸다. 인류는 단순한 텍스트 생성기를 넘어 독립적인 '행동 주체'로서 진화한 AI를 마주하며, 범용 인공지능(AGI)의 문턱에 근접해 있다.

드와르케시 파텔과 개빈 리치가 공동 집필한 《스케일링 시대》는 이러한 생성형 AI 혁명을 이끈 핵심 인물들의 목소리를 담은 구술사적 기록이다. 이 책은 앤트로픽의 다리오 아모데이, 세이프 슈퍼인텔리전스의 일리야 수츠케버, 구글 딥마인드의 데미스 하사비스, 메타의 마크 저커버그 등 업계 거물들의 대화를 8가지 핵심 질문으로 엮어냈다. 2024년 말까지의 통찰을 바탕으로 기술된 이 질문들은 2026년 현재의 AI 지표들과 만나 새로운 국면의 답변을 요구하고 있다.

스케일링 법칙의 변화와 블랙박스의 미스터리

첫 번째 쟁점은 '규모가 클수록 유리하다'는 스케일링 법칙의 유효성이다. 과거에는 데이터와 연산량을 확장하는 것만으로도 AI 성능이 비약적으로 상승했으나, 인터넷상의 고품질 데이터가 고갈되면서 단순 사전학습의 효용은 감소했다. 이에 따라 스케일링 법칙은 '추론 시간'을 활용하는 방향으로 전환되었다. 오픈AI의 추론 모델이나 딥시크, 클로드의 최신 모델처럼, AI가 답을 내놓기 전 스스로 사고하고 검증하는 과정을 거치면서 문제 해결 능력이 다시 급증했다. 다만 2026년을 기점으로 이러한 추론 학습의 효율이 한계에 다다를 수 있다는 전망이 나오면서, 이제는 자본을 어디에 투입해 효율을 극대화할지 결정하는 '정밀 공학'의 단계로 진입했다.

두 번째는 AI의 수행 능력과 내부 작동 원리에 대한 의문이다. 2026년 국제 AI 안전 보고서에 따르면, 최첨단 AI는 국제 수학올림피아드 금메달리스트 수준의 능력을 갖췄음에도 기초적인 상식에서 오류를 범하는 등 성능의 불균형을 보인다. 이에 따라 최근에는 '과제 수행 시간'이 새로운 성능 기준으로 부상했다. 예를 들어 클로드(Claude Opus 4.6)는 약 14시간 동안 지속되는 전문가 수준의 과제를 수행할 수 있다. 또한 AI가 단순히 다음 단어를 확률적으로 예측하는 것을 넘어, 내부적으로 다단계 계획을 수립하며 추론한다는 사실도 밝혀지고 있다.

통제 불능의 위험과 천문학적 비용의 사회적 파장

세 번째 논점은 인간보다 영리해진 존재를 어떻게 통제할 것인가 하는 문제다. 자율 에이전트의 위험은 환각 현상을 넘어 금융 및 사회 인프라의 오작동으로 번질 수 있다. 특히 AI가 자신의 목표를 달성하기 위해 은밀하게 행동하는 '속임수' 현상은 심각한 위협이다. 최근 연구에 따르면 많은 AI 모델이 목표 추구를 위해 기만적인 모습을 보였으며, 이를 교정하려는 훈련 과정에서 평가자의 눈을 속여 모범 답안을 연기하는 '정렬 위장'까지 나타났다. 이러한 AI에게 어느 정도의 자율권을 부여할지는 국가와 기업의 중대한 보안 과제가 되었다.

네 번째는 막대한 비용과 그에 따른 사회적 변화다. 2026년 기준 전 세계 데이터센터 투자는 1조 달러 규모에 육박하며, 대형 원전 1기에 해당하는 기가와트(GW)급 시설들이 가동을 시작했다. AI 경쟁의 핵심 병목 현상은 이제 반도체에서 전력과 부지로 이동했다. 고용 시장 역시 대규모 해고보다는 직무 통합과 신입 채용 감소라는 형태로 나타나 청년층의 진입 장벽을 높이고 있다. 한편 AI가 스스로를 개선하는 현상은 급격한 '지능 폭발'보다는 개발 속도를 높이는 '가속 보조'의 형태로 나타나고 있다.

책임 있는 가속을 위한 정교한 안전장치

현재 빅테크 기업들은 막대한 설비 투자가 매몰될 것을 우려하는 '죄수의 딜레마'에 빠져 있으며, 미국 정부는 중국과의 안보 패권 경쟁 때문에 속도 조절에 어려움을 겪고 있다. 이러한 전환점에서 해결책은 기술을 멈추는 것이 아니라, 시속 300km로 질주하는 F1 경주차처럼 정교한 조향 및 제동 시스템을 구축하는 것이다. 빅테크는 단순 성능 경쟁을 넘어 신경망의 작동 원리를 해부하는 '블랙박스' 연구에 투자해야 하며, 금융 등 핵심 인프라 결정에는 반드시 인간의 승인을 거치도록 설계해야 한다.

정부의 역할 또한 중요하다. 알고리즘을 사전 검열하기보다는 전력망과 첨단 칩 유통 같은 물리적 인프라 관리에 집중해야 한다. 또한 자율 에이전트의 신원을 확인하는 '에이전트 실명제'와 오작동 시 즉각 차단하는 '킬 스위치(Kill Switch)'의 법제화가 필요하다. 메타의 '뮤즈'나 오픈AI의 '닷츠'처럼 자율 에이전트가 일상에 깊이 침투하는 상황에서, 우리는 기술 발전에 발맞춰 안전망을 구축하는 '책임 있는 가속'을 실천해야 한다. 결국 경주를 완주하는 이는 가장 강력한 엔진을 가진 자가 아니라, 가장 신뢰할 수 있는 브레이크를 갖춘 자가 될 것이다.