인류의 통제권을 둘러싼 빅테크의 위험한 신앙
"단 몇 명의 남성들이 우리 모두를 대신해 모든 결정을 내리고 있습니다." 메타(Meta)에서 4년간 최초의 민권 담당 부사장직을 수행했던 로이 오스틴 주니어는 이처럼 경고한다. 구글, 메타, 오픈AI 등 거대 기술 기업의 수장들이 주도하는 미래는 소수의 부유한 인물들이 설계하는 판이라는 지적이다. 지난 17일, 버니 샌더스 미국 상원의원은 유튜브 연설을 통해 인류가 지구의 지배적 종으로서 계속 남을 것인지, 아니면 인공지능에 의해 대체될 것인지에 대한 근본적인 질문을 던졌다. 샌더스 의원은 기술 혁명을 이끄는 빅테크 수장들이 인류가 경악할 만한 방식으로 이 질문에 답하고 있다고 비판했다.
이들의 발언은 극명하게 엇갈린다. 일론 머스크는 지난해 11월 돈의 가치가 사라질 미래를 언급하면서도, 한편으로는 인공지능이 '악마'를 불러낼 수 있다고 경고했다. 샘 올트먼 역시 일하고 싶지 않은 이들도 풍요를 누리는 세상을 그리면서도, 인류가 스스로의 후손을 설계하는 종이 될 것이라는 양면성을 보였다. 이러한 모습은 마치 인류를 구원하거나 심판하는 '신'의 권능을 예언하는 듯하다. 실리콘밸리에서는 초지능을 '기계신'이라 부르며, 이를 선점하려는 이들을 신의 권능을 세상에 전파하는 '제사장'으로 비유하기도 한다.
가속주의와 둠주의 사이의 기묘한 공생
영국 런던대학교 골드스미스 소속의 댄 맥퀼런 교수는 이 현상을 두 가지 흐름으로 분석한다. 인류를 멸망시킬 수 있는 초지능을 통제해야 한다는 '둠주의(Doomerism)'와, 황금빛 미래를 위해 기술 발전을 최대한 앞당겨야 한다는 '가속주의(Accelerationism)'가 그것이다. 사회의 관심이 이 두 믿음 사이의 내전에 쏠려 있지만, 실제로는 이들이 매우 유사한 세계관을 공유하고 있다는 점이 핵심이다. 앤트로픽의 다리오 아모데이가 속도 조절을 주장하자 올트먼과 머스크가 이에 동의한 사례가 이를 뒷받침한다.
이들의 공통된 교리는 "초지능은 반드시 오며, 그 권력을 우리가 쥐어야 한다"는 것이다. 오픈AI는 구글의 딥마인드 인수에 불안감을 느낀 올트먼과 머스크가 결성했으며, 앤트로픽은 안전을 중시하는 조직이 최전선에 있어야 한다는 논리로 오픈AI에서 파생되었다. 즉, 위험하니까 만들지 말자는 것이 아니라, 위험하기 때문에 '내가' 만들어야 한다는 논리다. 철학자 에밀 토레스와 윤리 연구자 팀닛 게브루는 이를 '테스크리얼(TESKRIAL)'이라는 개념으로 정의하며, 기술로 인간을 재설계해 불멸에 가까운 '포스트휴먼'을 만들려는 시도를 경계한다.
기술적 초월을 향한 헌금과 자존심
길 듀란은 저서 [너드 라이히]를 통해 실리콘밸리의 선택받은 이들이 자신들의 모습대로 신과 영생을 재창조하려 한다고 진단했다. 샘 올트먼은 블로그를 통해 기계와 융합하지 못한 인류는 진화의 곁가지로 사라질 것이라고 주장했으며, 실제 뇌와 컴퓨터를 연결하는 스타트업에 투자하거나 관련 기업을 설립하며 자신의 신념을 행동으로 옮기고 있다. 팔란티어의 피터 틸 또한 비천한 것과 타협하기보다 차라리 신과 같아지기 위해 노력하는 것이 낫다는 태도를 보였다.
기술윤리학자 섀넌 밸러는 기계신을 낳는다는 발상이 개인의 자존심을 극도로 자극하기 때문에 이러한 열망이 힘을 얻는다고 분석했다. 초월을 위한 토대를 직접 놓는다는 매혹적인 착각이 이들을 움직이는 것이다. 에밀 토레스의 말처럼, 이들의 이데올로기는 비록 미친 것처럼 보일지라도 막대한 자본 및 정부 권력과 결합하여 이미 현실 세계에 강력한 영향력을 행사하고 있다. 기계신은 아직 오지 않았을지 모르나, 그 신을 모시는 제사장들의 논리는 이미 세상을 움직이고 있다.