상장 서류에 담긴 섬뜩한 위험 경고
“고도로 발달한 AI 시스템이 적절한 보안 조치나 감독 없이 배포될 경우, 인류에게 실존적 위협이나 재앙을 초래할 수 있다.” 앤트로픽이 나스닥 상장을 위해 미국 증권거래위원회(SEC)에 제출한 S-1 신고서에는 이처럼 충격적인 문구가 포함되어 있다. 300쪽이 넘는 방대한 문서 중 위험 요인을 다룬 부분만 무려 92쪽에 달한다.
이처럼 초대형 기업공개(IPO) 서류에 인류의 재앙을 언급한 것은 앤트로픽이 특별히 도덕적이라서가 아니다. 이는 빅테크 기업들이 투자금을 확보하기 위해 위험 요인을 장황하게 나열하는 최근의 흐름과 맞닿아 있다. 과거 2019년 우버 역시 수익성 악화 가능성을 언급하며, 운전기사가 노동자로 분류될 경우 사업에 타격을 입을 것이라는 문구를 삽입해 정치적 압박을 가한 사례가 있다. 즉, 위험을 알리는 성실한 공시처럼 보이지만, 실제로는 투자자들에게 특정 법적·정치적 결과가 발생하지 않도록 압력을 넣는 도구로 활용되는 것이다.
안전과 수익 사이의 아슬아슬한 줄타기
앤트로픽의 공시 내용 역시 우버의 사례와 유사한 논리를 보인다. 이들은 AI 모델의 안전과 보안을 위해 개발 속도를 조절할 경우, 유사한 제약이 없는 경쟁사들에 비해 기술 격차가 벌어지고 매출 성장에 악영향을 미칠 수 있다고 명시했다. 이는 불과 한 달 전 AI의 '정렬 실패'를 우려하며 속도 조절을 주장했던 다리오 아모데이 CEO의 발언과도 배치되는 지점이다.
특히 이들은 '안전과 상업적 목표 사이의 균형'이라는 소제목 아래, 너무 신중하게 굴다가 시장 기회를 놓치거나 반대로 충분히 엄격하지 못해 해로운 모델을 출시할 수 있다는 상충 관계를 언급했다. 오픈AI와 앤트로픽 등 주요 AI 기업들이 매년 막대한 손실을 기록하고 있는 상황에서, 이들은 위험성을 경고하는 동시에 '우리는 충분히 알렸으니, 그럼에도 투자한다면 그 책임은 투자자의 몫'이라는 메시지를 던지고 있다. 기술의 강력함을 강조하며 '우리에게 투자하지 않고 다른 대안이 있겠느냐'는 식의 논리를 펼치는 것이다.
'대안은 없다'는 신자유주의 논리의 재현
현재 AI 산업을 둘러싼 담론은 과거 1980년대 대처리즘이 보여준 '대안은 없다(There Is No Alternative)'는 신자유주의 이데올로기를 닮아 있다. AI가 위험하고 수익성이 불투명하며 막대한 자본이 낭비될 수 있다는 우려가 있음에도 불구하고, 경쟁국이나 기업이 앞서 나가는 상황에서 투자를 멈추는 것은 곧 도태를 의미한다는 논리다. 이는 트럼프 행정부의 '중국 공포'나 한국 정부의 반도체 및 메가 프로젝트 추진 논리와도 궤를 같이한다.
하지만 과거 노동 운동이