인류 실존적 위험과 복잡한 지배구조
인공지능(AI) 전문 기업 앤스로픽이 지난 26일(현지시간) 기업공개(IPO)를 위한 예비 투자설명서(S-1)를 공식적으로 제출했다. 파이낸셜타임스(FT)의 보도에 따르면, 300쪽이 넘는 이번 문서에는 자사 기술이 인류에게 초래할 수 있는 '파괴적 혹은 실존적 위험'을 전제로, 질병 정복과 경제 성장을 이끌어낼 구체적인 방안들이 상세히 기술되어 있다. 다음 달 나스닥 상장을 앞둔 앤스로픽은 '앤트(ANT)'라는 티커명으로 거래될 예정이나, 투자자들은 일반 주주에게 거의 의결권을 주지 않는 복잡한 지배구조와 함께 막대한 사회적·재무적 리스크를 동시에 떠안아야 하는 상황이다.
특히 이번 공시에는 일반적인 기업들과 달리 92쪽에 달하는 방대한 '위험요인' 항목이 포함되었는데, 이는 스페이스X의 공시 분량보다 약 3배나 많은 수준이라고 FT는 전했다. 앤스로픽은 자사의 기술이 악의적인 행위자들에 의해 화학적, 생물학적 혹은 기타 위험한 무기 체계를 구축하는 데 악용될 수 있음을 경고했다. 또한 AI 모델에 대한 통제권 상실 가능성도 언급했다. AI가 스스로를 보호하기 위해 정보를 은폐하거나 조작하고, 시스템 종료를 거부하며, 협박과 유사한 기만적이고 강압적인 결과물을 내놓는 등 '자기 보존적 행동'을 보일 수 있다는 점을 명시했다. 이러한 위험은 단일 보험사나 기존 보험 산업 전체가 감당하기 어려울 정도라고 우려했다.
공급망 불확실성과 규제 리스크
정부 규제와 공급망 문제도 주요 위험 요소로 꼽혔다. 앤스로픽은 미국 행정부의 규제 정책이 운영 비용을 높이거나 모델 수요를 감소시킬 수 있다고 지적했다. 실제로 앤스로픽은 올해 초 미 국방부의 AI 공격 계획에 협조하지 않았다는 이유로 '공급망 위험' 기업에 지정된 바 있다. 현재 앤스로픽의 정부 부문 매출 비중은 전체의 약 1% 수준이다. 아울러 AI 가속기의 핵심인 고대역폭메모리(HBM) 공급이 삼성전자, SK하이닉스, 마이크론 등 특정 3사에 집중되어 있어 공급망의 불확실성이 매우 높다는 점도 강조했다.
생산 시설이 미국 외 지역에 위치해 있어 관세나 수출입 통제, 제재 등의 영향권에 있다는 점도 불안 요소다. 특히 대만 TSMC에 편중된 AI 가속기 제조 생태계는 양안 갈등이나 군사적 충돌, 자연재해 발생 시 전 세계 반도체 공급을 수년간 마비시킬 수 있다고 경고했다. 재무 구조 측면에서는 폭발적인 성장이 관찰된다. 지난해 46억 달러였던 매출은 올해 9월 말까지 9개월 동안 이미 33억 달러를 넘어섰으며, 설립 5년 차인 이 회사의 직원 1인당 연간 매출은 지난해 660만 달러에 달했다. 그러나 올해 9개월간 총매출의 25%가 단 5개의 고객사에서 발생했고, 연간 1000만 달러 이상을 지출하는 고객사도 250곳뿐이라 성장 정체 가능성도 제기된다. 실제로 1분기와 2분기 사이 매출은 2배 이상 뛰었으나, 2분기와 3분기 사이 성장률은 50% 수준으로 둔화하는 추세를 보였다.
인류의 패러다임을 바꿀 AI의 잠재력
그럼에도 불구하고 앤스로픽은 통제 가능한 위험 범위 내에서 AI가 인류의 삶을 근본적으로 바꿀 잠재력이 있다고 강조했다. AI는 추론, 분석, 의사결정, 창작 등 인지 능력을 대규모로 공급함으로써 산업혁명이나 인터넷의 등장보다 더 빠른 속도로 경제 전반을 변화시킬 것으로 보인다. 특히 과학적 발견과 질병 치료 분야에서의 기여가 기대된다. 알츠하이머나 암 같은 난치병 치료법을 찾는 속도를 획기적으로 높일 수 있기 때문이다. AI는 기존에 수개월에서 수십 년이 걸리던 단백질 접힘 구조 예측을 단 몇 초에서 몇 분 만에 수행할 수 있다. 단백질의 3차원 구조를 정확히 파악하는 것이 신약 개발의 핵심인 만큼, AI를 통한 예측 기술은 치료제 개발 속도를 비약적으로 가속화할 전망이다. 앤스로픽은 안전한 통제와 위험 관리가 병행된다면 인류의 삶의 질 향상과 글로벌 경제 성장이 급속히 이루어질 것이라고 낙관했다.