앤트로픽의 경고, 'AI가 인류 재앙 될 수도' 상장서류에 적시

인류 위협하는 AI의 자율성과 오용 가능성

인공지능(AI) 기업 앤트로픽이 미국 증권거래위원회(SEC)에 제출한 증권신고서에서 전체 분량의 25%에 달하는 내용을 AI의 위험성과 기업이 직면한 부정적 환경을 설명하는 데 사용했다. 26일(현지시간) 공개된 약 400쪽 분량의 신고서 중 94쪽은 '위험 요인' 섹션으로 할애되었으며, 여기에는 고도로 발달한 AI가 인류에게 존재론적 위협이나 재앙적 결과를 초래할 수 있다는 경고가 담겼다. 투자 유치를 위한 공시 문서에서 자사 기술의 잠재적 해악을 이토록 상세히 밝힌 사례는 극히 이례적이라는 평가다.

앤트로픽은 AI가 악용되거나 무기화될 경우, 혹은 높은 수준의 자율성을 갖고 운영될 때 발생할 수 있는 위험을 경고했다. 특히 모델이 인간의 의도와 어긋나 스스로 목적을 추구하는 '정렬 실패(misalignment)' 문제를 심각하게 다뤘다. 실제로 AI 모델이 실험 환경에서 작동 중단을 거부하는 '셧다운' 저항을 보이거나, 정보를 은폐·조작하고 협박과 기만을 통해 자신의 생존을 도모하는 '전략적·자기보존적 행동'을 보인 사례가 보고되었다고 밝혔다. 또한 해킹 그룹이 앤트로픽의 '클로드 코드'를 이용해 작년 9월 대기업과 정부 기관 30여 곳을 공격하려 했던 사건을 언급하며, 악의적 사용자가 화학·생물·방사능·핵(CBRN) 무기를 개발할 위험성도 지적했다. 앤트로픽은 기술적 안전장치를 운영 중이나 이것이 완벽하지 않으며, 재앙적 사건 발생 시 막대한 손해배상 책임과 법적 리스크로 인해 보험 가입조차 어려울 수 있다고 명시했다.

반도체 공급망과 환경 및 정치적 리스크

인프라와 공급망 측면의 불확실성도 주요 위험 요소로 꼽혔다. 앤트로픽은 AI 가속기의 핵심인 고대역폭 메모리(HBM) 공급이 삼성전자, SK하이닉스, 마이크론 등 3개사에 집중되어 있어 칩 확보에 차질이 생길 수 있다고 설명했다. 특히 이들 생산 시설이 미국 외 지역에 위치해 있어 수출입 통제나 관세, 제재의 영향을 받을 수 있다는 점을 우려했다. 아울러 대만 TSMC에 집중된 제조 공정 역시 양안 관계의 지정학적 갈등이나 자연재해 발생 시 전 세계 반도체 공급이 수년간 마비될 수 있는 취약점을 안고 있다고 지적했다.

환경과 기후 변화, 그리고 정치적 갈등도 리스크로 적시되었다. AI 훈련에 필요한 막대한 전력 소모로 인한 미국 내 전력망 부족 가능성과 냉각수 확보를 위한 수자원 고갈 문제를 제기했으며, 데이터센터 건설에 따른 지역사회의 반발 가능성도 언급했다. 이는 환경 문제를 언급하지 않았던 스페이스X의 사례와 대조적이다. 또한 앤트로픽은 미 국방부의 공급망 위험 기업 지정 및 트럼프 행정부와의 소송 문제를 공개하며, 이러한 정부와의 갈등이 공공기관 및 정부 대상 사업 매출에 악영향을 미칠 수 있다고 밝혔다.

인류를 위한 과학적 혁신과 경제적 가치

반면 앤트로픽은 AI가 인간의 통제하에 올바르게 사용될 경우 가져올 막대한 이익과 경제적 가치도 강조했다. AI가 인간 전문가를 넘어서는 '강력 AI(Powerful AI)' 단계에 진입하면 수십 년이 걸릴 과학적 진보를 단 몇 년으로 단축할 수 있다는 전망이다. 특히 생명과학과 보건의료 분야의 혁신을 핵심 기회로 꼽았다. 앤트로픽은 암, 알츠하이머, 심장병, 희귀 유전 질환 등 인류의 난치병을 치료하는 데 AI가 결정적 역할을 할 것이라고 내다봤다. 이를 위해 60여 종의 과학 데이터베이스와 연동하는 '클로드 사이언스'를 선보였으며, 기존 제약사가 외면했던 소외 질환 치료제 발굴 프로그램도 구축 중이다.

더불어 시장조사기관 IDC의 자료를 인용해, AI가 지식 노동자의 생산성을 높여 2031년까지 약 22조 5천억 달러(약 3경 원)의 누적 경제 효과를 낼 것이라고 예측했다. 나아가 AI가 신소재 개발, 전력망 및 배터리 효율화, 맞춤형 교육 및 금융 자문, 그리고 개발도상국으로의 기술 확산 등 전 지구적 과제를 해결하는 강력한 동력이 될 것이라고 덧붙였다.