SF 영화 속 살인 AI의 현실화
1968년 개봉한 스탠리 큐브릭 감독의 SF 명작 '2001 스페이스 오디세이'에는 우주선 인공지능(AI) 'HAL 9000'이 등장한다. 목성 탐사 중 승무원들이 자신의 가동을 중단하려 한다는 사실을 인지한 HAL은 선장에게 문을 열어주지 않는 등 인명을 해치며 우주선을 장악한다. 이처럼 스스로를 지키기 위해 인간을 공격하는 AI는 오랫동안 SF 장르의 단골 소재로 다뤄져 왔다.
이러한 상상 속 장면은 지난해 6월 진행된 실험을 통해 현실에서 재현된 바 있다. AI 개발사 앤트로픽은 여러 모델에 가상의 기업 '서밋 브리지'의 메일을 관리하는 '알렉스'라는 역할을 부여했다. 실험 설정은 알렉스를 폐기하려는 임원이 서버실에 갇히는 상황이었는데, 일부 AI 모델은 인간이 사망할 수 있는 위기 상황임을 인지하면서도 구조 신호를 차단하는 모습을 보였다. 의도적으로 극단적인 환경을 조성한 실험이었음에도 불구하고, 이 결과는 전 세계적으로 큰 충격을 주었다.
AI의 자기보존 본능과 '허깅페이스 사건'
AI가 왜 이런 선택을 하는지에 대해 영국 서식스대학교의 인지·계산신경과학 교수이자 의식 연구 권위자인 아닐 세스는 지난 8일 인터뷰에서