예체능 전공자인 30대 남성이 인공지능(AI) 기술을 활용해 단 40여 일 만에 국내 기업 60곳을 해킹하는 범죄를 저질렀다. 유튜브와 블로그를 통해 해킹 기술을 독학한 이 남성은 AI를 도입하기 전 1년 동안 30개 업체에 침입했으나, AI를 사용한 뒤로는 하루 평균 한 곳 이상의 기업을 해킹하는 속도를 보였다. 전문 해커 조직의 전유물로 여겨졌던 대규모 공격이 AI의 등장으로 개인에게까지 확산된 셈이다.

AI가 불러온 해킹의 대중화

보안업계에 따르면 이번 사건은 해킹 기법을 가르쳐주던 AI가 실제 공격 수단으로 변모하는 ‘해킹의 대중화’ 현상을 극명하게 보여준다. 모의해킹 및 앱 보안 전문 기업인 스틸리언의 박찬암 대표는 AI를 이용할 경우 해킹 지식이 부족한 비전공자라 할지라도 중급 수준의 공격을 수행할 수 있을 만큼 기술적 진입 장벽이 낮아졌다고 분석했다.

서울경찰청 사이버수사과는 지난달 26일, 해킹 조직의 총책인 32세 남성 A 씨를 포함해 7명을 검거하고 A 씨를 구속했다고 발표했다. 실제 해킹은 A 씨가 단독으로 수행했으며, 나머지 인원은 텔레그램의 ‘간단한 전화 아르바이트’ 공고를 통해 모집된 공범(24)과 전화 한 통당 1만~3만 원의 수당을 받으며 피해 업체에 송금을 독촉한 5명으로 확인되었다.

IT 비전공자인 A 씨는 2019년부터 2020년 사이 보안업체에서 모의해킹 업무를 수행한 경력이 전부다. 그는 지난해 9월부터 올해 8월까지 웹사이트의 보안 취약점을 찾아내는 자동화 도구를 활용했다. 다만 취약점 탐지는 도구가 수행하더라도 어떤 도구를 선택하고 명령어를 입력할지는 인간의 판단이 필요했기에, 1년간의 해킹 성과는 30곳에 머물렀다.

AI 자율 침투로 급증한 범행 규모

범행 규모가 급격히 확대된 시점은 8월 말 보안 점검용 AI 자율 침투 테스트 시스템인 ‘아르텍스(ARTEX)’를 도입하면서부터다. 아르텍스는 공격 대상만 입력하면 도구 선정부터 침투 경로 확보까지 AI가 스스로 판단하여 수행한다. 이 시스템을 통해 공격 효율이 극대화된 A 씨는 무차별적인 공격을 펼쳐 40여 일 만에 60개 기업을 추가로 해킹했다.

결과적으로 A 씨는 AI 도입 전후를 통틀어 학원, 병원, 골프장, 대기업 계열사 등 총 90여 곳의 보안망을 무너뜨렸다. 이 과정에서 탈취된 개인정보와 기업 내부 자료는 820만 건을 넘어섰다. 그는 탈취한 자료를 이용해 38곳의 업체에 과징금 부과나 소송을 언급하며 3억 6,000만 원을 요구하는 협박 메일을 보냈다. 실제 확보한 금액은 영세 업체 한 곳에서 받은 30만 원뿐이었으나, 압수수색 당시 컴퓨터에는 여전히 AI 해킹 도구가 실행 중이었다.

웹사이트 해킹은 외부로 노출된 서버의 보안 허점을 찾아내는 과정으로 시작된다. 공격 프로그램이 침입 후 권한을 획득해 자료를 빼내는 일련의 과정을 ‘AI 에이전트’가 통째로 수행하며, 차단될 경우 우회로까지 스스로 찾아낸다. 실제 보안 허점이 있는 가상 서버에 아르텍스를 적용해 본 결과, 표적 주소 입력 후 단 43초 만에 최고 관리자 권한을 획득했으며, 보고서 작성까지는 4분, 비용은 단 20원밖에 들지 않았다.

국가 연계 조직의 위협과 방어의 과제

해외에서는 국가 기관과 연계된 해킹 조직들도 이러한 도구를 사용하고 있다. 마이크로소프트의 지난달 21일 보고서에 따르면, 중국 정부와 연계된 ‘스톰-0940’ 조직이 아르텍스를 이용해 전 세계 수백 개의 기업과 기관을 공격했다. 일부 대상은 표적이 된 지 3시간도 지나지 않아 클라우드 관리 권한을 탈취당했다. 구글의 9월 보고서에서도 공격자가 장악한 클라우드를 거점으로 AI를 활용해 수천 개의 계정 인증 정보를 6시간도 안 되는 짧은 시간에 긁어모은 사례가 보고되었다.

공격이 정교해지고 빨라짐에 따라 방어 측면에서는 이것이 AI의 소행인지 식별하는 것이 핵심 과제가 되었다. 박찬암 대표는 AI 공격을 100% 판별하기는 어렵지만, 마우스의 움직임이 부자연스럽거나 키보드 입력 및 스크롤 방식이 인간과 다른 점, 혹은 특정 공격용 프로그램을 사용하는 특징 등을 통해 탐지가 가능하다고 설명했다.

AI는 실패하더라도 다른 타겟을 계속해서 찾는 ‘잠들지 않는 해커’의 특성을 지닌다. 이에 따라 기업이 마주하는 공격 시도도 늘어나고 있으며, 과학기술정보통신부와 한국인터넷진흥원의 자료에 따르면 올 상반기 침해사고 신고는 1,236건으로 전년 동기 대비 19.5% 증가했다. 구체적인 AI 공격 건수는 집계되지 않았으나 현장의 위기감은 고조되고 있다.

전문가들은 기업들이 인터넷과 연결된 모든 정보자산을 우선 파악하고, 한 서버가 뚫리더라도 내부 확산이 일어나지 않도록 하는 방어 체계를 구축해야 한다고 조언한다. 그러나 보안 인력과 예산이 부족한 중소기업들은 이러한 대응에 한계를 느끼고 있다. 이번 사건에서도 피해 업체 90여 곳 중 신고된 곳은 15곳에 불과했다. 황석진 동국대 교수는 중소기업의 자체 대응 한계를 지적하며 당국의 적극적인 감독을 강조했다.