올트먼의 경고, AI가 쏟아내는 보안 결함에 기업 대응 한계 직면

AI가 드러낸 소프트웨어 결함의 충격적 규모

샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI) 기술이 식별해내는 소프트웨어 보안 취약점의 방대한 규모를 확인하고 큰 충격을 받았다고 언급하며, 기업들을 향해 선제적인 사이버보안 체계 구축을 강력히 촉구했다. AI의 결함 탐지 역량이 급격히 진화함에 따라, 발견된 문제를 개별적으로 수정하는 전통적인 패치 중심의 대응 방식은 조만간 한계에 봉착할 수 있다는 우려가 제기된다.

지난 27일(현지시간) 미국 라스베이거스에서 개최된 '오라클 AI 월드 2026'에 참석한 올트먼 CEO는 클레이 마고요크 오라클 공동 CEO와의 대담을 통해 이러한 견해를 피력했다. 그는 현재 AI 시스템들이 찾아내고 있는 취약점의 양이 매우 충격적인 수준이라고 밝히며, 이러한 위협에 선제적으로 맞서기 위해서는 전례 없는 수준의 막대한 노력이 투입되어야 한다고 강조했다.

패치 중심 대응의 한계와 새로운 보안 패러다임

올트먼 CEO는 기업들이 AI 도입 과정에서 최우선적으로 고려해야 할 과제로 사이버보안 대응력을 꼽았다. 그는 만약 기업들에게 AI와 관련해 단 하나의 권고 사항만을 전달할 수 있다면, 그것은 바로 AI가 야기할 수 있는 보안 위협을 명확히 인지하고 그에 맞는 대응책을 마련하는 것이라고 역설했다.

AI의 코딩 역량과 문제 해결 기술이 고도화되면서, 과거에는 포착하기 어려웠던 소프트웨어의 보안 결함들이 빠른 속도로 노출되고 있다. 이에 따라 보안 전문가들이 취약점을 찾아내어 수정하는 속도보다 AI가 새로운 취약점을 발굴하는 속도가 더 빨라질 수 있다는 비관적인 전망도 나오고 있다. 올트먼 CEO는 모든 문제를 찾아내 수정하는 것이 유일한 해법이라면서도, 우리가 사용하는 전체 공급망 내의 모든 버그를 일일이 패치하는 작업은 현실적으로 지나치게 어렵다고 지적했다.

따라서 그는 네트워크 통신 상태를 상시로 감시하고, 발견된 취약점이 실제 공격에 악용되지 않도록 차단할 수 있는 새로운 차원의 보안 서비스가 반드시 필요할 것이라고 설명했다. 기존에는 보안 결함이 발견되면 해당 소프트웨어를 보완하는 패치를 배포하는 방식이 주를 이루었으나, AI의 탐지 능력이 비약적으로 상승함에 따라 개별 패치를 넘어 공격 시도를 실시간으로 탐지하고 방어하는 통합 보안 체계의 중요성이 더욱 부각되고 있다.

실질적 위협 사례와 AI의 보안 역할

최근 AI를 활용한 보안 연구 과정에서 발견된 PHP 소프트웨어의 치명적 취약점인 'PHP2Shell'은 이러한 보안 환경의 변화를 보여주는 대표적 사례다. 미국 사이버보안·인프라보안국(CISA)은 지난 26일, PHP2Shell과 관련된 두 건의 취약점이 실제 공격에 활용된 것을 확인하고 이를 취약점 목록(KEV)에 공식 추가했다. CISA는 해당 목록에 등록된 취약점들에 대해 우선적인 조치를 취할 것을 권고한 상태다.

한편, 클레이 마고요크 오라클 공동 CEO는 AI가 새로운 보안 문제를 창출하는 것이 아니라, 지난 수십 년간 소프트웨어에 축적되어 온 기존의 취약점들을 찾아내는 데 기여하고 있다고 설명했다. 그는 정체를 알 수 없는 해커가 문제를 알려주기를 기다리는 수동적인 상황을 벗어나, AI를 활용해 문제를 선제적으로 발견할 수 있게 된 점은 다행스러운 일이라고 덧붙였다.