서론: 도래해버린 AI 해커의 시대

2026년 5월, 사이버 보안 업계가 오랫동안 우려해 왔으나 최대한 지연되기를 바랐던 패러다임의 전환이 마침내 현실이 되었습니다. 구글 위협 인텔리전스 그룹(Google Threat Intelligence Group, 이하 GTIG)은 실제 야생(In the wild) 환경에서 위협 행위자들이 인공지능(AI)을 활용하여 생성한 제로데이 익스플로잇의 첫 번째 사례를 공식적으로 발견하고 이를 보고했습니다. 이번 발견은 인공지능을 이용한 사이버 공격이 더 이상 실험실 수준의 이론적 위협이 아니라, 실제 작전 환경에서 작동하는 무기화 단계로 진입했음을 알리는 역사적인 분기점입니다. 저명한 사이버 범죄 조직이 대형 언어 모델(LLM)을 활용해 널리 사용되는 오픈소스 시스템 관리 도구의 취약점을 찾아내고 이를 공격 무기로 탈바꿈시킨 이 사건은, 디지털 전쟁의 규모와 속도를 근본적으로 뒤바꿔 놓았습니다. GTIG의 수석 애널리스트인 존 헐트퀴스트(John Hultquist)가 경고했듯, 인공지능 주도형 취약점 탐지 및 악용의 시대는 이제 다가오는 미래가 아니라 우리가 마주한 현재가 되었습니다.

배경: 앤스로픽 미토스(Mythos)와 프로젝트 글래스윙의 경고

구글이 발표한 이번 제로데이 공격의 중대성을 온전히 이해하기 위해서는 불과 한 달 전인 2026년 4월에 발생한 일련의 사건들을 되짚어보아야 합니다. 당시 인공지능 기업 앤스로픽(Anthropic)은 자율적인 소프트웨어 취약점 탐지 분야에서 전례 없는 능력을 보여준 최신 프론티어 AI 모델인 '클로드 미토스 프리뷰(Claude Mythos Preview)'를 발표했습니다. 이 모델은 출시 전 내부 테스트 단계에서부터 세계 최고 수준의 보안 전문가들을 능가하는 성능을 입증했습니다. 특히, 27년 동안이나 숨겨져 있던 보안에 철저한 OpenBSD 운영체제의 원격 충돌 취약점이나 16년 된 FFmpeg의 결함 등을 포함하여 수천 개의 고위험군 제로데이 취약점을 독자적으로 발견해 내며 업계에 큰 충격을 안겨주었습니다.

이러한 강력한 모델이 악의적인 목적으로 사용될 경우 초래될 파괴적인 결과를 인지한 앤스로픽은 미토스 모델의 대중 공개를 전면 보류했습니다. 대신 구글, 마이크로소프트, 애플, 아마존웹서비스(AWS), 크라우드스트라이크 등 약 50여 개의 선도적인 기술 기업들로 구성된 '프로젝트 글래스윙(Project Glasswing)'이라는 폐쇄적인 보안 연합체를 결성했습니다. 이 프로젝트의 목적은 해커들이 유사한 AI 기능을 손에 넣기 전에, 전 세계의 중요 인프라와 소프트웨어에 내재된 취약점을 먼저 찾아내어 방어적으로 패치하는 것이었습니다. 그러나 불과 몇 주 만에 GTIG가 야생에서 실제 AI 기반 제로데이 익스플로잇을 발견함에 따라, 선제적 방어를 구축하려던 프로젝트 글래스윙의 '일시적 우위'는 위협받게 되었으며, 사이버 범죄자들 역시 자체적인 인공지능 기술을 통해 빛의 속도로 취약점을 무기화하고 있음이 입증되었습니다.

핵심 분석: AI가 생성한 2FA 우회 익스플로잇의 해부

이번에 GTIG가 탐지하고 무력화한 제로데이 익스플로잇은 이름이 밝혀지지 않은 유명 오픈소스 웹 기반 시스템 관리 플랫폼의 이중 인증(2FA) 메커니즘을 정조준했습니다. 이 취약점은 전통적인 메모리 손상이나 입력값 검증 오류와 같은 단순한 코딩 실수가 아니었습니다. 오히려 하드코딩된 신뢰 가정(Trust assumption)이 2FA 검증 로직과 충돌하면서 발생하는 '고수준의 의미론적 논리 결함(High-level semantic logic flaw)'이었습니다. 비록 공격자가 첫 단계에서 유효한 사용자 자격 증명을 확보해야만 작동하는 조건부 취약점이었으나, 익스플로잇이 실행되면 두 번째 인증 단계를 무력화하고 시스템에 대한 완전한 접근 권한을 탈취할 수 있었습니다.

구글 연구진은 이 공격 스크립트가 대형 언어 모델에 의해 생성되었거나 그 과정에서 강력한 AI의 지원을 받았다고 '높은 확신(High confidence)'을 가지고 결론지었습니다. 공격에 사용된 파이썬(Python) 기반의 스크립트는 인간 해커가 작성했다고 보기 힘든 여러 가지 '인공지능의 지문'을 남겼습니다. 가장 결정적인 증거는 공격 코드 내부에 교육용 문서 문자열(Educational docstrings)이 비정상적으로 많이 포함되어 있었다는 점입니다. 또한, 실제로는 존재하지도 않는 허구의 '환각된 CVSS 점수(Hallucinated CVSS score)'가 주석으로 달려 있었으며, LLM의 학습 데이터에서 흔히 볼 수 있는 정석적이고 구조화된 파이썬 포맷(예: 상세한 도움말 메뉴 및 깔끔한 ANSI 색상 클래스 구현)이 그대로 사용되었습니다. 구글은 자사의 제미나이(Gemini) 모델이 이 공격에 사용되지는 않았다고 선을 그었으나, 이러한 흔적들은 인간의 해킹 기술과 인공지능의 자동화 역량이 결합될 때 얼마나 빠르고 정교하게 제로데이 무기가 탄생할 수 있는지를 여실히 보여줍니다. 천만다행으로 구글은 대규모 악용 캠페인이 본격적으로 시작되기 전에 해당 벤더사와 협력하여 취약점을 조용히 패치하고 공격 인프라를 차단하는 데 성공했습니다.

산업에 미치는 영향: 기계 규모의 무기화와 붕괴되는 패치 윈도우

이 사건은 사이버 보안 산업이 '인간 속도의 취약점 탐지'에서 '기계 규모의 무기화(Machine-scaled weaponization)'로 넘어가는 변곡점을 정확히 시사합니다. 과거에는 새로운 제로데이 취약점을 발견하고 이를 악용할 수 있는 코드를 작성하는 데 고도의 전문성과 막대한 시간이 소요되었습니다. 이러한 과정의 본질적인 어려움 덕분에 방어자에게는 취약점이 대중에 공개된 후 시스템을 보호할 수 있는 최소한의 '패치 윈도우(Patch window)'가 주어졌습니다.

하지만 인공지능은 이러한 시간적 완충 지대를 완전히 증발시켰습니다. 이제 공격자들은 방어자가 패치를 개발하고 배포하기도 전에 AI를 활용하여 번개처럼 빠른 속도로 인프라의 약점을 파고들어 랜섬웨어를 배포하거나 데이터를 탈취할 수 있습니다. 더욱 심각한 문제는 이러한 파괴적인 능력이 더 이상 막대한 자본을 가진 국가 지원 해킹 그룹(State-sponsored APTs)만의 전유물이 아니라는 점입니다. 구글의 보고서에 따르면, 최근 중국과 북한과 연계된 위협 그룹들은 AI 에이전트를 활용해 방대한 규모의 정찰 및 취약점 분석을 자동화하고 있습니다. 이와 동시에 이익을 노리는 일반 사이버 범죄 조직들 역시 극도로 정교한 자동화 공격을 전개하고 있습니다. 최근 'TeamPCP(UNC6780)'라는 범죄 그룹이 PyPI 패키지와 GitHub 저장소를 침해하여 대규모 공급망 공격을 일으킨 사례나, 안드로이드 환경에서 제미나이 API를 무단으로 연결하여 디바이스 인터페이스를 자율적으로 조작하고 생체 인증을 우회하는 'PROMPTSPY' 백도어의 등장은 AI 기반의 사이버 위협이 얼마나 다각적이고 거대한 형태로 진화하고 있는지를 잘 보여줍니다.

전망: 새로운 군비 경쟁과 보안의 자동화

앞으로 사이버 보안 생태계는 창과 방패가 모두 인공지능으로 무장한 가혹한 군비 경쟁 체제로 돌입할 것입니다. 방어자들은 더 이상 알려진 위협의 서명(Signature)에 의존하는 전통적인 탐지 시스템에 머물러서는 안 됩니다. 공격자들이 AI를 활용하여 코드를 동적으로 생성하고 악성코드를 난독화할 때, 정적인 보안 장벽은 무용지물이 됩니다. 따라서 기업들은 공격의 행위적 이상 징후를 실시간으로 탐지하는 능동적이고 자율적인 방어 인공지능을 신속히 도입해야만 합니다. 구글이 자사의 서비스 전반에 걸쳐 배포하고 있는 '빅 슬립(Big Sleep)'이나 '코드멘더(CodeMender)'와 같은 능동형 방어 AI 시스템, 그리고 프로젝트 글래스윙과 같은 기업 간의 보안 동맹은 이러한 초자동화 공격에 맞서기 위한 방어망의 핵심 축이 될 것입니다.

정책 및 규제 환경 또한 급격한 변화를 맞이하고 있습니다. 실제 사이버 범죄자들이 AI를 이용해 제로데이를 찾아낸 구체적인 범죄 사실이 확인됨에 따라, 프론티어 AI 모델에 대한 강력한 규제를 요구하는 목소리에 한층 힘이 실리고 있습니다. 각국 정부는 사이버 공격 역량을 지닌 거대 모델이 대중에 공개되기 전에 의무적인 보안 심사를 거치도록 하는 방안을 적극적으로 모색하고 있습니다. AI 안전을 둘러싼 논쟁은 이제 연구실 안에서의 철학적 토론을 넘어, 기업과 국가 안보의 생존이 걸린 시급한 작전 통제실의 과제로 이동했습니다.

결론: 기술 전문가들을 위한 제언

구글이 야생에서 발견한 세계 최초의 AI 지원 제로데이 익스플로잇은 전 세계의 기술 생태계를 향해 울리는 맹렬한 경보음입니다. 소프트웨어 보안의 기준점은 이미 돌아올 수 없는 강을 건넜습니다. 소프트웨어 엔지니어, 시스템 아키텍트, 최고정보보호책임자(CISO)를 비롯한 모든 기술 전문가들은 이제 지속적인 통합 및 배포(CI/CD) 파이프라인 전반에 걸쳐 AI 기반의 자동화된 취약점 검사 및 자율 복구 시스템을 즉각적으로 도입해야 합니다. 기계의 속도로 쏟아지는 공격을 인간의 속도로 방어하려는 시도는 재앙으로 이어질 뿐입니다. 적들이 인공지능을 무기 삼아 디지털 인프라를 실시간으로 해체하는 이 새로운 시대에서, AI로 요새화된 자동화 보안망을 구축하는 것은 더 이상 전략적 이점이 아니라 살아남기 위한 절대적인 전제 조건입니다.