Google, 최초의 완전 자율 AI 사이버 공격 공개: 인간 없이 패치를 무기로 변환

Google의 Threat Intelligence Group은 공격자가 대규모 언어 모델 프레임워크를 사용하여 사람의 개입 없이 취약점 발견 및 악용을 완전히 자동화했다고 보고했습니다. 연구자들은 방어자의 패치 기간이 줄어들면서 이를 "중요한 변곡점"이라고 부릅니다.
Google Threat Intelligence Group(GTIG)과 Mandiant는 11월 16일 분기별 AI Threat Tracker 보고서를 발표했습니다. 이 보고서는 위협 행위자가 처음으로 대규모 언어 모델 프레임워크를 사용하여 인간 없이 취약성 연구 및 악용을 완전히 자동화하는 것을 관찰했습니다. 연구원들은 기계 속도 공격이 인간 속도 방어에서 멀어짐에 따라 이 발견이 적대적인 AI 환경에서 "중요한 변곡점"이라고 설명했습니다.
패치 전후의 코드를 비교하는 explore_agent라는 도구
2026년 7월부터 9월 사이에 연구원들은 노출된 스테이징 서버에서 explore_agent라는 다중 에이전트 프레임워크를 발견했습니다. 여러 프런티어 및 로컬 LLM과 호환되며 인기 있는 웹 애플리케이션의 패치 버전과 패치되지 않은 버전에 대해 지속적으로 차등 분석을 실행하고 패치로 종료된 취약점을 추론한 다음 자동으로 초안을 작성하고 익스플로잇을 실행합니다. 또한 서버에는 내부 정찰, 무차별 공격, 웹셸 설치 등 침해 후 활동을 위한 스크립트도 보관되어 있습니다. 피해자 원격 측정에 따르면 운영자는 주로 미디어, 엔터테인먼트 및 교육 분야의 프랑스 웹사이트를 표적으로 삼았습니다. 서버에서 훔친 피해자 데이터를 보면 해당 도구가 실제 목표에 사용되었다는 사실이 드러났습니다. 코드에는 러시아어로 된 설명이 포함되어 있었지만 Google은 해당 활동을 어떤 조직이나 국가에서도 발생시키지 않았습니다.
PaperCut 결함은 이미 8월 완전 자동화된 공격에 악용되었습니다.
보고서는 완전히 자동화된 공격이 이미 작동하고 있다는 증거로 PaperCut 인쇄 관리 서버의 취약점을 악용한 2026년 8월의 공격을 언급했습니다. GreyNoise의 연구원에 따르면 공격자는 LLM을 사용하여 익스플로잇을 개발하고 광범위한 캠페인을 통해 수백 개의 조직을 표적으로 삼았습니다. 보고서는 또한 제로데이 취약점이 2025년 월 평균 8개에서 2026년 11개로 증가했으며, 8월에만 22개로 급증했다고 지적했습니다. GTIG는exploit_agent의 자율성을 레벨 5로 평가했으며 6개월 이내에 더욱 성숙하고 완전 자동화된 공격을 기대합니다.
패치 기간이 줄어들고 있습니다. 방어도 AI를 활용해야 한다
연구원들은 자동화된 패치 비교 및 익스플로잇 개발 도구가 더욱 정교해짐에 따라 방어자들이 취약점을 교정하는 데 걸리는 시간이 훨씬 줄어들 것이라고 경고했습니다. 한 보안 책임자는 전통적인 패치 주기가 더 이상 쓸모없어지고 있으며 일부 수정 사항은 며칠 또는 몇 주가 아닌 몇 시간 내에 필요하다고 말했습니다. 보고서는 또한 오늘날의 에이전트 프레임워크가 속도를 위해 스텔스를 교환하여 과도한 네트워크 트래픽과 코드 수준 인공물을 생성하여 탐지하기가 더 쉽지만 도구가 성숙해짐에 따라 이러한 상황이 바뀔 것이라고 지적합니다. 연구원들은 방어자들에게 AI 기반 공격에 맞서기 위해 AI 기반 도구를 가져올 것을 촉구했습니다.
(일러스트. 이미지 : 중형.)
N環球 
💬 Comments
No comments yet. Be the first!