무슨 일이 있었나
2026년 5월 11일, 구글 위협 인텔리전스 그룹(GTIG) 은 보안 업계가 오랫동안 우려해 온 사실을 담은 보고서를 발표했습니다. 구글이 처음으로 AI의 도움을 받아 개발된 것으로 높은 확신을 가지고 판단되는 제로데이 익스플로잇을 범죄 조직이 사용하는 사례를 확인한 것입니다.
파이썬으로 작성된 이 익스플로잇은 널리 쓰이는 오픈소스 웹 기반 시스템 관리 도구의 2단계 인증(2FA)을 우회할 수 있었습니다. 구글은 도구 이름을 공개하지 않았습니다. GTIG에 따르면 범죄자들은 대규모 악용을 계획했지만, 조기 발견 덕분에 구글이 공급업체에 알렸고 대규모 공격 전에 결함이 수정되었습니다.
구글은 어떻게 AI라고 판단했나
GTIG는 모델이 사용되는 장면을 직접 본 것이 아니라 코드 자체를 분석해 결론을 내렸습니다. 스크립트에는 LLM이 생성한 코드의 전형적인 "지문"이 있었습니다.
- 각 단계를 튜토리얼처럼 설명하는 교육용 docstring이 매우 많음
- 주석 안에 지어낸(환각) CVSS 점수가 있음
- 상세한 도움말 메뉴와 깔끔한 ANSI 색상 클래스 등 "교과서식" 파이썬 형식
구글은 Gemini가 사용되었다는 증거는 없다고 밝혔습니다. 즉, 다른 업체의 모델이나 공개 모델이 사용되었을 가능성이 있습니다.
이 결함이 중요한 이유
이 취약점은 메모리 오류나 입력 검증 실수 같은 전형적인 버그가 아니었습니다. 개발자가 코드에 신뢰 가정을 하드코딩해 두었고, 그 예외가 사실상 2FA를 무력화하는 고수준 논리 결함이었습니다. 기존 퍼저와 정적 분석 도구는 코드가 정상 동작하는 것처럼 보이기 때문에 이런 오류를 찾기 어렵습니다.
반면 언어 모델은 개발자의 "의도를 읽고" 2FA 규칙과 하드코딩된 예외 사이의 모순을 알아차리는 데 강합니다. 익스플로잇에는 유효한 계정 정보가 필요했지만, 유출된 비밀번호와 결합하면 큰 장벽이 아닙니다.
보고서의 다른 내용
같은 GTIG 보고서에는 다음 내용도 담겼습니다.
- PromptSpy: Gemini API로 피해자의 화면을 이해하고 스스로 행동하는 안드로이드 악성코드로, 보이지 않는 오버레이로 삭제 버튼까지 막음
- 중국과 북한 연계 그룹이 취약점 연구에 AI를 활용하며, PoC 검증을 위해 수천 건의 반복 프롬프트를 전송
- Hexstrike AI, Strix 같은 에이전트형 도구가 일본 기술 기업 공격에 사용됨
- 차단을 피하기 위해 프리미엄 AI 계정을 자동으로 만들고 해지하는 회색 시장
기업에 주는 의미
결함 발견부터 악용까지의 시간이 계속 줄고 있습니다. 중소기업을 위한 실질적인 교훈은 다음과 같습니다.
- 인터넷에 노출된 관리 도구는 "작은" 오픈소스라도 빠르게 패치하세요.
- 관리자 패널을 직접 노출하지 마세요. VPN이나 제로 트러스트 접근을 사용하세요.
- 유출된 계정 정보를 모니터링하세요. 이번 익스플로잇도 유효한 아이디와 비밀번호가 필요했습니다.
- 2FA는 절대적인 보장이 아니라 하나의 방어 계층으로 다루세요.
출처
- 구글 공식 블로그(2026년 5월 11일): https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/google-threat-intelligence-group-report/
- The Hacker News: https://thehackernews.com/2026/05/hackers-used-ai-to-develop-first-known.html
- SC Media: https://www.scworld.com/news/google-reports-first-known-ai-assisted-zero-day-exploit-in-the-wild
외부에 노출된 시스템이 AI로 가속화된 공격에 대비되어 있는지 궁금하신가요? KGA IT는 무료 상담을 제공합니다: kga-it.com