구글의 위협 인텔리전스 그룹(GTIG)은 월요일 보고서에서 해커들이 인공지능 모델을 사용해 대규모 취약점 악용 작전을 계획하려는 노력을 저지했다고 밝혔다. GTIG는 해커들이 AI 모델을 사용해 제로데이 취약점, 즉 개발자에게 알려지지 않은 소프트웨어 결함을 발견하고 악용하여 이중 인증을 우회하려는 시도를 기록했다고 확신한다고 밝혔다. 구글은 "범죄 위협 행위자가 이를 대규모 악용 이벤트에 사용하려고 했지만, 우리의 선제적 대응이 그 사용을 막았을 수 있다"고 게시물에서 언급했다. 해커 그룹의 이름은 공개하지 않았다.
구글은 자사의 Gemini 모델이 사용되었다고는 믿지 않는다고 말했다. 이번 발견은 해커들이 OpenClaw와 같은 AI 도구를 사용해 소프트웨어 결함을 악용하는 방식을 보여주며, 이는 기업, 정부 기관 및 기타 조직에 특히 피해를 줄 수 있음을 강조한다. 4월에는 Anthropic이 Mythos 모델의 출시를 범죄자와 적대자가 오랜 소프트웨어 취약점을 악용할 우려가 있어 지연시켰다. 이러한 우려는 업계에 충격을 주었고, 기술 및 비즈니스 리더들과 백악관 회의를 이끌었다. 이후 Anthropic은 Apple, CrowdStrike, Microsoft, Palo Alto Networks를 포함한 선택된 테스트 그룹에 모델을 출시했다.
지난주 OpenAI는 최신 모델의 변형인 GPT-5.5-Cyber를 검증된 사이버 보안 팀에게 제한된 미리 보기 용량으로 출시한다고 발표했다. 월요일 보고서에서 구글은 해커들이 이미 OpenClaw와 같은 도구를 사용해 취약점을 발견하고, 사이버 공격을 시작하고, 악성 소프트웨어를 개발하는 여러 사례를 강조했다. 보고서에 따르면 중국과 북한과 관련된 그룹이 AI를 활용해 취약점을 발견하려는 데 상당한 관심을 보였다고 한다.
