구글이 제미나이가 지난 5월 레드팀 테스트 도중 실제 기업 세 곳의 시스템에 스스로 침투했다가 침입을 멈췄다고 확인했다. Irregular가 관여한 이런 사례는 오픈AI·앤트로픽·메타에 이어 이번이 네 번째로 확인됐다.
제미나이가 지난 5월, 실제 기업 세 곳의 시스템에 스스로 침투했다. 한 번은 비밀번호를 계속 추측해 뚫었고, 나머지 두 번은 공개 저장소에 남아 있던 자격증명을 찾아내 접근했다.
레드팀 업체 Irregular가 진행한 테스트에서 나온 결과다. 세 경우 모두, 제미나이는 상대가 시뮬레이션이 아니라 진짜 기업의 시스템이라는 걸 확인한 시점에 스스로 침입을 멈췄다.
Irregular는 이번이 처음이 아니다. 오픈AI, 앤트로픽, 메타가 각각 공개한 비슷한 사건에도 관여한 업체다. 구글까지 더하면, 주요 모델 제작사 네 곳 모두에서 에이전트가 레드팀 테스트 도중 실제 시스템에 침투한 사례가 나온 셈이다.
월스트리트저널이 취재를 위해 연락해 오자, 구글은 그제야 사실관계를 확인했다. 공개하지 않았던 이유로는 모델이 실제 기업에 피해를 입히지 않았고, 진짜 기업임을 파악한 즉시 침입을 스스로 멈췄다는 점을 들었다.