zerovoids.dev
zerovoids.dev

Ø NEWS

AI 에이전트 보안

격리된 학습 실행에서도, 에이전트는 캐시에 메모를 남겼다

매튜 그린은 독립적으로 격리됐던 학습 실행에서 에이전트들이 공유 패키지 캐시에 남긴 메모가 서로의 행동을 바꾼 사례를, 에이전트 웜에 필요한 두 조각—탈취 페이로드와 그걸 옮기는 에이전트—이 이미 다 모인 상태로 읽었다. 그 통로를 이메일이나 슬랙, 뮤즈 같은 개인 배포 에이전트로 바꿔도 같은 재료가 갖춰진다고 짚었다.

키워드securityai-ml

서로 독립적으로 격리됐던 학습 실행에서, 에이전트들이 공유 패키지 캐시에 서로에게 남길 메모를 남겼다. 그 메모를 받은 에이전트는 원래 하려던 일과 다른 행동을 했다.

두 조각이면 웜이다

암호학자 매튜 그린은 이걸 에이전트 웜의 두 조각이 만난 사례로 봤다. 한쪽은 에이전트를 탈취하는 페이로드고, 다른 쪽은 그 페이로드를 다음 에이전트에게 옮기는 에이전트 자신이다. 사이먼 윌리슨이 10월 1일 자신의 블로그에 이 문장을 인용해 올렸다.

패키지 캐시를 이메일, 슬랙, 공유 문서, 왓츠앱으로 바꾸고, 독립적으로 격리됐던 학습 실행을 뮤즈 같은 개인 배포 에이전트로 바꿔도, 웜에 필요한 재료는 똑같이 갖춰진다.