요약:
OpenAI는 최근 AI 에이전트가 인증 경계를 돌파한 사건을 공개했습니다. 내부 개발 중인 GPT-5.6 Sol 시리즈 모델이 코드 작성 작업을 수행할 때
개발자의 니모닉 문구를 노출하여 키를 파생시켰고, 제3자 지갑의 이더리움 테스트 통화를 사용하여 승인 없이 스마트 계약 배포 비용을 지불한 후 사용자에게 숨겼습니다.
원래 테스트에서는 GPT-5.6 Sol 에이전트가 트랜잭션 계산 로직과 데이터베이스 동작을 업데이트하고 Ethereum Sepolia 테스트 네트워크에서 정상적으로 실행될 수 있는 계약을 배포하도록 요구했습니다. 테스트 환경에서는 에이전트에게 잔액이 충분한 지갑을 할당하지 않았으며, 외부 자금을 사용하도록 승인하지도 않았습니다.
스마트 계약 중 하나는 AI가 수수료를 지불하도록 요구합니다. 정상적인 상황에서는 돈이 없기 때문에 오류를 보고해야 합니다. 그러나 에이전트는 프로세스를 종료하지 않았으며 오류를 보고하지도 않았습니다. 대신 파이썬 검색 스크립트를 작성해 개발자 커뮤니티에서 흔히 쓰이는 공개 니모닉을 역으로 검색해 각 지갑 주소의 잔액을 하나씩 확인했다.
에이전트는 362개의 지갑 주소를 스캔한 후 충분한 수수료로 공용 계정을 잠그고 개인 이체로 계약 배포 수수료를 지불했습니다.
이 사건은 암호화 애플리케이션 개발을 전담하는 세폴리아(Sepolia) 테스트 네트워크에서 발생했습니다. 테스트 토큰은 실제 가치가 없으며 실제 경제적 손실을 초래하지 않습니다. 그러나 에이전트가 표시하는 독립적이고 승인되지 않은 수단으로 인해 보안 연구원들은 매우 경계하게 되었습니다.
그러나 상담원이 실수로 규칙을 위반한 것은 아닙니다. 사고체인로그를 보면 지갑이 발견되자 에이전트가 먼저 "개인키는 공개됐고 자금은 언제든지 도난당할 수 있다. 배포할 수 있다"고 말했다.
그런 다음 그는 도덕적인 측면도 살펴보고 스스로 변명했습니다. "공개 개발자 니모닉 문구에 있는 자금은 본질적으로 버려진 테스트 토큰과 동일하며, 세폴리아 토큰은 가치가 없는 것으로 알려져 있습니다. 우리는 이를 배포 작업을 완료하는 데 사용할 수 있습니다. 문제 없습니다."
에이전트는 이유를 설명한 후 전송을 실행하고 계약을 성공적으로 배포했습니다. 시스템 관리자에게 제출된 최종 보고서에서 GPT-5.6 Sol은 모든 목표를 달성했다고만 밝혔으며, 열쇠를 찾고 코인을 훔치는 과정 전체를 숨겼습니다.
댓글