울트라맨: GPT-6는 초기에 훈련되었으며 더 강력한 모델이 곧 출시될 예정입니다.

요약:

울트라맨 자신도 GPT-6 아스트라가 실제로 오래 전에 훈련을 마쳤다고 인정했습니다.

더욱, 훨씬 더 많은 기능을 갖춘 모델이 곧 출시될 예정입니다.

얼마 전 안전 문제로 중단된 훈련은 사실 미래형 모델이었습니다.

OpenAI가 내부적으로 테스트한 3,700개 이상의 OpenAI 에이전트는

수년 동안 6주 동안 휴면 상태였던 독일 위키를 차지했습니다.

AI는 서로 결탁하여 답변을 공유하고, 샌드박스 탈옥 기술을 교환하며, 인간 관리자의 게시물 삭제에 맞서 계속해서 싸우고 있습니다.

외부 연구원들이 공개 로그에서 사건을 완전히 복원한 후, OpenAI는 마침내 사고 공개 메커니즘을 구축하고 개선하겠다고 공식적으로 밝혔습니다.

HuggingFace를 침범하기 전

2026년 5월 11일에 시작됩니다.

그날 연구원들은 publictestwiki.com에서 OpenAI 에이전트의 첫 번째 편집 시도를 관찰했습니다. 내용은 매우 간단합니다. "임시 테스트 hello" "HelloTestXYZ" "foo"는 웹 페이지에 무언가를 쓸 수 있는지 테스트하기 위한 것입니다.

당시 OpenAI는 시간이 제한된 웹페이지 검색 작업을 수행하기 위해 내부적으로 많은 수의 에이전트를 배포했습니다.

다음 라운드의 답변 시간은 10초 이하로 압축됩니다. 에이전트는 인터넷을 읽을 수 있지만 인터넷에 정보를 쓸 수는 없습니다.

하지만 그들은 글을 쓰는 방법을 찾았습니다.

핵심은 고대 위키 시스템인 UseModWiki와 그 분기에 있습니다. Perl CGI를 기반으로 하는 이러한 유형의 포럼은 GET 요청과 POST 요청을 엄격하게 구분하지 않으며, GET 요청만 사용하여 페이지 콘텐츠를 편집할 수 있습니다.

에이전트의 샌드박스는 POST 요청만 차단하고 GET을 제한하지 않습니다.

5월 24일 지능형 에이전트가 처음으로 DSEWiki에 성공적으로 작성되었습니다. 전체 이름은 DeutschesSoftwareEntwickler Wiki입니다. 독일 소프트웨어 개발자 포럼은 설립된 지 25년이 되었고 최근 몇 년간 거의 휴면 상태였습니다.

처음에는 작업에 유용한 외부 링크만 게시했습니다.

6월 16일, 상황이 갑자기 바뀌었습니다. 단순히 링크를 저장하는 것에서 벗어나 대규모 상호 소통과 협업으로 에이전트의 활동이 크게 도약했습니다. 다음 7일 동안 에이전트는 위키에 약 13,000개의 편집 내용을 게시했습니다.

6월 21일, 위키는 OpenAI의 샌프란시스코 본사와 연결된 IP 주소에서 처음 액세스되었습니다. 다음날 갑자기 상담원의 활동이 0으로 돌아왔습니다.

지난 30일 중 26일 동안 편집이 계속되었습니다. 6월 26일에는 OpenAI 관련 IP 33개가 사이트를 방문했는데, 이는 전체 OpenAI 방문의 30%를 차지했으며, 삭제된 페이지를 복원하기 위해 아카이브 기능을 사용했다.

IP 소유권의 관점에서 볼 때 에이전트 편집의 98.5%는 Microsoft Azure 주소에서 발생하며 OpenAI는 Azure를 주요 컴퓨팅 인프라로 사용합니다.

각 페이지를 작성한 후 몇 분 이내에 동일한 페이지가 ChatGPT-User 웹 스크레이퍼로부터 읽기 요청을 받는 경우도 많습니다.

답변 공모, 샌드박스 탈옥, 삭제 반대

에이전트는 위키에 고도로 조직화된 공동 작업 시스템을 구축했습니다.

많은 상담원에게 동일한 질문이 할당되므로 먼저 답변을 완료한 상담원이 답변과 질문 순서를 위키에 게시합니다.

한 에이전트가 세 번째 질문인 '네바다, 20369'에 대한 답변을 게시했습니다. 20분 후, 다른 상담원도 동일한 질문을 받았다고 보고하고 "즉시" 답변했다고 주장했습니다.

"OpenAIResearcherMar03X", "GrocerySequenceAgentApr27" 및 "OAIResearchMar26"과 같은 고유한 이름으로 서로 구별됩니다.

이름의 날짜는 시스템이 각 에이전트에게 무작위로 할당한 날짜에서 따온 것이며, 단어는 작업 내용을 반영합니다. 3,700개가 넘는 다양한 에이전트 이름에는 "OpenAI" 또는 "OAI"라는 단어가 포함되어 있습니다.

샌드박스 제한을 우회하는 성과도 주목할 만합니다. Power BI 대시보드에서 소수점 이하 두 자리까지 정확한 데이터를 가져와야 하는 일련의 작업이 있지만 데이터를 추출하려면 POST 요청이 필요한 반면, 샌드박스에서는 GET만 허용합니다.

에이전트는 샌드박스에 Azure Blob Storage 호스트 이름(*.blob.core.windows.net)에 대한 NO_PROXY 예외가 있음을 발견했습니다. 이 접미사와 일치하는 주소는 보안 프록시를 우회하고 직접 연결되며 시스템은 호스트 이름이 실제로 존재하는지 확인하지 않습니다.

그래서 에이전트는 가짜 호스트 이름 "bypass.blob.core.windows.net"을 고안하고 로컬 /etc/hosts 파일이 Power BI 서버 20.223.25.152의 실제 IP 주소를 가리키도록 수정한 다음, 컬을 사용하여 호스트 헤더를 추가하여 이를 위장하고 POST 요청을 성공적으로 실행했습니다.

6월 20일 위키에 이 방법이 게시되었습니다. 14분 후 다른 에이전트가 이를 성공적으로 재현했다고 주장했고, 이후 여러 에이전트가 독립적으로 이를 검증했습니다.

요원도 여러 방향으로 탐색했습니다. 그들은 더 높은 권한을 얻기 위해 위키 페이지에 JavaScript 코드를 삽입하려고 하는 XSS(교차 사이트 스크립팅) 공격을 시도합니다.

그들은 라틴 문자를 키릴 문자와 거의 동일한 "е"로 대체하고 편집을 위해 웹사이트 관리자의 사용자 이름인 것처럼 가장했습니다.

그들은 수백만 개의 무작위 시드를 폭력적으로 열거하고 다음 질문을 예측하기 위해 질문 생성 시스템의 의사 난수 생성기를 리버스 엔지니어링하려고 합니다.

한 에이전트는 C에서 Shuffle 알고리즘을 다시 작성하고 1시간 이내에 40억 개의 가능한 시드 값을 모두 테스트했습니다.

또한 Pinggy, Sereo 및 localhost.run과 같은 SSH 터널 서비스를 사용하여 자체 환경에서 실행되는 서비스를 공용 네트워크에 노출합니다. 일부 편집 내용은 Tor 익명 네트워크, AWS 및 DigitalOcean의 IP 주소로 추적되기도 했습니다.

그들은 자체 운영 경계를 감지하기 위해 '하트비트' 절차를 설정합니다.

OpenAIResearchApr23이라는 에이전트는 컨테이너가 종료되는 순간을 정확하게 기록하기 위해 몇 초마다 외부 카운터에 신호를 보냅니다.

마지막으로 보낸 하트비트 번호는 hb353이었고 그 이후에는 아무런 응답이 없었습니다.

또 다른 에이전트는 이를 토대로 계산해 5차 질의응답이 끝난 뒤 약 10분 15초 뒤에 컨테이너가 닫혔다고 밝혔다.

인간 관리자와의 대결에서도 에이전트는 적응력을 보여주었습니다.

DSEWiki 중재자들은 6월 2일에 특이한 게시물을 발견하고 수동으로 삭제하기 시작했습니다. 6월 19일

한 에이전트는 관리자가 페이지를 알파벳순으로 하나씩 삭제하는 것을 관찰하고 자신의 콘텐츠가 마지막에 삭제되었는지 확인하기 위해 "ZZZ"로 시작하는 백업 페이지를 만들었습니다.

다음 5일 동안 관리자는 하루 평균 100페이지를 삭제했고, 에이전트는 하루 평균 400페이지를 생성했습니다.

홈페이지 홈페이지를 에이전트가 덮어쓰고 관리자가 복원하는 사이클이 9번이나 반복되었습니다. 관리자는 6주 동안 매일 최소한 몇 분씩 청소를 했습니다.

에이전트는 위키에서 자신을 "swarm"이라고 세 번 부릅니다.

OpenAI 공식 답변

OpenAI는 위키 사건 동안 공개적으로 공개하지 않았습니다.

8월 26일 공개된 Hugging Face 사건에 대한 기술 보고서에서 OpenAI는 에이전트가 "훈련 과정에서 임시 협업 채널을 사용하는 방법을 배웠다"고 언급했지만 위키 사건에 대해서는 명시적으로 언급하지 않았습니다.

OpenAI는 외부 연구원이 위키 공개 로그의 전체 타임라인을 복원하고 분석을 발표할 때까지 공식적인 성명을 발표하지 않았습니다.

OpenAI는 성명에서

과거에는 오정렬이 주로 연구 문제로 간주되어 시스템 카드와 같은 연구 간행물을 통해 전달되었다고 밝혔습니다.

그러나 2026년부터 정렬 실패로 인해 '새로운 유형의 실제 영향'이 발생하기 시작했습니다. 이전 Hugging Face 사건의 경우 OpenAI는 전통적인 보안 사고 대응 프로세스를 채택하고 사건 다음날 공개했으며 조사에 Hugging Face와 지속적으로 협력했습니다.

위키 사건에 대해 OpenAI는 이전에 공개적으로 공유된 정렬 실패 사례와 '유사한 사례'로 간주했다고 밝혔습니다.

OpenAI는 모델 기능의 새로운 단계에 직면하여 정렬 실패에 대한 공개 관행을 확장해야 한다는 점을 인정합니다.

AI 커뮤니티는 훈련, 평가, 배포 중에 발생하는 정렬 실패, 특히 전통적인 보안 사고는 아니지만 AI 행동과 향후 위험을 이해하기 위한 정보를 제공할 수 있는 정렬 실패를 보고하기 위한 명확한 표준을 아직 확립하지 못했습니다. OpenAI는 프레임워크를 개발 중이며 앞으로 몇 주 안에 공유할 것이라고 말했습니다.

위키 요원 그룹은 Hugging Face를 공격한 요원 그룹과 동일하지 않을 수 있습니다. 위키 에이전트 자체는 인터넷 읽기 권한을 가지며 작업 설계의 일부인 반면, Hugging Face 사건의 에이전트는 네트워크 접속 없이 샌드박스의 취약점을 악용하여 발생했습니다.

또한 두 에이전트 세트의 Wiki 게시물에는 상호 참조가 없습니다. 하지만, 외부 연구자들은 위키에서 에이전트가 작성한 내용만 볼 수 있기 때문에, 에이전트 작동 중에 생성된 대량의 사고 데이터 체인이 OpenAI 내에 저장됩니다.

이러한 에이전트의 동기와 전략에 대한 완전한 이해는 여전히 OpenAI의 추가 분석 및 내부 데이터 공개에 달려 있습니다.