OpenAI는 AI "제어실"을 배포하여 최대 35초 동안 모델 출력을 차단합니다.

요약:

OpenAI는 최근 내부 연구 인프라에 'Control Room'이라는 중앙 제어 시스템을 구축했다고 발표했습니다. 모델 작업이 안전 또는 네트워크 보안 위험을 야기하는 경우

시스템은 중지 명령을 받은 후 최대 35초 동안 모델이 계속 출력되지 않도록 차단할 수 있습니다

OpenAI에 따르면 Control Room은 강화학습 훈련, 모델 평가, 에이전트 샘플링, 데이터 처리 등의 연구 업무를 균일하게 추적할 수 있으며, 모델 행동 모니터링 시스템과 연결됩니다.

모니터링 모델은 학습된 모델의 추론 및 작동 과정을 확인합니다. 잠재적인 문제가 발견되면 위험 정도에 따라 경보가 울리거나 작업이 직접 중단될 수 있습니다.

특정 실행 프로세스 중에 모니터링 시스템은 중지해야 하는 작업 ID를 Control Room으로 보냅니다. 다음에 관련 작업이 모델 추론에 적용될 때 추론 엔진은 실행 권한을 확인합니다. 작업이 종료된 것으로 표시된 경우 시스템은 모델이 계속해서 콘텐츠를 생성하지 못하도록 요청을 거부합니다.

OpenAI는

현재 제어실이 중지 명령을 받은 후 작업을 전혀 계속 실행할 수 없을 때까지 최대 35초가 걸린다고 밝혔습니다.

또한 시스템은 "실패 시 닫기" 메커니즘을 사용합니다. Control Room이 실패하거나, 종료되거나, 변조된 경우 서비스가 복원될 때까지 기본적으로 모든 관련 추론 요청이 거부됩니다. 이 메커니즘은 이제 OpenAI의 모든 최첨단 모델 연구 작업을 포괄하며 다른 연구 작업으로 확장되고 있습니다. OpenAI는 자사의 외부 모델 서비스가 보다 중앙 집중화된 기술 아키텍처를 채택했으며 현재 이에 상응하는 오프라인 배포 및 비상 대응 기능을 갖추고 있다고 밝혔습니다.