OpenAI 수석 과학자, 업계에 모델 개발 제한 요구, Altman 동의

📅 2026-11-23

요약:

OpenAI 수석 과학자 Jakub Pachocki는 연구자들이 이러한 모델의 동작을 이해하고 모니터링할 수 있는 더 나은 방법을 확보할 때까지 인공 지능 회사가 점점 더 강력해지는 모델 개발에 제한을 설정하는 데 동의해야 한다고 제안합니다. Pachocki는 AI 개발의 경계를 설정할 산업 전반의 표준을 요구했으며 기업은 특정 보안 요구 사항이 충족될 때까지 이러한 경계를 확장하지 않는다는 데 동의해야 합니다.

"더 나아가 저는 AI 동작을 이해하고 모니터링하는 능력이 특정 이정표에 도달할 때까지 개발자가 이러한 제한을 위반하지 않기로 약속하면서 복잡성 및 기타 조치를 기반으로 공통 제한을 설정할 것을 제안합니다."라고 Pachocki는 썼습니다. Pachocki가 제안한 한계는 부분적으로 다음 텍스트를 예측하는 AI 모델의 능력을 측정하는 Perplexity라는 기술적 측정 기준을 기반으로 할 수 있습니다. Pachocki는 초기 한도를 어느 수준으로 설정해야 하는지, 언제 시행할지 밝히지 않았습니다.

Pachocki는 이르면 2027년이 되면 연구자들이 기술을 모니터링하고 이해하는 능력을 향상시키는 것보다 AI가 자체 진화를 더 빠르게 가속화할 수 있다고 경고했습니다.

OpenAI CEO 알트만은 Pachocki의 기사를 "오픈AI가 최근 발표한 가장 중요한 콘텐츠"라고 평가하며 이 제안에 대한 지지를 표명했습니다. X에 대한 게시물에서 그는 공유 제한에 동의하면 "보안 및 제어"를 보장하는 데 도움이 될 것이라고 말했습니다.

관련 태그

관련 글

댓글

0/500
Captcha (click to refresh)
댓글 없음