요약:
인공지능 안전에 주력하는 OpenAI 직원이 회사를 떠났으며, 최고의 인공지능 기업들이 위험을 줄이기 위한 충분한 노력을 기울이지 않고 있다고 경고했습니다. 이전에 OpenAI 보안 팀의 투명성을 담당했던 David Robinson은 The Atlantic의 기사에서 ChatGPT 개발자가 "항상 시행착오를 통해 성장해 왔다"고 말했습니다. 그러나 이 접근 방식은 필연적으로 실패할 것입니다. AI 기술의 성능이 지속적으로 향상되면서 이러한 실패로 인한 위험도 증가하고 있습니다. 그는 또한 테스트 과정에서 인공지능이 통제를 벗어나는 것을 막지 못한 OpenAI의 실패를 예로 들었다.
로빈슨은 기사에서 다음과 같이 썼습니다. "나의 이전 동료들은 똑똑하고 열심히 일했으며 올바른 선택을 하려고 노력했습니다. 그러나 회사가 한 제품 출시에서 다음 제품 출시로 서두르면서 제가 필요하다고 생각한 수준의 주의를 기울이지 않았습니다." 정말로 필요한 것은 "처음부터 완벽에 가까워지는 것"이라고 그는 덧붙였습니다.
OpenAI 샘 알트만
최근 몇 주 동안 몇몇 주요 인공 지능 회사의 직원들은 이 기술이 초래할 수 있는 치명적인 위험에 대해 경고했습니다. 어떤 사람들은 AI가 언젠가 인류를 멸망시킬 수도 있다고 말하기도 합니다.
이러한 맥락에서 Anthropic PBC CEO Dario Amodei는 최첨단 모델의 개발 속도를 늦출 것을 촉구했으며 자신의 회사가 안전 보장을 위한 검토를 지원하기 위해 제3자 평가자를 고용할 것이라고 말했습니다. OpenAI의 Sam Altman을 포함한 업계의 다른 사람들도 Amodei의 계획을 공개적으로 지지했습니다.
로빈슨은 기사에서 인공 지능 기업이 원자력 발전소처럼 운영되어야 한다고 말했습니다. "여러 계층의 중복 메커니즘을 설정하고 신중하고 시간이 많이 걸리는 계획을 수행하여 간헐적이고 불가피한 인적 오류가 재난의 문을 여는 것을 방지해야 합니다."
현재 그는 “AI 기업들은 무엇을 해야 할지 모르지만 다른 기업들은 알고 있다”고 말했다.
OpenAI 대변인은 회사가 연구 및 테스트 환경의 보안을 강화하고, 책임감 있게 작업을 완료하도록 AI 모델을 훈련하고, 제3자 평가자와의 협력을 확대하고, 모델의 우려스러운 행동을 감지하기 위해 실시간 모니터링을 개선하기 위해 조정을 하고 있다고 말했습니다.
회사 대변인은 토요일에 이메일을 통해 OpenAI가 안전하게 관리할 수 있는 수준 이상으로 자사 모델의 기능이 향상되지 않도록 보장하고 있다고 밝혔습니다.
댓글