요약:
9월 11일 '비즈니스인사이더'에 따르면 'AI 대부' 제프리 힌튼은
AI가 인류를 모두 멸망시킬 확률은 추정하기 어렵지만 이 확률이 0은 아니다라고 말했다.
Hinton은 수요일 BBC Newsnight에 다음과 같이 말했습니다. "나에게10%는 터무니없는 추정치가 아닌 것처럼 보이지만 실제로는 합리적인 추정치를 제공하는 방법을 아는 사람이 없습니다.
”
힌튼
"Newsnight" 진행자 Victoria Derbyshire는 Hinton이 Anthropic의 최고 AI 보안 연구원인 Jacob Coxon의 판단에 기본적으로 동의했기 때문에 놀라움을 표시했습니다. 연구원은
향후 10년 안에 AI가 "모든 인간을 죽일 확률이 10% 이상"이라고 말했다.
."와," Derbyshire는 "맙소사"라고 말했습니다.
힌튼은 인간 사회가 "곧 우리보다 더 똑똑해질 수 있는" 기술을 본 적이 없기 때문에 구체적인 확률을 추정하기 어렵다고 말했습니다.
“확률이 1%에 불과하다고 말하는 것은 어리석은 일입니다.”라고 그는 말했습니다. “어떻게 추정할지는 아무도 모릅니다.”
확실한 것은 그러한 재난이 발생할 수 있는 기간이 단축되었다는 것입니다. 그는 “예전에는 30~50년이라고 생각했는데, 그러다가 10~20년으로 단축됐다”고 말했다. "이제는 10년, 아니 그보다 더 짧을 수도 있다고 생각합니다. 다른 사람들은 그보다 훨씬 빠르다고 생각합니다."
이런 일이 어떻게 일어날 수 있는지에 대해 Hinton은 사이버 공격부터 치명적인 바이러스를 개발하는 AI에 이르기까지 다양한 위험을 언급했습니다. Hinton은 이 일정이 크게 단축된 이유를 밝히지 않았지만 Anthropic 및 OpenAI를 포함한 선도적인 AI 회사는 모델 확장에 수십억 달러를 투자했으며 최근 출시된 제품은 불과 몇 달 전의 모델에 비해 상당한 개선을 보였습니다.
Hinton의 발언은 인류학 연구원인 Coxon이 회사의 매우 기대되는 IPO 직전에 사임을 발표한 후에 나온 것입니다. 이전에 OpenAI에서 근무했던 Coxon은 AI 거대 기업이 "우리 목숨을 걸고 도박을 하고 있다"고 말했습니다.
“AI를 개발하는 사람들은 AI가 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진심으로 믿습니다.”라고 Coxon은 썼습니다.
힌튼은 인간이 자멸의 길로 들어서거나 AI의 잠재력을 깨닫는 동시에 'AI가 제기하는 위험에 대처'하는 방법을 찾을 수도 있다고 말했습니다. 그는 국가들이 모든 문제에 동의할 수는 없지만 모두 인간 생존을 보호하려는 공통된 욕구를 공유하고 있다고 지적하면서 더욱 강력한 글로벌 규제에 대한 요구를 거듭 강조했습니다.
"국가들은 AI가 인간을 대체하는 것을 막는 데 동일한 관심을 갖고 있습니다. 따라서 결국 협력하게 될 것입니다. 문제는 그들이 제때에 조치를 취할 수 있느냐는 것입니다." 그는 말했다.
댓글