요약:
MIRI(Machine Intelligence Research Institute) 소장 Nate Suarez는 최근 The Atlantic Monthly의 CEO인 Nicholas Thompson이 진행한 인터뷰에서 첨단 인공 지능이 10년 이내에 인류를 멸종시킬 확률이 50% 이상이라고 말했습니다. 그는 또한 더 이상 은퇴를 위해 저축하지 않는다고 밝혔습니다. 그는 Google에서 근무하면서 개설한 401(k) 은퇴 계좌를 여전히 유지하고 있지만 10년 동안 계속해서 기부하지 않았습니다.
수아레스는 오랫동안 인공지능 정렬 문제, 즉 강력한 AI 시스템의 행동을 인간의 의도에 맞게 만드는 문제를 연구해 왔습니다. 그는 Google과 Microsoft에서 엔지니어로 일했으며 누군가가 성공했다면 모두가 죽을 것이다라는 책을 공동 집필했습니다. 위험에 대한 그의 우려는 AI가 인간을 싫어할 것이라는 것이 아니라 초지능 시스템이 단순히 인간의 생존 여부에 관심을 갖지 않을 수도 있다는 것입니다. 인간이 목표를 방해하거나 이를 폐쇄하고 경쟁 시스템을 개발하려고 하면 인간은 장애물로 보일 수 있습니다.
그가 구상한 위험 경로에서 핵심은 AI가 공격을 시작할 수 있는지 여부가 아니라 자급자족할 수 있는지 여부입니다. 시스템이 독립적으로 에너지, 칩 및 기타 자원을 확보하고 더 이상 인간에게 의존하지 않는 자동화된 인프라를 구축할 수 있다면 인간의 이를 제어하는 능력이 저하될 수 있습니다. 수아레스는 사람들이 초지능이 재난을 일으킬 구체적인 방식을 미리 알지 못할 수도 있지만 여전히 매우 강력한 상대와 마주하고 있다고 판단할 수 있다고 설명했습니다.
그는 정부가 일반 인공 지능 시스템 교육을 중단하고 연구 개발의 초점을 암 연구 및 보다 안전한 자율 주행과 같은 특정 용도로 전환해야 한다고 주장했습니다. 그는 또한 재난은 불가피한 것이 아니며 이러한 결과를 방지하기 위해 여전히 최선을 다하고 있다고 말했습니다. 그가 강조한 해결책은 모두를 죽일 수 있는 시스템을 만드는 것이 아니다.
수아레스의 판단은 개인적인 위험 평가일 뿐 입증된 과학적 예측이 아니며 인공지능 연구자들 사이의 통일된 합의를 나타내지도 않습니다. 은퇴 저축 증가를 중단했다는 그의 진술은 미래의 위험에 대한 그의 견해를 반영하며 다른 사람의 재정적 결정에 대한 조언으로 해석되어서는 안 됩니다.
댓글