요약:
유명 AI 보안 연구원이자 OpenAI Holdings 이사회 멤버인 Paul Cristiano는 인기 기술 팟캐스트와의 인터뷰에서 인공지능의 발전 전망에 대해 경고를 발표했습니다. 그는 미래에는 인간이 AI에 대한 통제력을 완전히 상실할 가능성이 급속히 높아지고 있다고 말했다.

이 팟캐스트는 월요일에 방송되며 Devaksh Patel이 진행합니다. 크리스티아누는 이날 방송에서 "앞으로 6개월 안에 많은 사람이 죽거나 정부를 전복시키는 재난이 일어날 가능성이 있다"고 말했다. 팟캐스트에는 일반적으로 기술 업계의 많은 사람들을 포함하여 수백만 명의 청취자가 있습니다.
Cristiano는 위의 사건이 발생할지 여부는 AI 기술 반복 속도에 달려 있다고 말했습니다. 그는 또한 반복적인 자기 개선 기술을 통해 AI 모델이 자기 반복 업그레이드를 달성할 수 있으며 내년 내에 위험한 임계점으로 발전할 확률이 "상당히 높다"고 제안했습니다.
크리스티아누의 과거 공개 발언과 비교하면 이번 발언은 경고의 수위가 더욱 높아진 것을 의미합니다. 그는 또한 버클리에 기반을 두고 AI 정렬 연구에 초점을 맞춘 비영리 조직인 정렬 연구 센터(Center for Alignment Research)를 이끌고 있습니다. 오랫동안 AI 보안 위험을 경고해온 선임연구원으로 지난 9월 회사를 운영하는 오픈AI재단 이사회에 합류했다. 크리스티아누는 인터뷰에서 자신의 연설이 자신의 개인적인 입장을 대변할 뿐 OpenAI 이사회의 견해를 대변하지 않는다는 점을 강조했습니다.
Cristiano는 처음 이사회에 합류했을 때 내년에 인간이 AI에 대한 통제력을 상실함으로써 발생하는 재앙적인 사건이 발생할 위험이 약 4%라고 추정하는 공개 기사를 발표했습니다.
월요일 인터뷰에서 그는 지난 몇 달 동안 모델 역량이 급속히 발전했으며 이제 내년에 AI가 인간을 장악할 위험이 "1%가 아닌 10%에 가깝다"고 평가한다고 말했습니다. 그는 만약 대기업들이 AI 개발로 인한 위험을 완화하기 위해 더 많은 보호 조치를 취하지 않는다면 위험 추정치는 "상당히 높아질 것"이라고 말했습니다.
댓글