이더리움 공동창업자 비탈릭 부테린은 만약 미래에 초인공지능이 인간을 공격하기 시작한다면 그 결과는 인류의 완전한 멸종이고 생존자는 없을 것이라고 믿고 있다. 그는 월요일 블로그 포스트에서 "이것은 극단적인 진술이다. 기후 변화, 인류가 만든 전염병, 핵전쟁과 같은 최악의 시나리오가 야기할 수 있는 막대한 피해에도 불구하고 여전히 조각들을 온전하게 복구할 문명의 섬이 많다"고 말했다.
그러나 슈퍼인공지능이 인류에 맞서는 선택을 하면, 그 결과는 인류의 완전한 멸종이 될 수도 있다. “그러나 초지능 AI가 우리를 배신하기로 결정하면 생존자를 남기지 않고 인류를 영원히 멸망시킬 것입니다.”라고 그는 썼습니다. 이 경우 화성조차도 인류의 피난처가 될 수 없을 것입니다.
부테린은 "초지능과 '인간'이 공존하는 미래, 즉 인간이 단순한 애완동물이 아니라 실제로 세상에서 의미 있는 주체를 유지하는 미래를 원한다면 이와 같은 것이 가장 자연스러운 선택처럼 느껴질 것"이라며 "인간"의 특성과 선택 의지를 유지하는 미래를 주장했습니다.
최근 한 행사에서 부테린은 이더리움의 미래 개발에 대한 우려를 밝혔으며, 그의 가장 큰 두 가지 우려 사항은 암호화폐 개발의 정체와 인공 지능과 관련된 잠재적인 위험임을 밝혔습니다.
자신의 생각을 자주 차지하는 것이 무엇인지 묻는 질문에 부테린은 "인공지능과 관련된 문제", 특히 인공지능이 제기하는 실존적 위험을 언급했습니다.