최근 딥마인드(DeepMind)의 창업자인 데미스 하사비스(Demis Hassabis)는 자신이 개발한 초인공지능이 인류를 멸절시킬 위험이 있음을 인정했다. 현재 AI 개발 경쟁은 막을 수 없는 상태에 접어들었고, 인간이 외부 거버넌스 방식을 통해 이를 효과적으로 통제하기는 어렵다.그는 AI를 제한하기 위해 시스템과 윤리 위원회에 의존한다는 기존 생각을 완전히 버리고 거버넌스 구조가 주요 결정에서 역할을 하기 어려울 것임을 인정했으며 AI 안전의 방향을 통제하기 위해 발언권을 얻기 위해서는 자신에게만 의존할 수 있었습니다.
Hassabis는 항상 AI 안전을 확고히 옹호해 왔습니다. 초기에 그는 독립적인 감독과 비밀 연구 및 개발을 통해 절대적으로 안전한 초지능을 만드는 것을 구상했습니다.
2014년 딥마인드가 구글에 매각됐을 때 AI 보안에 대한 독립적인 의사결정권 유지, 외부 감독위원회 설립, 군사적 적용 금지 등도 명시적으로 요구했다.
그러나 이러한 보안 개념은 차례로 실패했습니다. 관련 회의에 참석한 후 머스크는 AI를 단일 주체가 제어한다는 생각을 깨고 OpenAI 창립에 눈을 돌렸습니다. 이후 구글과의 거버넌스 협상도 실패로 끝났다.
2022년 ChatGPT의 등장은 AI 연구 개발 속도를 완전히 뒤흔들었습니다.Google은 경쟁 불안에 빠졌고 DeepMind는 Google Brain과 합병되었으며 보안 규정은 연구 개발 속도에 무너졌으며 이전의 보안 방어선은 점차 실패했습니다.
허사비스는 이로써 현실을 이해하게 되었다. 비즈니스 경쟁과 기술 경쟁의 압력으로 인해 대기업에 의존하는 비영리 거버넌스 메커니즘은 생존하기 어려울 것입니다.
이제 허사비스는 생각을 바꾸었습니다. 그의 핵심 제안은 AI 위험에 대한 경외심을 가지고 핵심 의사 결정 위치를 차지하고 핵심 노드에서 기술 방향을 제어할 수 있도록 하는 것입니다.
Gemini와 같은 모델 개발을 추진하는 동시에 안전이라는 기본 원칙을 고수하고 AI 폭주 위험을 줄이기 위해 개인적인 영향력을 행사하려고 노력합니다.
업계 분석가들은 이러한 변화가 글로벌 AI 경쟁의 잔혹한 현재 상황을 반영한다고 믿고 있습니다. 통일된 거버넌스는 달성하기 어렵고, AI 안전 창은 계속해서 좁아지고 있으며, 인류는 문명의 생존과 관련된 엄청난 도전에 직면해 있습니다.