요약:
'인공지능의 대부' 중 한 명으로 알려진 제프리 힌튼은 인간이 이 기술을 개발하지 않았다면 상황이 더 나았을 수도 있다는 것을 궁극적으로 증명하는 것이 가능할 수도 있다고 말했습니다. 그는 AI가 올해나 내년에 금융시스템과 전력시스템을 일시적으로 마비시키는 등 대형 사고를 일으킬 수도 있다고 경고했다.

노벨상을 수상한 컴퓨터 과학자는 영국 언론과의 인터뷰에서 자신이 AI 종말 이론가는 아니라고 말했습니다. 그의 선구적인 인공 신경망 연구는 이 기술의 토대를 마련했습니다. 그는 AI가 '아름다운 미래'를 가져올 기회가 있다고 믿지만, "애초 AI를 개발하지 않는 편이 더 나았을 수도 있다"고도 말했다.
78세의 힌튼은 10년 안에, 어쩌면 더 빨리 인류가 AI의 위험을 관리하고 소위 "극한의 부"를 달성할 수 있는지 알게 될 것이라고 말했습니다. 또는 “위험 통제에 실패했고, 빈부격차가 극적으로 벌어졌고, 많은 문화적 모순이 발생했으며, 대규모 실업이 발생했고, 사회 전체가 와해됐다”고 말했다.
Hinton은 'AI: 걱정할 것이 없을 수도 있습니다'라는 제목의 새 장편 다큐멘터리 상영을 앞두고 인터뷰를 했습니다. 이 제목은 Hinton과 그의 전 동료들이
영국 언론과의 인터뷰에서 Hinton은 일부 주요 AI 회사 경영진의 위험한 행동을 비판했습니다. 업계 지배력과 시장 점유율을 놓고 경쟁하기 위해 기업은 점점 더 강력한 AI 모델을 계속해서 출시하고 있습니다. 그는 OpenAI CEO인 Sam Altman을 전혀 신뢰하지 않는다고 말했습니다. "내 생각에 Zuckerberg, Musk, Altman은 위험을 알고 있지만 신경 쓰지 않습니다. 그들은 먼저 돈을 벌고 싶어합니다. 그게 제 생각입니다."
힌튼은 약 44년 동안 AI 분야에 깊이 관여해 왔다. 그는 1970년대에 인간처럼 학습하고 경험을 축적할 수 있는 수학적 시스템인 신경망 개념을 제안했습니다. 2023년에 그는 AI의 위험에 대해 자유롭게 발언할 수 있도록 Google에서 사임했습니다. "이 AI가 더 많은 통제권을 장악하려고 한다면 우리는 문제에 빠질 것입니다."
그는 이번 여름 OpenAI 에이전트가 Hugging Face 웹사이트를 해킹하려는 음모는 1979년 펜실베니아의 Three Mile Island 원자력 발전소의 부분적인 용해와 비슷하며 본질적으로 조기 경고 신호였다고 말했습니다.
"올해 말이나 내년에 우리는 체르노빌과 유사한 사고를 겪게 될 것이며, 그때는 사람들의 정신을 깨우기에 충분할 것입니다." 그는 말했다.
이런 유형의 '체르노빌 같은 사건'은 원전 사고가 아니라, 발전 시스템에 광범위한 정전을 일으키거나 일주일간 금융 시스템을 정지시키는 AI 공격일 수 있다는 예를 들었다.
"어떤 일이 일어날지 상상할 수 있습니까? 우리는 회복할 능력이 있지만 이번 사건으로 인해 모두가 깨어나야 합니다."
여기서 '모두'가 누구를 가리키는지 묻자 그는 '트럼프를 제외한 여러 나라의 지도자들'이라고 답했다.
미국 트럼프 대통령은 “글로벌 제어 AI 시스템을 구축하려는 모든 시도에 단호히 반대한다”고 밝혔으며, 첨단 AI 기업에 대한 독립적 규제를 옹호했다. Hinton은 핀란드 대통령과 기타 32개 국가(싱가포르, 독일, 캐나다, 호주 포함)가 추진하는 보다 엄격한 계획(최첨단 AI 모델의 의무 테스트, 독립적 평가, 통합된 정부 간 표준 수립)을 지지합니다.
앤디 번햄(Andy Burnham) 영국 총리는 영국이 내년 G20 의장직을 통해 AI의 잠재력을 최대한 발휘하고 위험으로부터 보호하기 위해 모든 당사자가 통일된 글로벌 원칙과 표준에 도달하도록 장려할 것이라고 말했습니다.
Hinton은 "미국 식품의약국(FDA)이 약물을 규제하는 데 사용하는 것과 유사한 메커니즘이 필요합니다. 기업이 AI 모델을 출시하기 전에 모델의 이점이 위험보다 크다는 것을 입증하기 위해 독립 기관에 확실한 통계적 증거를 제공해야 합니다. 우리는 탈리도마이드(1950년대에 개발되어 심각한 선천적 기형을 유발할 수 있는 약물) 사건에서 배웠습니다. 먼저 시장에 나가서 사고를 낸 다음 책임과 기소를 추구하는 것입니다. 이 방법은 그렇지 않습니다. 그리고 지금 대기업이 원하는 것은 바로 탈리도마이드에 사용된 규제 모델입니다."
AI 창시자 중 한 명인 힌튼은 종종 오펜하이머와 비교된다. 오펜하이머는 핵무기 개발의 핵심 인물이다. Hinton의 친구 중 한 명이 그에게 동일한 Oppenheimer 모자를 사주기도 했습니다. 그러나 그는 신경망을 연구하는 수천 명의 다른 과학자들이 있기 때문에 "나는 오펜하이머가 아니다"라고 주장합니다.
경고에도 불구하고 전반적으로 Hinton은 여전히 재난을 피할 수 있다는 희망을 갖고 있습니다.
“지금 당장은 우리가 여전히 통제권을 갖고 있다는 직감이 듭니다.”라고 그는 말했습니다. "우리에게는 조치를 취할 수 있는 모든 기회가 있습니다. 많은 노력을 기울여야 성공할 수 있지만 실제로는 전력을 다할 수도 있습니다."
댓글