많은 사람들은 인공지능이 인간이 위험할 정도로 시스템에 대한 통제력을 상실하는 지점까지 발전하여 매우 나쁜 것부터 종말론적인 결과까지 초래할 것이라고 우려하고 있습니다. 그러나 상황이 그를 밤잠 못 이루게 한다고 말하는 Arm의 CEO를 포함하여 기술 산업 내에서 경고가 나올 때 더욱 우려스럽습니다.

Arm의 Rene Haas 사장은 Bloomberg에 AI가 시스템을 중지하려면 어떤 형태의 스위치나 백도어가 필요하다고 말했습니다. 인공지능에 대해 생각할 때 밤잠을 설치게 만드는 것이 무엇인지 묻자 칩 설계 회사 사장은 "내가 가장 걱정하는 것은 인간이 통제력을 잃는 것"이라고 말했다.

Haas는 전 세계 인구의 70%가 어떤 방식으로든 Arm이 설계한 제품에 노출되었으며, 매년 판매되는 14억 대의 스마트폰 중 99%가 Arm 설계 또는 해당 기술을 사용하는 것으로 추정합니다. 물론 그는 인공지능을 반대하는 것이 아니며, 새로운 기술 혁명에서 Arm이 맡게 될 역할을 알고 있다. CEO는 "Arm 없이는 실제로 인공 지능을 실행할 수 없습니다. 하지만 우리에게는 안전 장치가 필요합니다."라고 말한 적이 있습니다.

작년에 CEO가 된 Haas는 "인공지능이 우리가 하는 모든 일과 우리가 일하고 생활하고 즐기는 방식의 모든 측면에 포함될 것이라고 생각합니다"라고 말했습니다. “앞으로 5~10년 안에 모든 것이 바뀔 것입니다.”

업계에서 인공 지능에 대한 우려를 인정한 것은 Haas가 처음은 아닙니다. OpenAI CEO 샘 알트만(Sam Altman)은 지난 2월 세상이 "잠재적으로 무서운" 인공 지능에서 멀지 않을 수도 있다고 경고했습니다. 챗GPT(ChatGPT)라는 기업도 지난 7월 인간보다 똑똑한 인공지능이 인류를 멸종시킬 수 있다고 경고한 바 있다.

이 기술이 인류에 대한 실존적 위협이라고 주장해온 xAI 사장 일론 머스크(Elon Musk)와 신흥 AI로 인한 위험 때문에 지난 5월 구글을 떠난 인공지능 선구자 제프리 힌튼(Geoffrey Hinton)도 있다. 많은 전문가와 CEO는 AI로 인한 위험을 핵전쟁 및 전염병에 비유하기도 했습니다. 미국 국민의 3분의 2도 똑같이 걱정하고 있습니다.

그러나 모든 사람이 같은 우려를 공유하는 것은 아닙니다. 인공지능의 또 다른 대부인 얀 르쿤(Yann LeCun) 교수는 인공지능이 인류를 위협한다는 경고는 “어리석은 일”이라고 말했다. 이론 물리학으로 유명한 Michio Kaku 교수는 생성 인공 지능을 미화된 테이프 레코더에 비유했습니다.