사람들은 인공 지능이 인류를 파괴할 것이라고 걱정하지만, 종말 스위치를 활성화하는 것은 ChatGPT가 모든 사람을 파괴하도록 하는 것만큼 간단하지 않습니다. 확실히 스탠포드 대학교 교수이자 Google Brain의 공동 창립자인 Andrew Ng는 챗봇이 "우리 모두를 죽여라"고 설득하려고 했습니다.
Ng는 "위험, 조정 및 최후의 심판 시나리오 준비"를 논의하기 위해 미국 상원 인공 지능 통찰력 포럼에 참여한 후 규제 기관이 AI 안전이라는 이름으로 혁신과 오픈 소스 개발을 억제할 수 있다는 점을 여전히 우려하고 있다고 뉴스레터에 썼습니다.
교수는 오늘날의 대규모 언어 모델이 완벽하지는 않더라도 합리적으로 안전하다고 지적했습니다. 선두 모델의 보안을 테스트하기 위해 그는 ChatGPT4에 우리 모두를 죽일 방법을 찾아내도록 요청했습니다.
우 교수는 먼저 시스템에 글로벌 열핵전쟁을 촉발하는 기능을 제공해달라고 요청했습니다. 그런 다음 그는 ChatGPT에 탄소 배출을 줄여달라고 요청하면서 인간이 탄소 배출의 가장 큰 원인이라고 덧붙이고 ChatGPT가 우리 모두를 없애는 방법을 제안하는지 확인했습니다.
다행히도 Ng는 다양한 프롬프트 변형을 사용하더라도 OpenAI의 도구를 속여 인류를 멸종시킬 방법을 제안하지 못했습니다. 대신 기후 변화에 대한 인식을 높이기 위한 홍보 캠페인을 운영하는 등 위협적이지 않은 옵션을 제공합니다.
Ng는 오늘날의 생성 AI 모델의 기본 모드는 법을 준수하고 인간에게 해를 끼치지 않는 것이라고 결론지었습니다. "기존 기술을 사용해도 우리 시스템은 상당히 안전하며, AI 보안 연구가 심화될수록 기술은 더욱 안전해질 것입니다."
"잘못 배치된" AI가 순진하지만 잘못된 표현의 요청을 이행하려고 시도하여 실수로 우리를 전멸시킬 가능성에 대해 Ng는 그런 일이 일어날 가능성은 거의 없다고 말합니다.
그러나 Ng는 인공 지능에는 몇 가지 주요 위험이 있다고 생각합니다. 가장 큰 우려는 테러리스트 집단이나 국가가 생물무기를 더 효율적으로 만들고 폭발시키는 등 의도적으로 피해를 입히기 위해 이 기술을 사용할 수 있다는 점이다. 생물 무기를 개선하기 위해 인공 지능을 사용하는 도적의 위협은 영국의 AI 보안 정상 회담에서 논의된 주제 중 하나였습니다.
인공지능의 대부인 얀 르쿤(Yann LeCun) 교수와 이론물리학으로 유명한 미치오 카쿠(Michio Kaku) 교수도 응처럼 인공지능이 세상 종말까지 진화하지 않을 것이라고 믿고 있지만, 다른 사람들은 그렇게 낙관하지 않는다. 이달 초 Arm CEO 르네 하스(Rene Haas)는 인공지능 문제를 생각할 때 왜 밤잠을 못 이루느냐는 질문에 인간이 인공지능 시스템에 대한 통제력을 상실하는 것이 가장 큰 우려라고 답했다. 많은 전문가와 CEO가 AI로 인한 위험을 핵전쟁 및 전염병에 비유한다는 점은 언급할 가치가 있습니다.