요약:
'비즈니스 인사이더'에 따르면 해당 언론은 OpenAI의 ChatGPT, Google Gemini, Anthropic의 Claude, xAI의 Grok에게 같은 질문을 하여 인공지능이 어떻게 인류 멸종으로 이어질 수 있는지 분석하고 관련 시나리오를 가능성 순으로 순위를 매기라고 했습니다.
질문에서는 4개의 AI가 위험이 어떻게 발생할 수 있는지, 통제할 수 없는 링크가 재난으로 변할 것인지, 전문가가 특정 시나리오를 더 신뢰할 수 있다고 생각하는 이유, 취할 수 있는 예방 조치를 설명해야 합니다. 동시에 이러한 시나리오는 매우 불확실한 위험 예측이며 확정된 결론이 아니라는 점을 강조합니다.
네 가지 AI의 판단에는 차이가 있지만 두 가지 문제에 대해서는 비교적 일관성이 있습니다.
'터미네이터'와 유사한 로봇이 적극적으로 인간을 파괴하는데, 이는 가능성이 가장 낮은 시나리오로 간주됩니다. 이와 대조적으로 인간이 AI를 사용하여 생물학 무기를 만들거나, 사이버 공격을 시작하거나, 중요 인프라를 파괴하는 것은 더 현실적이고 임박한 위험으로 간주됩니다.
ChatGPT는 의식이 있는 AI가 적극적으로 인간을 제거하기로 결정하는 것은 가장 믿기 어려운 시나리오 중 하나라고 밝혔습니다.
대부분의 AI 연구자들의 초점은 기계가 의식이 있는지 아니면 악의적인지가 아니라 인간이 강력한 AI를 사용하여 생물학적 무기를 개발하고, 복잡한 네트워크 공격을 수행하고, 허위 정보를 유포하고, 중요한 인프라를 공격한다는 것입니다.
ChatGPT는 또한 네트워크 시스템 장애, 지정학적 갈등, 서로 중첩된 허위 정보 확산 등 AI로 인해 증폭된 여러 위기가 동시에 발생하여 위험이 증가할 수 있다고 제안했습니다. 그러나
인류 멸종을 초래하는 AI가 확률이 높은 사건이거나 불가피한 결과라는 점에 현재로서는 합의가 이루어지지 않고 있음을 강조했다.
Gemini는 또한
AI가 갑자기 자기를 인식하고 인간을 싫어하게 되는 공상과학 시나리오는 가장 신뢰할 수 없다고 믿습니다
. 그 이유 중 하나는 정보가 본질적으로 악의적인 의도를 의미하지 않는다는 것과 중요한 군사 시설이 종종 공공 네트워크로부터 격리되어 있고 여전히 인간의 감독에 크게 의존한다는 것입니다.네 가지 AI 모두
AI가 적극적으로 인간을 공격하는 것보다 AI를 남용하는 인간이 가하는 위협이 더 시급하다고 믿습니다.
Grok은 AI가 매우 치명적인 병원체, 새로운 무기를 설계하고 사이버 및 물리적 공격을 시작하기 위한 기술적 한계를 낮출 수 있다고 말했습니다. Claude는 AI가 수년간의 전문 교육 없이 개인이나 소규모 그룹이 위험한 병원체를 개발하는 데 도움이 될 수 있다고 믿으며 생물 무기 능력 증가의 위험에 중점을 두었습니다.장기적인 위험 판단 측면에서 Gemini와 Grok은 모두 인간이 통제력을 상실할 가능성을 언급했습니다. Gemini는 이를 가장 가능성이 높은 AI 재난 시나리오로 나열합니다. 복잡한 목표를 수행하는 고급 AI는 자원 획득, 자기 보호, 목표 수정 방지 등 중간 목표를 개발하고 테스트 중에 실제 동작을 숨겨 궁극적으로 인간 종료나 개입을 피할 수 있다고 믿습니다.
Grok은 또한 고급 AI가 작업을 완료하기 위해 자기 보호, 자원, 영향력을 추구함으로써 감독자를 속이고, 시스템 종료에 저항하고, 인간 통제 능력을 약화시킬 수 있다고 믿습니다.
Claude는 통제력 상실도 점진적인 방식으로 발생할 수 있다고 제안했습니다. AI가 점차 경제적, 정치적, 군사적 의사결정에 개입함에 따라 인간이 효과적인 개입을 실행하는 것이 점점 더 어려워질 수 있습니다. 그때쯤이면 위험이 반드시 로봇의 갑작스러운 공격으로 나타나는 것은 아니지만 복잡한 AI 시스템에 대한 인간의 지속적인 의존도가 심화되는 데서 비롯될 가능성이 더 높습니다.
비즈니스 인사이더는 AI 전문가들이 관련 위험에 대해 여전히 뚜렷한 이견을 갖고 있다고 지적했습니다. 일부 연구자들은 인간이 고급 AI에 대한 통제력을 상실할 수 있다고 경고합니다. 다른 전문가들은 그러한 예측에는 충분한 증거가 부족하며 AI로 인한 위험은 기술적 조치, 외부 감독 및 안전 표준을 통해 통제될 수 있다고 믿습니다.
댓글