요약:
빌 게이츠는 트럼프 행정부가 AI 위험을 예방하려는 노력을 방해하고 있다고 비난하면서 이 기술이 전염병을 일으키는 데 악용될 수 있다고 경고했습니다. 마이크로소프트 공동 창업자는 지난 수요일 열린 AI의 미래 서밋에서 AI 모델이 '놀라운' 능력을 보여줬다고 말했다. 이는 AI 모델이 인류에게 이익이 될 가능성과 해를 끼칠 가능성이 아무리 강조해도 지나치지 않다는 뜻이다.
AI 도구를 사용해 생물 무기를 만들거나 사회 전반의 네트워크 취약점을 공격하는 악의적인 단체가 현재 가장 시급한 위험이라고 그는 말했습니다. 특히 주목할만한 점은 일부 소위 "개방형" 모델이 개발자에게 무료로 제공되며 이러한 모델의 보안 보호 및 모니터링 메커니즘이 제거될 수 있다는 것입니다.
기술 거물인 그는 AI로 인한 생물안전 사고가 “전염병보다 훨씬 더 큰 피해 규모”를 초래할 수 있다고 경고했다.
게이츠는 위에서 언급한 위험에도 불구하고 AI와 그 영향을 규제하고 모니터링하려는 전 세계적인 노력이 백악관의 무활동으로 인해 정체됐다고 말했습니다.
"미국이 개입하지 않는다면 관련 조치의 가치는 매우 제한적이다. 그래서 우리는 이제 교착상태에 빠지게 된다... 유일한 문제는 그들이 입장을 바꾸기 전에 얼마나 많은 악랄한 사건이 일어날 것인가이다."
게이츠는 계속해서 강력한 경고를 발령하는 기술 리더 중 한 명입니다. 그는 현재 AI의 개발 경로가 기술을 남용하거나 인간의 통제를 벗어나 치명적인 결과를 초래할 수 있다고 경고했습니다. 이 자선가는 이전에 AI가 10억 명의 목숨을 앗아갈 수 있고 고용 시장에 막대한 영향을 미칠 수 있다고 경고한 바 있습니다.
최근 몇 달 동안 이 새로운 기술의 보안 위험에 대한 우려가 계속해서 높아지고 있습니다. 지난 주 Anthropic의 IPO 설명서는 AI가 인류에게 "재앙적이거나 심지어 실존적인 위험"을 가져올 수 있다고 경고했습니다. 게이츠는 AI의 위험성에 대해 대담하게 솔직하게 말한 이 최첨단 AI 연구소를 칭찬했습니다. "그들은 항상 매우 솔직해 왔으며 이것은 또 다른 예입니다."
AI 기술의 놀라운 반복 속도에도 불구하고 트럼프 대통령은 AI에 대한 정부 규제를 강화하라는 요구를 거부했습니다. 그는 G20 AI 지침을 '세계주의적 해결책'으로 홍보하려는 시도를 일축하고 기술 산업의 자체 규제를 선호합니다.
게이츠는 업계 자율 규제가 효과가 없을 것이라고 믿습니다. "여러 기업이 참여하면 이 문제를 해결하기 위한 책임은 정부 수준으로만 올라갈 수 있습니다."
그는 정부가 AI 모델에 내장된 보안 보호 및 모니터링 메커니즘에 대한 벤치마크를 설정하고, 네트워크 취약성을 조사하기 위한 글로벌 조치를 주도하고, AI로 인한 잠재적인 감염을 가능한 한 빨리 감지하기 위해 공기, 하수, 혈액을 포괄하는 대규모 모니터링 시스템을 구축할 것을 촉구했습니다.
게이츠는 2022년에 OpenAI의 ChatGPT 사전 출시 버전을 미리 받았습니다. 그는 OpenAI와 Anthropic이 올해 새로운 모델을 출시할 가능성이 가장 높으며 2027년에는 '두 가지 주요 출시'가 있을 것이라고 밝혔습니다.
그는 이러한 새로운 모델이 온라인에 등장하면서 "모델 자체가 통제력을 잃는 것"이 가까운 미래에 심각한 문제가 될 것이라고 덧붙였습니다. 게이츠는 정부가 보안 메커니즘을 더욱 개선하고 새로운 모델에 대해 제3자 감사를 실시해야 한다고 주장했습니다.
그는 또한 약물 연구 및 개발, 병원 대기 시간 단축 등 AI의 긍정적인 가치 탐구를 가속화할 것을 촉구했습니다. "이러한 이점은 자연스럽게 발생하지 않을 것입니다."
게이츠는 또한 억만장자와 초고소득 집단에 세금을 부과하는 것에 대한 지지를 표명했습니다. AI가 사회를 근본적으로 재편하는 맥락에서 이 성명은 캘리포니아의 "부유세" 국민투표 제안에 대한 지지를 표명하는 것과 같습니다. 29일 미국 중간선거 예비개표 결과에 따르면 이 제안은 부결될 가능성이 높다.
그는 OpenAI와 Anthropic 공동 창업자들의 자선 활동 의지를 확인하고, "이 기금이 세계 보건 등 여러 분야에서 큰 역할을 할 수 있도록" 그들과 소통하고 협력하고 있다고 말했습니다.
댓글