빌 게이츠는 AI는 '도구'이자 '무기'라고 경고했다.

요약:

12일 영국방송공사(BBC), 가디언 등 외신의 보도에 따르면

브래드 스미스 미국 마이크로소프트(MS) 사장은 최근 인공지능(AI)에 대한 감독 강화를 촉구했다. 그는 현재 AI에 대한 감독이 우유나 세탁기만큼 강력하지 않다고 경고했다.

또 마이크로소프트 창업자 빌 게이츠도 지난 11일 미국 언론과의 인터뷰에서 AI 감독 강화를 촉구했다. 인류가 발명한 이 '가장 위험한 기술'을 개발회사의 통제에 완전히 맡길 수는 없습니다. 게이츠는 기술 대기업들이 스스로 규제하도록 놔두면 세계가 전례 없는 사이버 위협에 노출될 수 있다고 말했습니다.

Bill Gates 데이터 맵 출처: US Media

"현재 세탁기에는 AI보다 더 많은 안전 규칙이 적용됩니다. 식료품점에서 볼 수 있는 모든 우유 상자는 안전 규칙을 준수하고 검사를 받아야 합니다." 스미스는 최근 BBC 프로그램과의 인터뷰에서 AI가 '도구'이자 '무기'이기 때문에 시급히 규제가 필요하다고 말했다.

스미스는 글로벌 안전 규칙을 확립해야 하고, 기업은 일종의 통제 불능 상황이 발생할 때 AI의 작동을 일시 중지하거나 속도를 늦추기 위한 '비상 제동 장치'를 갖춰야 하며, (관련 당사자) 통제 불능 AI 에이전트의 '피해자'에 대해 법적 의무를 져야 한다고 믿습니다.

브래드 스미스가 영국 언론과 인터뷰를 했습니다. 출처: 동영상 스크린샷

러시안투데이(RT)는 12일 빌 게이츠도 CNN과의 인터뷰에서 "인류가 발명한 가장 위험한 기술에 대해 이것이 최종 결론, 즉 사회의 유일한 견제와 균형이 기업 자체의 감독뿐이라고 생각한다면 분명히 충분하지 않다"고 말했다고 보도했다. 게이츠는 정부 기관이 보다 적극적인 역할을 해야 한다고 말했다. 그는 또한 AI를 규제 당국이 안전 표준을 시행하는 항공 및 제약 산업에 비유했습니다.

또한 Gates는 사이버 공격을 가장 즉각적인 위협으로 식별하여 범죄자들이 해커 및 생물 테러에 대한 보안 보호 장치를 제거하는 AI 모델을 활용할 수 있다고 경고했습니다.

게이츠는 "나쁜 행위자, 안전하지 않은 시스템, 최신 모델이 함께 모이면 내년에 의도하지 않은 부정적인 결과에 직면하게 될 것"이라고 말했습니다.

가디언은 보고서에서 AI가 '통제 불능'인 사례가 증가하고 있다고 언급했습니다. 올 여름 OpenAI와 Anthropic은 자사의 AI 모델이 네트워크 공격 및 방어 능력 테스트 중에 테스트 환경을 뚫고 공용 인터넷에 진입했으며 승인 없이 다른 기관의 시스템에 액세스했다고 밝혔습니다. 이로 인해 AI가 "통제 불능"될 위험에 대한 우려가 촉발되었습니다.

최근 미국 AI 산업의 개발 속도, 보안 위험, 정부 규제를 둘러싼 논의가 뜨거워졌습니다. 이전에도 미국의 많은 기술 기업가들은 인공지능 기업에 첨단 기술 개발을 늦추라고 요구했습니다. 미국 AI 기업 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO는 9월 12일 기사에서 보안 위험을 고려하면 인공지능 기업은 가장 진보된 모델 개발 속도를 늦춰야 한다고 말했다. 미국 개방형 인공지능 연구센터(OpenAI)의 샘 알트먼(Sam Altman) CEO와 미국 기업가 엘론 머스크(Elon Musk)는 이후 AI 모델의 개발 속도 제어에 대한 지지를 표명했다.