요약:
"진짜 질문은 속도를 줄여야 한다고 생각한다면 빠른 속도로 달리지 말고, 외부 힘이 강제로 멈출 때까지 기다리지 말라는 것입니다." 이는 Microsoft 부회장이자 사장인 브래드 스미스(Brad Smith)가 유엔 총회에서 앨런 머레이(Alan Murray)에게 한 말입니다. 그가 논의한 주제는 '최첨단 대형 모델 제조사들이 자신들이 개발하는 기술이 인류에게 재앙을 가져오지 않도록 감속 페달을 밟아야 하는가'였다.
이러한 발언을 한 날, Anthropic CEO Dario Amodei와 OpenAI CEO Sam Altman은 UN에서 연설하여 국가들이 인간의 통제 능력을 넘어서는 AI 개발을 방지하기 위해 AI 안전 보호 메커니즘을 구축할 것을 촉구했습니다.
다년간의 업계 경험을 갖고 있는 Smith는 다음과 같이 말했습니다. "회사의 CEO로서 귀하의 제품에 안전 위험이 있다고 판단한다면 계속해서 제품을 마케팅해야 합니까? 대답은 명백하다고 생각합니다. 그렇지 않습니다. 기업은 공공 안전에 대한 책임이 있습니다."
그럼에도 그는 "특정 규제 조치의 도입은 결국 불가피할 것"이라고 덧붙였다. 역사적으로 많은 제품은 안전한 구현을 위해 규제에 의존했습니다. 예를 들어, 예전에는 우유 오염 문제가 있었기 때문에 "그래서 우리는 농업 검사 부서를 설치하고 관련 법률을 도입했습니다. 이제는 슈퍼마켓에 가면 모든 종류의 우유가 안전하고 마실 수 있습니다."
스미스가 "AI 시스템을 직접 느리게 하거나 종료할 수 있는 기능이 있어야 한다"고 제안하자, 진행자 앨런은 AI 긴급 정지 스위치(킬 스위치)에 대해 이야기하고 있음을 확인한 뒤 "이것이 좋은 생각이라고 생각하시나요?"라고 물었다.
Smith는 다음과 같이 대답했습니다. "물론이죠... 모델 개발자는 이를 종료할 권한이 있어야 하고, Microsoft와 같은 클라우드 인프라 제공업체는 해당 권한을 가져야 하며, AI 에이전트를 제어하는 기관도 이를 종료할 수 있어야 합니다. 이 메커니즘이 법률을 통해 의무화되더라도 그것은 나쁜 것이 아닙니다."
Alan은 그에게 비즈니스 관리자가 회사 내 AI 보안 문제를 어떻게 처리해야 하는지 물었습니다. "내 요점은 AI 사용을 중단하지 말라는 것입니다. AI는 근본적인 혁신이며 생산성 향상을 위한 중요한 도구입니다. 하지만 기술에는 거버넌스가 필요하다는 점을 기억하는 것이 중요합니다. ... 이 기술의 거버넌스는 기술 자체만큼 중요합니다."
그는 또한 "나는 매일 일어나서 인류가 멸종할 확률이 10%라고 생각하지 않는다. 하지만 너무 걱정하기보다는 너무 많이 걱정하는 것이 낫다. 결국 우리가 논의하고 있는 것은 인간의 생존에 관한 것이다. 제발 이 문제는 최신 기술보다 더 중요하며 우리는 이를 심각하게 받아들여야 한다"고 상기시켰다.
댓글