요약:
브래드 스미스 마이크로소프트(MS) 사장은 현재 인공지능에 대한 감독 수준은 우유나 세탁기 등 일반 소비재에 비해 훨씬 부족하고, 심지어는 부족하다고 말했다. 그는 인공지능 시스템이 통제를 벗어나 피해를 입힐 때 기업이 피해자에게 알리고, 사고 보고서를 제출하고, 일부 인공지능 제품이 공식적으로 출시되기 전에 독립 평가 기관의 검토를 받도록 요구하는 등 가능한 한 빨리 글로벌 인공지능 안전 규칙을 제정할 것을 각국에 촉구했습니다.
스미스의 이러한 입장은 도널드 트럼프 미국 대통령의 주장과 명백히 대조된다. 트럼프는 미국 기업이 중국 경쟁업체와 경쟁할 수 있는 능력을 약화시키는 과도한 정부 개입을 피하기 위해 인공지능 산업이 주로 자체 규제에 의존해야 한다고 믿습니다. 스미스는 인공지능이 도구이자 무기라는 이중적 속성을 갖고 있으며, 위험을 통제하기 위해 기업의 자율에만 의존할 수는 없다고 믿습니다.
Smith는 BBC의 Big Boss 인터뷰 팟캐스트에서 "이제 세탁기에는 인공 지능보다 더 많은 안전 규칙이 적용됩니다"라고 말했습니다. "식료품점에서 볼 수 있는 모든 우유 상자에는 안전 규칙과 검사가 적용됩니다."
그는 인공지능의 발전이 대책을 세워야 할 단계에 이르렀다고 믿습니다. 국가는 심각한 사고가 발생할 때까지 대응 방안을 논의할 것이 아니라 다른 산업의 규제 경험을 통해 배우고 인공지능 기술에 적합한 안전 시스템을 구축해야 한다.
최근 몇 년간 인공지능 모델의 성능이 급격히 향상되면서 업계에 대한 규제를 강화해야 한다는 요구가 커졌습니다. 일부 인공지능 전문가들은 이 기술이 인류사회의 장기적 안보에 위협이 될 수 있다고 경고하기도 했다. 인공지능이 가져올 수 있는 사이버 보안 위험, 통제 불능 행동 및 기타 잠재적인 피해에 초점을 맞춰 업계 내에서도 기술 개발을 늦추어야 하는지에 대한 논의가 시작되었습니다.
미국 인공지능 기업인 앤트로픽(Anthropic), 오픈AI(OpenAI), 구글 딥마인드(Google DeepMind)의 수장들은 모두 인공지능 개발에 대해 보다 신중한 접근 방식을 지지해 왔으며, 일부 사람들은 특정 상황에서 기술 연구 개발 속도를 늦추는 것을 지지하기도 합니다. 그러나 트럼프 대통령은 미국 인공지능 산업의 발전을 제한할 수 있는 조치에 줄곧 반대해 왔으며, 이러한 기술 경쟁에서 미국이 앞서야 한다고 거듭 강조해 왔다.
스미스는 인공지능을 단순히 평범한 소프트웨어 제품으로 간주해서는 안 된다고 믿습니다. 사이버 보안 분야에서 인공지능 에이전트 시스템의 자율 실행 능력이 강화되고 첨단 모델의 영향력이 커지면서 관련 리스크에 대한 정부, 기업, 독립 평가 기관의 공동 대응이 요구되고 있다.
그는 기업들에게 업계에서 종종 '킬 스위치'라고 불리는 인공지능 시스템을 위한 비상 제동 메커니즘을 구축할 것을 촉구했습니다. 인공지능 시스템이 통제 불능 상태로 행동하거나 심각한 결과를 초래할 수 있는 작업을 수행하기 시작하면 기업은 적시에 시스템 작동을 중단하거나 작동 속도와 권한을 줄여 위험이 더 이상 확대되지 않도록 할 수 있어야 합니다.
스미스는 또한 의무적인 사고 보고 시스템을 옹호합니다. 인공지능 에이전트가 통제력을 상실하고 다른 시스템에 침입하거나 비정상적인 행위로 인해 이용자에게 피해를 입힐 경우, 관련 기업은 관련법에 따라 사건을 신고하고 영향을 받는 개인이나 기관에 알려야 합니다.
그는 이러한 조치가 인공지능 안전 규제 시스템의 일부가 되어야 하며 기업의 자발적인 조치에만 의존해서는 안 된다고 믿습니다.
또한 Smith는 특정 고위험 인공 지능 제품이 출시되기 전에 시스템이 관련 보안 요구 사항을 충족하는지 여부를 결정하기 위해 정부가 인정한 독립 평가자의 검토를 받아야 한다고 제안했습니다. 이는 모든 인공지능 제품이 동일한 수준의 감독을 받아야 한다는 의미는 아니지만 출시 전 독립적인 평가가 필요한지 여부는 제품 기능, 사용 시나리오 및 잠재적 위험에 따라 결정되어야 한다는 의미입니다.
스미스는 다른 산업에서도 유사한 안전 관리 메커니즘을 확립했으며 인공지능 감독은 이러한 성숙한 경험을 통해 배울 수 있다고 말했습니다. 그는 기존 위험 평가, 사고 보고, 제품 안전 시스템을 인공지능 분야에 합리적으로 적용하는 것이 핵심이라고 믿는다.
국제 인공 지능 규칙을 홍보하는 과정에서 Smith는 특히 영국의 역할에 대해 낙관적입니다.
영국이 인공지능 안전 문제를 전문으로 다루는 기관을 설립했다는 점을 지적했다. 이 기관은 원래 리시 수낙(Rishi Sunak) 전 총리 행정부 때 인공지능 보안연구소로 출범했다가 나중에 첨단 인공지능 시스템의 성능과 잠재적 위험을 연구하는 인공지능연구소(AI 보안연구소)로 이름이 바뀌었다.
스미스는 영국이 인공지능 안전성 평가 분야에서 강력한 기술력을 보유하고 있으며 국제 협력을 촉진할 수 있는 여건도 갖추고 있다고 믿습니다. 그는 기술 업계 사람들에게 인공지능 보안 기술 역량을 선도하는 국가가 어디인지 묻는다면 많은 사람들이 주저 없이 영국을 선택할 것이라고 말했다.
그는 영국이 연구 역량과 국제적 영향력을 활용하여 국가들이 인공 지능 안전에 관해 보다 통일된 규칙을 수립하도록 촉진할 기회가 있다고 믿습니다.
스미스의 견해는 인공지능 개발 가속화를 강조하는 트럼프 행정부의 정책 방향과 다르다. 트럼프는 인공지능 경쟁에서 승리하는 사람이 미래를 이길 것이라고 거듭 말했다. 이러한 입장은 규제 장벽을 줄이고 기업 투자를 장려하며 기술 적용을 확대함으로써 인공 지능 분야에서 미국의 선도적 위치를 공고히 하려는 미국 정부의 열망을 반영합니다.
그러나 스미스는 영국이 주도하는 인공지능 규제 계획을 미국 정부가 확실히 거부할 것이라고 믿지 않습니다.
그는 영국과 EU에 대한 미국 정치계의 태도에 차이가 있음을 지적했습니다. 워싱턴, 영국, 런던에서는 일반적으로 브뤼셀 및 EU 기관과 같은 수준의 정치적 반발을 일으키지 않습니다. Smith는 이러한 관계의 차이가 영국이 국제 AI 안전 표준을 추진하는 데 이점이 될 수 있다고 믿습니다.
인간의 통제를 벗어날 수 있는 인공지능 에이전트, 글로벌 네트워크 보안에 위협이 될 만큼 강력한 모델 등 주목할 만한 위험 신호가 충분하다고 강조했다.
인간의 통제를 벗어난 인공 지능 에이전트, 글로벌 사이버 보안을 침해할 만큼 강력한 모델을 보면 이제 때가 무르익었다고 말하고 싶습니다."라고 Smith는 말했습니다.
그는 모든 당사자가 차분하면서도 확고한 태도를 취하고, 가능한 한 빨리 대화를 시작하고, 정부, 기업, 연구 기관이 관련 규칙을 공동으로 제정하도록 장려할 것을 촉구했습니다. 그는 또한 이 과정에서 마이크로소프트가 역할을 할 수 있고, 영국이 국제 협력을 촉진하는 역할을 맡을 수 있기를 희망한다고 피력했습니다.
스미스가 업계 자율 규제의 가치를 완전히 부정하지는 않았다는 점은 주목할 가치가 있습니다. 트럼프 대통령은 지난달 말 백악관에서 OpenAI, Anthropic, NVIDIA, SpaceX, Meta, Google 등 거대 기술 기업의 수장들을 만났습니다. 회의에서 기업 임원들은 인공지능 시스템이 예상대로 작동하는지 평가하고 시스템이 의도하지 않은 방식으로 기술 시스템에 침입하거나 접근하지 않도록 보장하기 위해 독립 감사관과 협력하기로 합의한 윤리 문서에 서명했습니다.
이 문서의 목적은 인공지능 기업이 보안 검토를 강화하고 독립적인 평가를 통해 잠재적인 문제를 식별하도록 장려하는 것입니다. 구속력은 공식적인 법률 및 규정과는 다르지만 여전히 보안 거버넌스 측면에서 기술 업계가 취하는 조치로 간주됩니다.
Smith는 해당 성명에 대해 감사를 표하고 Microsoft가 관련 문서에 기꺼이 서명할 의향이 있다고 말했습니다. 그는 이것이 좋은 시작이자 필요한 단계라고 믿습니다.
그러나 그의 견해로는 이러한 유형의 자발적인 헌신에만 의존하는 것만으로는 더 이상 충분하지 않습니다.
Smith는 모든 자율 규제 시스템이 근본적인 문제에 직면하게 될 것이라고 지적했습니다. 책임 있는 기업은 일반적으로 안전 요구 사항을 준수할 의향이 있지만 실제 우려되는 점은 책임감이 부족하고 사전에 안전 조치를 취하지 않는 기업입니다.
그는 업계 전체가 자발적인 약속에만 의존할 경우 규칙을 준수하는 회사는 더 많은 비용을 부담할 수 있는 반면, 안전 보장에 자원을 투자하지 않는 경쟁업체는 계속해서 빠르게 성장할 수 있다고 믿습니다. 따라서 법적 구속력이 있는 최소 안전 기준을 설정하면 모든 기업이 기본 요구 사항을 충족하도록 하는 데 도움이 됩니다.
이것은 Smith가 강조한 핵심 문제이기도 합니다. 인공지능 규제는 기업이 책임을 질 의향이 있는지 여부에 달려 있어야 할 뿐만 아니라, 기업이 이행해야 하는 보안 의무와 시스템에 심각한 문제가 발생할 경우 어떤 조치를 취해야 하는지를 규정하는 명확한 시스템을 구축해야 합니다.
AI 에이전트가 복잡한 작업을 수행하고, 외부 도구를 호출하고, 기술 시스템에 액세스할 수 있는 능력을 확보함에 따라 소프트웨어 보안 관리에 대한 기존 접근 방식을 조정해야 할 수도 있습니다. 미래의 규제 시스템은 모델 자체에 결함이 있는지 주목해야 할 뿐만 아니라, 인공지능이 실제 작동에서 어떤 권한을 얻을 수 있는지, 어떤 리소스에 접근할 수 있는지, 비정상적인 동작이 발생하는 경우 제때에 작동을 중단할 수 있는지 등도 고려해야 합니다.
Microsoft의 경우에도 이 문제는 직접적인 비즈니스 중요성을 갖습니다. Microsoft는 인공 지능 인프라 및 모델 애플리케이션 분야의 중요한 업체이자 엔터프라이즈 수준 클라우드 컴퓨팅 및 소프트웨어 서비스의 주요 공급자입니다. 인공 지능 시스템의 보안, 신뢰성 및 제어 가능성은 기업 고객이 비즈니스 프로세스에 관련 기술을 널리 배포할 의향이 있는지 여부에 직접적인 영향을 미칩니다.
스미스의 발언은 미국 기술 산업 내에서도 인공지능을 어떻게 규제해야 하는지에 대한 완전한 합의가 이루어지지 않았음을 보여줍니다. 일부 기업과 정책 입안자들은 혁신과 상업화 속도를 높이기 위해 제한을 최대한 줄이기를 희망합니다. 다른 사람들은 기술 역량이 향상됨에 따라 더 명확한 보안 책임과 위험 제어 메커니즘이 동시에 확립되어야 한다고 믿습니다.
이 논쟁의 핵심은 인공 지능 개발을 지원할지 여부뿐만 아니라 기술 적용이 개인, 기업, 사회에 허용할 수 없는 위험을 초래하지 않도록 하면서 혁신을 장려하는 방법입니다.
우유와 세탁기의 예부터 비상 제동 장치, 사고 보고, 독립적인 평가에 이르기까지 Smith가 전달하려는 메시지는 분명합니다. 즉, 인공 지능의 기술 발전은 기존 규제 시스템의 조정 속도보다 빠릅니다. 국가가 인공지능을 통해 경제적, 사회적 혜택을 계속 누리기를 원한다면, 가능한 한 빨리 자신의 능력과 위험에 맞는 안전 규칙을 수립해야 합니다.
그는 기업의 자체 규율에만 의존하는 것만으로는 이 문제를 해결하는 데 충분하지 않다고 생각합니다. 진정으로 효과적인 규제 시스템은 책임 있는 기업이 계속해서 혁신하도록 장려할 뿐만 아니라 사전에 위험을 통제하기를 꺼리는 참여자를 제한해야 합니다.
댓글