요약:
브래드 스미스 마이크로소프트(MS) 사장은 최근 각국에 인공지능 규제에 속도를 낼 것을 다시 한 번 촉구하며 현재 인공지능 기업에 대한 감독이 우유, 세탁기 등 소비재 감독만큼 강력하지 않다는 점을 강조했다. 그는 인공 지능 기능이 급속히 향상됨에 따라 세계가 통합 보안 규칙을 공식화해야 하는 중요한 순간에 도달했다고 믿습니다.
BBC 팟캐스트와의 인터뷰에서 Smith는 인공 지능을 '도구이자 무기'라고 설명했습니다. 그는 인공지능이 글로벌 네트워크 보안 환경에 새로운 위험을 가져오고 있으므로 국제 보안 규제 프레임워크를 구축하고 명확한 규칙을 통해 산업 발전을 제한해야 한다고 말했습니다.
스미스는 미래의 글로벌 인공지능 보안 거버넌스 체계에서 미국과 유럽연합보다 영국이 주도적인 역할을 하는 데 더 적합하다고 구체적으로 지적했다. 그는 영국 인공지능 보안연구소(AISI)가 2023년 설립된 이후 급속도로 발전해 글로벌 인공지능 보안 테스트 분야에서 중요한 세력이 됐다고 믿는다. 기관은 최첨단 미국 실험실에서 새로운 모델에 접근할 수 있었고 공식적으로 배포되기 전에 독립적인 안전성 평가를 수행할 수 있었습니다.
그러나 이 상태는 최근 도전에 직면했습니다. 도널드 트럼프 미국 대통령은 앞서 소위 '글로벌주의' 기관들이 미국 기업에 간섭하고 있다고 주장하며 비판한 바 있다. 언론 보도에 따르면 트럼프 대통령은 지난달 앤트로픽(Anthropic)과 오픈AI(OpenAI)에 미국이 검토를 완료할 때까지 영국 테스트 기관에 새 모델 제공을 중단하라고 요청했다. 그러나 영국의 AI 안전 연구소는 이번 주에 여전히 최신 세대의 AI 모델에 접근하고 테스트할 수 있음을 확인했습니다.
미국 정부의 회의론에도 불구하고 Smith는 여전히 영국이 독특한 이점을 갖고 있다고 믿습니다. 그는 워싱턴 의사결정계의 눈에는 영국과 런던이 브뤼셀의 EU 본부처럼 강력한 규제 세력으로 간주되지는 않을 것이지만 이는 영국이 국제 사회에서 조정 역할을 하고 모든 당사자 간의 합의를 촉진하는 데 도움이 될 것이라고 말했습니다.
스미스의 발언은 점점 더 많은 기술 업계 리더들이 인공지능 개발 속도를 늦춰야 한다고 요구하는 가운데 나온 것입니다. Anthropic CEO Dario Amodei와 OpenAI CEO Sam Altman은 최근 고급 인공 지능의 위험에 대한 우려를 공개적으로 표명했습니다. 인공지능 에이전트 시스템에서 여러 차례 이상 행위가 발생하면서 보안 문제에 대한 외부 세계의 우려가 더욱 증폭되었습니다.
올해 10월 트럼프는 인공지능 보안 문제를 논의하기 위해 OpenAI, Anthropic, NVIDIA, AMD, SpaceX, Meta 및 Google의 경영진도 백악관에 소집했습니다. 컨퍼런스에 참가한 기업들은 인공 지능 모델의 기능과 안전성을 평가하기 위해 독립적인 감사 기관과 협력할 것을 약속하는 "윤리적 구속력이 있는" 계약에 서명했습니다.
Smith는 이번 합의가 긍정적인 단계라고 생각하지만 실제로 효과적인 감독 간에는 여전히 격차가 있습니다. 그는 업계의 자발적인 자율규제는 책임 있는 기업만을 제약하는 경우가 많으며, 실제로 규칙을 준수하지 않는 기업이 가장 큰 문제라고 지적했습니다.
스미스는 또한 자신이 바라는 일련의 안전 조치를 제안했습니다. 예를 들어, 기업 시스템이 통제 불가능한 인공지능 에이전트에 의해 침입당하는 경우, 관련 기관은 적시에 경고를 발령할 법적 의무를 져야 합니다. 인공지능 연구실은 신제품을 출시하기 전에 외부 독립 평가 기관의 검토를 받아야 합니다. 동시에 업계에서는 인간이 통제력을 잃을 때 인공 지능 시스템의 작동을 일시 중지하거나 속도를 늦추기 위한 '비상 정지 스위치'와 같은 메커니즘도 연구해야 합니다.
스미스는 향후 거버넌스 방향에 대해 이야기하면서 모든 당사자에게 보다 합리적이고 실용적인 태도로 협력을 촉진할 것을 촉구했습니다. 그는 마이크로소프트가 글로벌 합의의 일부가 될 수 있고 영국이 국제 인공지능 보안 거버넌스 시스템에서 가교 역할과 리더십 역할을 할 수 있기를 희망한다고 피력했습니다.
관련 기사:
브래드 스미스 Microsoft 사장: AI는 우유보다 규제가 훨씬 적습니다
댓글