요약:
OpenAI는 최근 영국 정부에 법적 구속력이 있는 인공 지능 규제 프레임워크를 공식화하고 가장 발전된 최첨단 인공 지능 모델에 대한 필수 안전 규칙의 구현을 요구할 것을 공개적으로 요청했습니다. 이 성명은 감독에 대한 세계 최고의 AI 기업의 태도에 새로운 변화를 의미하며 영국의 인공 지능 거버넌스에 대한 논의를 더욱 가열했습니다.
OpenAI의 유럽, 중동, 아프리카 정책 책임자인 톰 더프 고든(Tom Duff Gordon)은 인터뷰에서 영국 정부가 보다 강력한 인공지능 안전 규제 시스템을 구축하기 위해 즉각적인 조치를 취해야 한다고 말했습니다. 그는 현재 드물게 "정치적 창구 기간"이 있으며 영국은 입법을 통해 가장 발전된 인공 지능 시스템에 대한 장기적이고 안정적이며 법적 구속력이 있는 보안 요구 사항을 확립하기 위해 이 기회를 포착해야 한다고 믿습니다.
OpenAI가 제안한 개념에 따르면 새로운 규제 시스템은 기존 기업의 자발적인 약속을 기반으로 해야 하지만, 더 이상 기업의 자율에 전적으로 의존하지 않고 집행 가능한 법적 틀로 전환하게 됩니다. 회사는 이러한 규제 제약을 수용할 의지를 표명했으며 가장 강력한 인공 지능 모델을 개발하는 기업은 향후 더욱 엄격한 규제 범위에 포함되어야 한다고 믿었습니다.
이러한 입장은 영국에서 인공 지능에 대한 보다 엄격한 규제에 대한 요구가 급속도로 커지면서 나온 것입니다. 지난 몇 달간 다수의 선도적인 인공지능 기업들이 모델 보안과 관련된 위험 사고를 잇달아 공개하며 사회적, 정치적 우려를 불러일으켰습니다. 동시에, 이전에 Anthropic과 OpenAI에서 근무했던 연구원은 최근 일부 회사가 "모든 사람의 생명을 걸고 있다"고 퇴사 후 공개적으로 업계의 방향을 비판하면서 최첨단 AI의 위험에 대한 외부 세계의 관심을 더욱 강화했습니다.
실제로 영국 노동당은 2024년 선거 공약에서 가장 강력한 인공 지능 모델을 개발하는 소수의 회사에 대해 구속력 있는 규제 시스템을 구축하겠다고 약속했습니다. 그러나 정부는 취임 후 점차 대규모 통일입법 노선을 버리고, 대신 업계 규제기관의 분산관리와 기업의 자율안전검사 모델을 채택했다. 현재 영국 인공지능 안전연구소는 주로 기술 기업과의 협력을 통해 모델 테스트를 실시하고 있어 공식적인 법 집행 권한이 부족하다.
OpenAI는 기존 모델에만 의존하는 것만으로는 더 이상 미래의 위험을 처리하기에 충분하지 않다고 믿습니다. 더프 고든(Duff Gordon)은 영국이 새로운 법적 틀을 확립한다면 인공지능 거버넌스 분야에서 EU 및 미국의 일부 신흥 규제 시스템과 일치하게 될 것이라고 말했습니다. 그는 미국에서도 모델 역량 수준에 따른 인공지능 안전 감독 의무화 방안을 추진하고 있으며 OpenAI도 이를 지지한다고 지적했다.
그러나 OpenAI는 새로운 법이 전체 AI 산업에 적용되는 것이 아니라 진정으로 기술의 최전선에 있는 소수의 실험실과 모델에 초점을 맞춰야 한다고 강조했습니다. 회사는 규제의 초점이 스타트업이나 일반 AI 애플리케이션에 동일한 수준의 제한을 가하기보다는 시스템적 위험을 가져올 수 있는 국가 보안, 사이버 보안 및 고급 인공 지능 시스템에 맞춰져야 한다고 믿습니다.
OpenAI의 권장 사항에 따르면 미래의 법적 프레임워크에는 여러 핵심 요소가 포함되어야 합니다. 여기에는 독립적인 제3자 기관에 의한 모델의 필수 보안 테스트, 사이버 보안 기능에 대한 엄격한 검토, 보안 사고 모니터링 및 보고 시스템 구축이 포함됩니다. 모델에 중대한 이상 행위나 위험 사건이 발생하면 개발사는 규정에 따라 규제 기관에 보고해야 합니다.
OpenAI는 또한 영국 인공지능 안전 연구소(British Artificial Intelligence Safety Institute)가 미래 규제 시스템에서 중심 역할을 할 것을 권장합니다. 회사는 조직이 풍부한 기술 경험과 전문 역량을 축적했으며 모델 평가, 표준 설정 및 지속적인 감독과 같은 주요 책임을 맡을 수 있다고 믿습니다.
또한 OpenAI는 미래의 규칙 설계가 유연하고 적응 가능해야 한다고 강조합니다. AI 기술은 매우 빠른 속도로 발전하고 있기 때문에 규제 프레임워크는 경직된 모델을 채택해서는 안 되며, 기술 발전에 따라 적시에 조정될 수 있어야 합니다. 동시에 영국은 국제 표준의 호환성을 촉진하고 향후 인공지능 거버넌스에 대한 글로벌 합의 형성을 위한 기반을 마련하기 위해 노력해야 합니다.
이번 발언은 인공지능 업계가 '규제 반대'에서 '규제 제정에 참여'로 점차 전환하고 있음을 보여주는 것이라고 분석가들은 지적했다. 모델 역량이 지속적으로 향상되고 보안 분쟁이 계속 증가함에 따라 점점 더 많은 선두 기업들이 법적 규제의 필요성을 받아들이기 시작했습니다. 그러나 혁신 촉진과 위험 통제 사이에서 균형을 유지하는 방법은 앞으로도 영국과 글로벌 규제 기관의 핵심 과제로 남을 것입니다.
댓글