인공지능 모델의 성능이 지속적으로 향상되면서 사회와 경제에 미치는 광범위한 영향에 대한 관심이 더욱 높아지고 있습니다. 전 세계 정부는 AI 모델이 결코 단순한 소프트웨어 업그레이드가 아니며 완전한 규제 메커니즘을 구축하는 것이 시급하다는 점을 점차 깨달았습니다. Google DeepMind의 CEO인 Demis Hassabis는 최근 최첨단 인공 지능 모델을 감독하고 평가하기 위한 글로벌 규제 기관 설립에 미국이 앞장설 것을 촉구하는 제안을 했습니다.
허사비스는 링크드인 게시물에서 일반 인공 지능(AGI)의 실현은 불과 몇 년 밖에 남지 않았으며 사이버 보안과 같은 영역에서 발생할 수 있는 과제를 고려할 때 위험을 해결하기 위한 즉각적인 조치를 취해야 한다고 지적했습니다. 그는 반복적으로 스스로 개선할 수 있는 점점 더 자율화되는 시스템의 제어를 유지하고 기술이 발전함에 따라 계속해서 나타날 알려지지 않은 문제를 적절하게 처리하려면 강력한 보호 장치가 미래에 필요할 것이라고 강조했습니다.
이를 위해 Hassabis는 "표준 기관"의 설립을 제안했습니다. 이 기관은 연방 정부가 감독하는 민관 파트너십의 형태를 취할 수도 있고 자율 규제 기관으로 운영될 수도 있습니다. 그는 미국이 이 글로벌 규제 기관에서 주도적인 역할을 맡아야 한다고 믿습니다. 조직은 독립적인 최고 기술 전문가와 오픈소스 커뮤니티 대표로 구성되어야 하며, 자금은 업계 내에서 조달되어야 합니다.
Hassabis의 비전에 따르면 이 기관의 주요 책임은 평가 프로토콜을 개발하고 관련 연방 기관 및 미국 국립 연구소와 협력하여 국가 안보 관련 분야에서 테스트를 수행하는 것입니다. 그는 표준 기관이 설정한 벤치마크 테스트에서 모델의 성능을 기준으로 사용해야 한다고 제안했습니다. 특정 기준을 충족하면 '프론티어급' 모델로 분류된다. 이러한 벤치마크는 AI 기술 역량의 발전에 보조를 맞추기 위해 정기적으로 업데이트됩니다.
최첨단 모델을 개발하는 기업은 '프론티어 랩(Frontier Labs)'으로 분류되며, 상세한 기술 세부정보가 포함된 모델 카드 발급, 높은 수준의 내부 네트워크 보안 방어 유지, 핵심 인력에 대한 배경 조사 수행 등 해당 규정 준수 의무를 맡게 됩니다. 또한 이들 회사는 출시 최소 30일 전에 검토를 위해 모델을 표준 기관에 제출해야 합니다. 평가합의 요건을 통과한 모델만이 외부로 출시될 수 있다.
Hassabis는 이러한 규제 체계가 최첨단 모델이 생산되는 국가, 오픈 소스인지 비공개 소스인지에 관계없이 적용되어야 한다고 강조했습니다.
허사비스가 제안한 구조는 인공지능 산업을 위한 '유엔' 설립과 유사하다는 분석이 나왔다. 그러나 이 조직이 미국에 의해 지배되고 그 구성원이 주로 미국 산업계에 속해 있다면, 다른 국가(중국 등)가 이 조직이 정한 기준을 따를지는 여전히 불확실합니다.