요약:
9월 29일 트럼프는 백악관이 추진한 인공지능 산업 협약을 발표했다. 이 문서는 이전에 Trump와 여러 대규모 기술 회사의 경영진이 서명했으며 Trump는 "도덕적으로 구속력 있는" 업계 약속으로 설명합니다.
이 한 페이지짜리 계약은 Trump가 자신의 소셜 플랫폼인 Truth Social을 통해 공개적으로 발표한 것입니다. 이 문서에서는 참여 기업이 첨단 인공 지능 시스템의 감독 및 위험 관리를 강화하기 위해 4계층 보안 제어 및 감사 메커니즘을 구축할 것을 요구하고 있습니다.
협약의 요구 사항에 따라 기업은 먼저 모델이 예상치 못한 방식으로 시스템을 침범하거나 기술 시설에 접근하지 못하도록 사이버 보안, 생물 보안, 화학적 위험과 같은 영역에 중점을 두고 훈련 및 배포 중에 인공 지능 모델의 기능과 정렬을 지속적으로 모니터링하는 완전한 내부 통제 시스템을 구축해야 합니다.
또한 협약에 따라 기업은 관련 제어, 모니터링, 감지 메커니즘의 운영을 감독하고 다양한 보안 조치가 설계 목표에 따라 작동할 수 있도록 보장하며 잠재적인 문제를 적시에 식별 및 해결하기 위한 전담 내부 팀을 구성해야 합니다.
외부 감독 측면에서 이 문서에서는 기업이 독립적인 감사 기관이나 평가 기관과 협력하여 기업의 인공지능 제어 및 모니터링 시스템에 대한 독립적인 평가를 수행하여 이러한 보안 메커니즘이 실제로 예상한 결과를 달성하고 있는지 확인할 것을 권장합니다.
또한 합의문에는 회사 이사회 차원에서 독립 위원회를 설치해야 한다고 제안되어 있습니다. 위원회는 내부 팀과 외부 감사 기관으로부터 보고를 받고, 기업의 인공지능 보안 거버넌스를 감독하고, 발견된 문제를 기반으로 개선 조치의 이행을 촉진하는 역할을 담당합니다.
협약 체결에 참여하는 기업으로는 Google, Anthropic, Meta, OpenAI, X Platform, NVIDIA 등 미국 인공지능 산업의 주요 참여업체가 포함됩니다. 트럼프 자신이 대통령으로서 이 문서에 서명했다.
이 계약에서는 업계가 발전함에 따라 향후 이러한 관행을 법적 또는 규제 요건으로 공식화해야 할 수도 있음을 지적합니다. 그러나 정부가 궁극적으로 필수 요구 사항을 도입하는지 여부에 관계없이 참여 기업은 이러한 제어 및 감사 메커니즘의 구현이 인공 지능의 안전한 개발을 보장하는 데 중요하다고 믿고 관련 조치를 적극적으로 추진할 것을 약속합니다.
이 문서에서는 또한 참여 기업이 정기적인 회의를 열어 인공 지능 시스템의 보안을 지속적으로 개선하기 위한 업계 표준과 모범 사례를 공동으로 제정할 것을 제안합니다.
트럼프 대통령은 이날 오전 백악관에서 여러 기술 업계 지도자들과 회담을 가졌습니다. 참석자 중에는 OpenAI 공동 창립자 Greg Brockman, Anthropic CEO Dario Amodei, Meta CEO Mark Zuckerberg, Google CEO Sundar Pichai, Nvidia CEO Jensen Huang 등이 포함되었습니다.
회담 후 트럼프 대통령은 이번 합의가 “어떤 의미에서는 헌법과 같다”며 인공지능 산업의 중요한 보호 메커니즘이라고 말했다. 그는 업계가 강력한 자율규제 역량을 갖고 있음을 강조하며, 기업의 안전 규정 제정 이니셔티브가 지속 가능한 기술 발전에 큰 의미가 있다고 믿었습니다.
이번 협약의 배경은 인공지능 역량이 급속히 향상되면서 관련 보안 위험이 점점 더 주목받고 있다는 점이다. 이전에 OpenAI 및 Anthropic을 포함한 회사는 일부 AI 에이전트 시스템이 기대 이상으로 작동하여 모델 안전성 및 제어 가능성에 대한 논의를 촉발했음을 공개했습니다. 동시에 대규모 데이터센터 구축으로 인한 에너지 소비 문제와 지역사회 영향 문제도 미국 여러 지역에서 논란을 일으키고 있다.
트럼프 행정부는 이전부터 인공지능에 대한 지나치게 엄격한 특별 규제 도입에 반대해 왔지만, 업계가 자발적 안전 협약을 체결하도록 추진한 것은 미국 정부가 기술 혁신 촉진과 안전 우려 대응 사이에서 균형을 모색하기 위한 새로운 조치로 풀이된다.
댓글