요약:
인공지능 회사인 Anthropic은 최근 고급 AI 모델에 대한 연방 차원의 규제 프레임워크를 구축하기 위해 미국 국회의원에게 인공지능 안전 법안 초안을 비공개로 제출했습니다. 제안에 따르면 AI 모델이 50명 이상의 사망이나 심각한 부상을 초래할 수 있거나 10억 달러 이상의 재산 피해를 초래할 수 있는 예측 가능하고 임박한 재앙적 위험이 있다고 판단되면 해당 모델의 출시 및 사용이 차단될 수 있습니다.
공개된 정보에 따르면 이 법안은 모든 인공지능 애플리케이션을 대상으로 하는 것이 아니라 가장 발전된 '최첨단 모델'에 초점을 맞추고 있습니다. 이 제안은 개입에 대한 명확한 기준을 설정하며 극도의 위험 상황에서만 규제 기관이 모델 배포를 제한하기 위한 법적 절차를 시작할 수 있습니다.
초안에 나열된 위험은 주로 생물 무기의 생성 또는 출시 지원, 개발자의 통제에서 벗어나는 모델, 모델에 참여하거나 조장하는 대규모 사이버 공격 등 세 가지 영역에 중점을 두고 있습니다. 이러한 특정 시나리오에서 위험이 발생할 때만 규제 메커니즘이 촉발됩니다.
Anthropic이 제안한 위험 표준이 이전에 미국 캘리포니아주에서 통과된 상원 법안 53과 유사하다는 점은 주목할 가치가 있습니다. 후자는 대규모 사상자나 막대한 경제적 손실을 초래할 수 있는 상황도 '재앙적 위험'으로 정의한다.
구체적인 이행 메커니즘에 대해서는 미국 상무부가 등록하고 관리하는 독립적인 평가자 시스템을 구축할 것을 제안합니다. 이러한 평가 기관 또는 전문가는 최첨단 AI 모델 및 개발 회사에 대한 보안 평가를 수행하고 해당 모델이 심각한 위험을 초래하는지 여부를 판단하는 역할을 담당합니다.
약정 초안에 따르면 평가기관이 AI 기업으로부터 비용을 지급받더라도 그 지급이 평가 결과와 직접적인 관련이 없는 한 이 파트너십은 여전히 허용된다. 그러나 이러한 합의는 평가 기관의 독립성과 객관성이 도전에 직면할 수 있다고 믿는 일부 업계 내부자들 사이에서 의구심을 불러일으키기도 했습니다.
평가자가 모델에 임박한 재앙적 위험이 있다고 판단하는 경우 평가 완료 후 72시간 이내에 이를 미국 상무부에 보고해야 합니다. 그러면 상무부는 워싱턴 D.C.의 연방 법원에 해당 모델의 출시 또는 배포에 대한 유예를 판사에게 요청하도록 청원할 수 있습니다.
일부 규제 계획과 달리 Anthropic의 제안은 행정 기관이 일방적으로 모델을 중단할 권한이 없다는 점을 구체적으로 강조합니다. 초안 설계에 따르면 연방 판사만이 최종적으로 유예를 발부할 수 있습니다. 즉, 어떤 정부 부처도 사법 절차를 우회하여 AI 모델의 온라인 접속이나 사용을 직접적으로 금지할 수는 없습니다.
Anthropic은 법안의 최종 버전을 공개적으로 자세히 설명하지 않았지만 회사 대변인은 초안이 존재함을 확인하고 자사의 핵심 아이디어가 올해 초 제안된 '고급 인공 지능 프레임워크'에서 비롯되었다고 말했습니다. 프레임워크는 가장 강력한 AI 시스템에 대한 보다 엄격한 테스트, 더 큰 투명성 및 독립적인 제3자 평가 메커니즘의 도입을 옹호합니다.
인공지능 성능이 지속적으로 향상되면서 미국 기술 산업과 규제 기관 사이에서 AI 안전 문제를 둘러싼 논쟁도 가열되고 있습니다. 지지자들은 Anthropic이 제안한 계획이 고위험 AI에 대한 정부 개입에 대한 명확한 절차와 법적 근거를 제공한다고 믿습니다. 비평가들은 과도한 개입 한계와 업계 자체 평가 메커니즘에 대한 의존으로 인해 향후 더욱 복잡한 인공 지능 위험에 완전히 대응하기 어려울 수 있다고 생각합니다.
현재 이 제안은 아직 논의 단계에 있으며 아직 미국 의회에 정식으로 제출되지 않았으며 법적 효력도 없습니다. 다만, AI 대형 기업들이 적극적으로 제안한 최초의 연방 규제안 중 하나로, 그 내용은 향후 미국 내 인공지능 입법 논의에 중요한 영향을 미칠 것으로 예상된다.
댓글