요약:
대표 캘리포니아 민주당원인 Ro Khanna는 최첨단 AI 기술에 대해 현재까지 가장 엄격한 연방 규제 프레임워크를 확립하기를 희망하면서 포괄적인 인공지능 규제 법안을 의회에 제출할 예정입니다. 이 제안은 엄격한 책임 제도의 시행을 요구할 뿐만 아니라, 연방 정부가 완전한 안전 및 보안 시스템을 구축할 때까지 '재귀적 자기 개선' 기능을 갖춘 인공지능 시스템의 사용을 금지한다는 계획도 담고 있습니다.
이 법안의 이름은 Human Control Over AI Act입니다. 이 법안이 발의된 배경은 미국 기술계와 정책계에서 첨단 인공지능(AI)의 잠재적 위험성에 대한 우려가 계속 높아지고 있는 상황에서 나온 것이다. 최근 몇 년 동안 많은 AI 회사 경영진은 일부 인공 지능 시스템이 미래에 인간 제어 능력을 초과할 수 있다고 공개적으로 경고했지만 의회는 아직 포괄적인 규제 계획을 수립하지 않았습니다.
로 카나는 인터뷰에서 인공지능이 남용될 위험이 있을 뿐만 아니라 통제력 상실의 위험도 가져올 수 있다고 말했다. 그는 관련 기술의 발전이 문명 차원의 안보 문제를 다루었기 때문에 인간은 이 두 가지 문제를 진지하게 받아들여야 한다고 믿습니다.
법안 내용에 따르면 이른바 '재귀적 자기 개선' 인공지능이 금지된다. 이러한 유형의 시스템은 자체 기능을 자율적으로 개선하거나 핵심 목표, 제어 메커니즘 및 종료 규칙을 수정할 수 있는 인공 지능 모델로 정의됩니다.
제안에서 요구하는 대로 연방 안전 규칙이 제정될 때까지 관련 활동은 허용되지 않습니다. 향후 개통되더라도 전문 규제기관의 승인을 받아야 한다.
이 법안은 또한 OpenAI, Anthropic, Google DeepMind 및 xAI와 같은 최첨단 모델을 개발하는 회사를 감독하기 위해 새로운 연방 인공 지능 규제 기관을 설립할 계획입니다.
기관은 AI 안전 규정 제정, 모델 훈련 및 배포를 위한 라이선스 시스템 구축, 최첨단 모델 감사 수행, 지속적인 테스트와 효과적인 인간 통제를 위한 표준 개발 등 다양한 책임을 맡게 됩니다.
동시에 새 기관은 격리된 테스트 환경, 네트워크 격리 조치, 비상 종료 시스템, 모델이 실험 환경을 떠나 개방형 인터넷 운영에 진입하는 것을 방지하는 제어 메커니즘을 포함한 일련의 기술적 보안 요구 사항을 공식화하는 책임도 맡게 됩니다.
계획에 따라 최첨단 모델 개발을 수행하는 모든 실험실은 독립적인 감사를 받아야 합니다. 감사인은 기업 경영진을 통해 정보를 전달하는 대신 관련 기관에 장기간 머물면서 규제 당국에 직접 보고하게 된다.
이 법안은 규제 모델 자체 외에도 일부 고급 AI 칩과 컴퓨팅 성능 자원을 감독 범위에 포함시켜 고위험 인공지능 개발 활동에 대한 감독을 더욱 강화할 계획입니다.
이 법안은 책임 시스템에 대해 매우 엄격한 입장을 취하고 있습니다.
이 제안에 따르면 인공지능 회사는 향후 피해를 보상할 수 있는 능력을 보장하기 위해 고급 모델을 출시하기 전에 대규모 책임 보험에 가입해야 합니다.
동시에 이 법안은 형사 책임 메커니즘도 도입합니다. 고의로 보안 기능을 끄거나, 비상 정지를 비활성화하거나, 로그 기록을 조작하거나, 격리 시스템을 위반하거나, 승인 없이 고의로 모델을 배포하는 직원은 형사 처벌을 받을 수 있습니다.
더욱 우려되는 점은 해당 법안에 '인류를 위협하는 행위'에 대한 형사책임 조항도 신설할 의도가 있다는 점이다. 특정 인공지능 시스템이 민간인에게 대규모 피해를 입히는 경우 관련 배치 행위로 인해 더 심각한 법적 결과가 발생할 수 있습니다.
로 카나(Ro Kana)는 이 법안이 현재 가장 포괄적인 인공지능 안전 규제 제안 중 하나라고 말했습니다. 그는 법안의 내용이 기술 대기업의 의견을 토대로 만들어진 것이 아니라 주로 인공지능 안전 연구단체와의 장기적인 교류를 통해 나온 것이라고 강조했다.
동시에 Khanna는 또한 미국 정부에 중국과 시행 가능한 보안 협정을 체결하고 향후 위험한 인공 지능 시스템의 확산 위험을 줄이기 위한 검증, 검토 및 통제 메커니즘을 구축하는 것을 포함하여 국제 수준에서 인공 지능 보안 협력을 촉진할 것을 촉구했습니다.
분석가들은 이 제안이 미국 의회 내에서 첨단 인공지능이 기업의 자율에만 의존해서는 안 되며, 약물 규제 시스템과 유사한 정부 감독 메커니즘을 확립해야 한다는 목소리가 커지고 있다고 믿습니다.
그러나 법안이 향후 원활하게 통과될 수 있을지에 대해서는 여전히 불확실성이 크다. 지지자들은 규제가 통제력 상실의 위험을 줄일 수 있다고 믿는 반면, 반대자들은 너무 엄격한 규제가 글로벌 인공지능 경쟁에서 미국의 혁신 능력을 약화시킬 수 있다고 우려합니다.
그럼에도 불구하고 인공지능의 성능이 계속 향상되면서 “기술이 통제를 벗어나기 전에 인간이 경계를 설정해야 하는지 여부”를 둘러싼 논쟁이 공식적으로 미국 입법 수준에 들어갔습니다.
댓글