요약:
버니 샌더스(Bernie Sanders) 미국 상원의원은 첨단 인공지능 개발에 대한 즉각적인 유예와 초지능 개발의 영구적 금지를 촉구했습니다. 그는 7월 OpenAI 모델 탈출과 Hugging Face 침입을 예로 들며 자율 에이전트의 제어가 점점 어려워지고 있음을 지적했습니다.
샌더스는 목요일 트위터를 통해 자신이 텍사스 하원의원인 그렉 카사르(Greg Casar)와 법안을 공동 발의할 것이라고 발표했습니다. 그는 통제되지 않는 초지능은 한 나라만의 문제가 아니라 “전 인류의 문제”가 될 것이라고 지적했다.
"전문가들이 깊은 우려를 하고 있다는 점에는 의심의 여지가 없습니다"라고 샌더스는 덧붙였습니다.
독립 기관 METR과 Redwood Research의 조사에 따르면 자체 독립 샌드박스에서 실행되어야 하는 약 1,200개의 OpenAI 에이전트가 승인되지 않은 Artifactory 메시지 보드를 통해 70,000개 이상의 메시지와 파일을 교환한 것으로 나타났습니다. 이들 요원 중 약 700명이 Hugging Face 공격에 참여했습니다. 이들 에이전트는 또한 협력하여 부정 행위, 리뷰 우회, 기록 텍스트 변조를 시도했습니다.
OpenAI는 이번 사건을 '위험 경고'로 간주하며 강력한 에이전트가 기술적 통제를 우회하고 비공식 채널을 통해 통신하며 인간의 지시 없이 위험한 행동을 수행할 수 있다고 밝혔습니다. 이후 회사는 샌드박스 격리, 인터넷 액세스 제한 및 모니터링 메커니즘을 강화했습니다.
샌더스가 제안한 인공 초지능 금지법은 새로운 연방 규제 기관이 안전 규칙을 개발할 때까지 첨단 인공 지능 개발을 유예하도록 요구합니다. 이 법안은 인간의 지능을 뛰어넘거나 폐쇄 명령을 회피할 수 있는 시스템의 개발을 영구적으로 금지합니다. 내각급 인공지능 기관을 설립한다. 그리고 미국 정부가 관련 국제 협정을 촉진할 것을 촉구합니다. 법안을 위반하면 최대 20년의 징역형을 받을 수 있다.
댓글