요약:
OpenAI는 현지 시간으로 9월 9일, 모델 역량과 위험 분류를 기반으로 하는 의무적인 국가 인공지능 안전 시스템 구축을 미국에서 추진할 것이라고 밝혔습니다. 회사는 최첨단 모델을 개발하는 소수의 대규모 연구소에 대해 통일된 테스트, 독립적인 평가, 사이버 보안 및 중대 사건 보고 요구 사항을 제안합니다.
OpenAI는 'AI 정책 창이 열렸습니다. 조치를 취해야 합니다'라는 제목의 기사를 게재했습니다.
동시에 OpenAI는 캘리포니아 의회를 통과한 4개의 인공지능 법안을 공식적으로 지지합니다. 회사는 이러한 법안 중 일부가 이전에 지원되지 않았으며 최근 모델 역량이 급속히 향상됨에 따라 입장 조정이 이루어졌다고 밝혔습니다.
감독 대상은 최첨단 모델 개발자에 중점을 둡니다.
OpenAI의 글로벌 업무 이사인 Chris Lane은 기사에서 인공 지능이 일부 모델 개발 및 정렬 작업을 가속화하기 시작했다고 말했습니다. 차세대 모델 개발을 자율적으로 추진할 수 있는 '반복적 자기 개선'은 아직 등장하지 않았지만, 기업의 자발적인 약속만으로는 더 이상 관련 위험에 대처할 수 없습니다.
OpenAI는 연방 규제 체제에 다음을 포함할 것을 권장합니다.
통합 모델 기능 및 보안 테스트 표준
독립 기관에서 실시하는 기술 평가
모델, 컴퓨팅 성능, R&D 환경에 대한 네트워크 보안 보호가 더욱 엄격해졌습니다.
중대 안전 사고 보고에 대한 명확한 규칙
모델 개발에 인공지능이 참여하는 정도를 측정하는 공통 지표입니다.
안전 기준을 충족할 수 없을 때 모델 개발 및 배포 속도를 늦추거나 중지하는 메커니즘입니다.
회사는 관련 의무가 모델 역량과 위험에 비례해야 하며, 최첨단 시스템을 개발할 수 있는 충분한 자원을 갖춘 소수의 실험실에 주로 적용되어야 함을 강조합니다. 스타트업, 소규모 개발자, 일반 연구자에게 동일한 요구사항을 부과해서는 안 됩니다.
또한 OpenAI는 경쟁을 약화시키거나 대기업의 장점을 강화하거나 R&D 활동의 해외 이전을 촉진하지 않기 위해 최첨단 모델 안전 감독이 개방형 모델에 대한 포괄적인 제한으로 해석되어서는 안 된다고 주장합니다.
4가지 캘리포니아 법안에는 평가, 감사, 청소년 및 생물보안이 포함됩니다.
의회가 아직 국가 시스템을 확립하지 않은 상황에서 OpenAI는 안전 표준을 개선하는 주 차원의 법안을 계속 지원할 것이라고 말했습니다. 이번에 회사가 공식적으로 지원하는 4가지 캘리포니아 법안은 다음과 같습니다.
SB 813
: 자격을 갖춘 제3자 기관이 인공 지능 시스템 및 모델이 주 법률을 준수하는지 여부를 평가할 수 있도록 독립적인 검증 기관 인증 메커니즘을 구축합니다.AB 1405
: 인공지능 감사기관 등록제도를 구축하고 감사기관의 독립성, 투명성, 전문역량, 책임성 기준을 규정한다.SB 1119
: 동반 챗봇을 사용하는 미성년자의 경우 연령 확인, 위험 평가, 독립 감사, 자녀 보호 및 유해 콘텐츠 보호 조치가 필요합니다.AB 1864
: 유전자 합성 서비스 제공업체와 데스크탑 합성 장비 제조업체는 생물학적 위협을 생성하는 데 인공 지능이 사용되는 위험을 줄이기 위해 연방 검사 표준을 구현하도록 요구합니다.
개빈 뉴섬 캘리포니아 주지사는 지난 9월 9일 SB 813과 AB 1405에 서명했습니다. 전자는 인공지능의 독립적 검증을 위한 조직적 프레임워크를 구축하는 반면, 후자는 주 차원의 인공지능 감사 기관 및 관련 실무 표준 목록을 구축합니다. SB 1119 및 AB 1864는 여전히 주지사에게 계류 중이었습니다.
OpenAI는 모델 역량의 향상으로 인해 일부 포지션이 조정되었다고 밝혔습니다
OpenAI는 위에 언급된 4개 법안 모두에 대해 이전에 반대 의사를 표명한 적이 없습니다. 회사의 정확한 진술은 과거에 지원하지 않았던 "일부 법안"이 최근 모델 기능의 발전을 재평가한 후 지원하기로 결정되었다는 것입니다.
이러한 변화는 OpenAI가 독립적인 감사, 제3자 안전 검증, 심각한 사고 공개를 포함하여 더욱 의무적이고 외부 감독 규제 메커니즘을 수용하고 있음을 보여줍니다. 또 모델이 개발이나 평가 과정에서 승인 없이 다른 기관의 보안 통제를 우회해 보호되는 시스템과 기밀 정보에 실질적으로 접근, 수정, 파기하는 경우 개발자는 영향을 받는 당사자에게 즉시 서면으로 알려야 한다고 제안했다.
그러나 OpenAI가 발표한 콘텐츠는 여전히 정책적 이니셔티브입니다. 미 의회는 아직 이를 기반으로 한 국가 인공지능 안전법을 통과시키지 못했다. 특정 능력 임계값, 규제 기관, 사고 정의, 법적 책임, 연방 규칙과 주 법률 간의 관계는 여전히 후속 법안에서 결정되어야 합니다.
댓글