바이든 미국 대통령이 올해 10월 인공지능 규제에 관한 첫 번째 행정명령에 서명한 뒤 바이든 행정부는 화요일 동부시간에 생성형 인공지능의 안전한 배치와 시스템 테스트 및 보호 방법을 위한 핵심 표준과 지침을 작성하는 첫 걸음을 내디뎠다고 밝혔다.
올해 10월 말, 바이든 미국 대통령은 생성 인공지능에 대한 백악관 최초의 규제 규정을 시작하는 '랜드마크' 행정명령에 서명했습니다. 행정 명령에 따르면 여러 미국 정부 기관은 인공 지능으로 인한 화학, 생물학, 방사선, 핵 및 사이버 보안 위험을 방지하기 위한 표준을 개발해야 합니다.
화요일(동부시간) 미국 상무부 산하 국립표준기술연구소(NIST)는 인공지능 시스템의 보안을 보장하는 데 중요한 AI 테스트를 실시하기 위해 2월 2일 이전에 인공지능 기업과 대중의 의견을 구할 것이라고 밝혔습니다.
NIST는 인공지능 평가 및 테스트를 위한 지침을 개발하고, 인공지능 산업 표준 개발을 촉진하며, 인공지능 시스템 평가를 위한 테스트 환경을 제공하고 있다고 주장합니다.
지나 라이몬도(Gina Raimondo) 미국 상무장관은 NIST의 최근 이니셔티브는 “미국이 빠르게 진화하는 이 기술의 책임감 있는 개발과 사용에서 계속해서 세계를 선도할 수 있도록 인공지능의 안전, 보안, 신뢰에 관한 산업 표준을 개발”하려는 바이든의 10월 행정 명령에 의해 촉발되었다고 말했습니다.
NIST가 개발 중인 테스트 지침에는 소위 "레드 팀" 테스트가 포함됩니다. NIST는 "레드 팀" 테스트가 인공 지능 위험 평가 및 관리에 가장 유익한 부분을 고려하고 이러한 목적을 위한 모범 사례를 개발할 것입니다.
"레드팀" 테스트는 네트워크 보안 테스트에서 중요한 테스트 단계입니다. 이는 시스템의 보안을 테스트하고 강화하기 위해 전문가 팀이 실제 적의 시뮬레이션을 의미합니다.
올해 8월 미국은 주요 사이버 보안 회의에서 처음으로 인공지능 '레드팀' 테스트 활동을 공개적으로 실시했습니다. 이번 행사에는 AI 업계 기관인 AIVillage, SeedAI, Humane Intelligence 등이 주로 참여한다.
백악관은 8월 행사에서 수천 명의 참가자들이 "이러한 시스템으로 인해 발생하는 위험을 더 잘 이해하기 위해 이러한 시스템이 원치 않는 출력을 생성하거나 다른 방식으로 실패할 수 있는지 여부"를 테스트했다고 밝혔습니다. 이 이벤트는 "외부 레드팀이 새로운 AI 위험을 식별하는 데 어떻게 효과적인 도구가 될 수 있는지 보여주었습니다."