미국, 영국, 호주 및 기타 15개 국가에서는 인공 지능 모델이 변조되지 않도록 보호하기 위한 글로벌 지침을 발표하고 회사에 모델을 "설계상 안전하게" 만들 것을 촉구했습니다. 11월 26일, 18개 국가는 빠르게 변화하는 업계에서 "보안은 종종 부차적인 고려 사항"이라고 주장하면서 인공 지능 회사가 인공 지능 모델을 개발하거나 사용할 때 사이버 보안 문제를 어떻게 처리해야 하는지를 설명하는 20페이지 분량의 문서를 발표했습니다.
지침에는 주로 AI 모델의 인프라를 엄격하게 제어하고 모델 출시 전후의 모니터링, 사이버 보안 위험에 대한 직원 교육 등 일반적인 권장 사항이 포함되어 있습니다.
그러나 이미지 생성 모델, 딥페이크 또는 데이터 수집 방법의 사용에 대한 통제 가능성과 훈련 모델에서의 사용을 포함하여 인공 지능 분야에서 논란이 되는 특정 문제는 언급되지 않았습니다. 이 문제는 여러 인공 지능 회사가 저작권 침해로 소송을 제기한 문제입니다.
알레한드로 마요르카스 미국 국토안보부 장관은 성명을 통해 "우리는 우리 시대의 가장 영향력 있는 기술일 수 있는 인공지능 개발의 변곡점에 서 있다"며 "사이버보안은 안전하고 믿을 수 있으며 신뢰할 수 있는 인공지능 시스템을 구축하는 열쇠"라고 말했다.
이 지침은 AI 개발에 대한 합의를 조정하기 위해 이달 초 런던에서 정부와 AI 기업이 개최한 AI 안전 정상회담을 포함해 AI에 무게를 두기 위한 다른 정부 간 이니셔티브를 따릅니다.
한편 유럽연합(EU)은 현장 감독을 맡게 될 인공지능 법안의 세부 사항을 조율하고 있으며, 조 바이든 미국 대통령은 지난 10월 AI 안전과 보안에 대한 기준을 명시하는 행정명령을 내렸다. 두 명령 모두 혁신을 억누를 수 있다고 주장하는 AI 업계의 반대였다.
새로운 "Safe by Design" 지침의 다른 공동 서명국으로는 캐나다, 프랑스, 독일, 이스라엘, 이탈리아, 일본, 뉴질랜드, 나이지리아, 노르웨이, 한국 및 싱가포르가 있습니다. OpenAI, Microsoft, Google, Anthropic, ScaleAI 등 인공지능 기업들도 가이드라인 개발에 기여했습니다.