OpenAI CEO 샘 알트만(Sam Altman)은 OpenAI가 인공지능 플랫폼에 대한 위험을 평가하고 해결하기 위해 설계된 연방 정부 기관인 미국 AI 안전 연구소(U.S. AI Safety Institute)와 협력하고 있다고 말했습니다.
Altman은 목요일 밤 X에 게시한 글을 통해 이 사실을 발표했지만 자세한 내용은 드물었습니다. 그러나 이는 6월 영국 AI 안전 기관과의 유사한 합의와 함께 OpenAI가 더 유능하고 강력한 생성 AI 기술을 추구하기 위해 AI 안전 노력을 미루고 있다는 주장에 대응하기 위한 것으로 보입니다.
지난 5월 OpenAI는 "초지능" 인공 지능 시스템이 통제 불능 상태가 되는 것을 방지하기 위해 제어 기능을 개발하는 그룹을 효과적으로 해체했습니다. 우리를 포함한 일부 보고서에 따르면 OpenAI는 새로운 제품 출시를 위해 팀의 보안 연구를 제쳐두었고 결국 팀의 두 공동 책임자인 Jan Leike(현재 AI 스타트업 Anthropic의 보안 연구 책임자)와 OpenAI 공동 창립자 Ilya Sutskever(자체 보안 AI 회사인 Safe Superintelligence Inc.를 창업함) 사이의 분열로 이어졌습니다.
점점 더 많은 비판에 대응하여 OpenAI는 암묵적으로 신고를 방해하는 제한적인 비방 금지 조항을 제거하고 안전 위원회를 설립하며 컴퓨팅 성능의 20%를 안전 연구에 투자할 것이라고 밝혔습니다. (해체된 보안 팀은 작업에 대해 OpenAI 컴퓨팅 성능의 20%를 약속받았지만 그런 일은 결코 일어나지 않았습니다.) Altman은 컴퓨팅의 20%를 보안 연구에 전념하겠다는 약속을 반복했으며 OpenAI가 5월에 신규 직원과 기존 직원에 대한 비방 금지 조항을 폐지했다고 반복했습니다.
그러나 이러한 움직임은 일부 관찰자를 달래는 데 거의 도움이 되지 않았습니다. 특히 OpenAI가 Altman을 포함하여 회사 내 모든 사람으로 안전 위원회를 구성하고 최근 AI 안전 책임자를 다른 조직으로 옮긴 이후에는 더욱 그렇습니다.
하와이 민주당원 Brian Schatz를 포함한 5명의 상원의원은 최근 Altman에게 보낸 서한에서 OpenAI의 정책에 대해 의문을 제기했습니다. OpenAI의 최고 전략 책임자인 제이슨 권(Jason Kwon)은 오늘 서한에 응답하여 OpenAI는 "프로세스의 모든 단계에서 엄격한 보안 프로토콜을 시행하기 위해 최선을 다하고 있습니다"라고 썼습니다.
OpenAI가 국립 AI 보안 연구소(National Institute for AI Security)와 합의한 시점은 다소 수상쩍은 것 같습니다. OpenAI가 이번 주 초 상원에서 보안 연구소를 인공 지능 모델에 대한 표준 및 지침 개발을 담당하는 집행 기관으로 승인하는 법안인 혁신의 미래법(Future of Innovation Act)을 지지했기 때문입니다. 종합하면, 이러한 움직임은 규제를 포착하려는 시도로 볼 수 있으며, 적어도 연방 차원의 인공 지능 정책 결정에 대한 OpenAI의 영향력으로 볼 수 있습니다.
Altman은 미국의 중요 인프라에서 "인공 지능의 안전한 개발 및 배포"에 대해 조언하는 국토 안보부 인공 지능 보안 위원회의 회원입니다. 올해 OpenAI의 연방 로비 지출은 크게 증가하여 2024년 첫 6개월 동안 800,000달러, 2023년 내내 260,000달러를 지출했습니다.
상무부 산하 국립표준기술연구소(National Institute of Standards and Technology) 산하 국립인공지능안전연구소(National Institute for Artificial Intelligence Safety)는 Google, Microsoft, Meta, Apple, Amazon 및 NVIDIA와 같은 Anthropic 및 대규모 기술 기업을 포함한 기업 컨소시엄과 상담합니다. 업계 그룹은 AI 레드 팀, 기능 평가, 위험 관리, 보안 보증 및 합성 콘텐츠 워터마킹에 대한 지침 개발을 포함하여 10월에 발표된 인공 지능에 대한 조 바이든 대통령의 행정 명령에 따라 작업하는 임무를 맡고 있습니다.