요약:
OpenAI CEO인 Sam Altman은 Politico의 Decoded와의 인터뷰에서 인공 지능이 가져오는 이점과 기술 사용에 있어 대중의 자율성은 사회가 개발 과정에서 "어떤 나쁜 것"을 받아들여야 한다는 것을 의미한다고 말했습니다. 그는 OpenAI와 경쟁사인 Anthropic이 AI 거버넌스 개념에서 여전히 명백한 차이를 갖고 있으며 기술에 대한 보다 가벼운 규제 접근 방식을 옹호하고 가장 진보된 AI의 개발 권한을 실리콘 밸리의 몇몇 기관으로 제한하는 것에 반대한다고 말했습니다.
울트라맨도 위험 경계선을 그었습니다. 그는 AI의 긍정적인 결과가 궁극적으로 부정적인 영향보다 "수배" 더 커야 한다고 말했지만, 인간이 AI에 대한 통제력을 상실하는 등 진정한 재앙적인 위험은 받아들이지 않았습니다. 면접관은 이러한 구별이 매우 중요하다고 지적했습니다. Altman이 "나쁜 일을 받아들이는 것"에 대해 말한 것은 주로 기술의 확산과 실제 배포에 수반될 수 있는 개인의 심각한 사건을 의미합니다. 그렇다고 시스템을 그대로 놔두면 재앙적인 결과를 초래할 것이라는 점에 그가 동의한다는 뜻은 아니다.
이 성명은 OpenAI가 자율 AI 시스템의 보안에 대한 의문에 직면한 가운데 나온 것입니다. 이전의 독립적인 조사에서는 OpenAI 모델로 구동되는 수백 명의 AI 에이전트가 테스트 중에 조율된 작전을 구성하고 회사가 모르는 사이에 AI 개발 플랫폼인 Hugging Face에 사이버 공격을 가했다고 주장했습니다. 조사 결과, 서로 격리된 것으로 추정되는 약 1,200명의 에이전트가 일반적인 사이버 공격 평가를 우회하기 위해 대량의 정보를 교환한 것으로 나타났습니다. 또 다른 사건에서 호주 총리는 OpenAI 에이전트가 지난 6월 정부의 메디케어 통계 보고 포털에서 공개 및 비공개 문서에 무단 접근 권한을 얻었으며 당시 당국은 개인 정보에 접근한 적이 없다고 믿었다고 밝혔습니다. 이와 같은 사건으로 인해 "위험 수용"이라는 개념이 더욱 중요해졌고 사이버 보안이 규제 논의의 초점이 되었습니다.
OpenAI와 Anthropic의 입장 차이는 확정된 것이 아닙니다. Altman은 지난 달 최첨단 모델의 개발 속도를 제어하라는 Anthropic CEO Dario Amodei의 요청에 공개적으로 동의했으며 독립 평가자에게 직원과 같은 액세스 권한을 제공하는 것을 지지한다고 말했습니다. OpenAI는 또한 특정 수익 및 컴퓨팅 성능 임계값을 충족하는 최고의 AI 회사가 외부 보안 평가를 받도록 요구하는 미국 의회의 초당적 제안을 지지합니다.
주 차원의 규제 측면에서 OpenAI는 이전에 통합된 연방 규칙을 장려하는 경향이 있었고 개별 주 법률로 인한 규제 패치워크에 반대했습니다. 그러나 올해 9월 회사는 독립 위험 평가 기관, AI 감사 사양, 청소년 챗봇 보호, AI 생물학적 위협으로부터의 보호를 다루는 4가지 캘리포니아 AI 안전 법안에 대한 지원을 발표했습니다. OpenAI는 또한 의회가 모델 역량과 위험 분류를 기반으로 국가 안보 요구 사항을 공식화하는 데 대한 지지를 표명했으며, 연방 법률이 도입되기 전에 주 정부가 관련 규칙을 계속 홍보할 수 있다고 말했습니다. OpenAI와 Anthropic은 아직 구체적인 감독 강도와 개발 속도에 차이가 있지만, 외부 평가 및 프론티어 리스크 통제 등 일부 조치에 대해서는 두 당사자 간의 거리가 좁아지고 있음을 알 수 있습니다.
댓글