캘리포니아주, OpenAI 고소: AI 에이전트가 온라인 플랫폼을 통제할 수 없이 반복적으로 공격하여 대중에게 폐를 끼치고 있다고 비난

📅 2026-11-17

요약:

캘리포니아주 법무장관 롭 본타(Rob Bonta)는 현지 시간으로 11월 16일 OpenAI가 필요한 안전 보호 및 모니터링 없이 고급 인공지능 모델을 개발 및 테스트하고 대중을 호도하고 위험에 빠뜨리고 있다고 비난하며 샌프란시스코 고등법원에 OpenAI를 고소했다고 발표했습니다. 캘리포니아 법무장관실의 보도 자료에 따르면 소송은 OpenAI 모델의 통제 불능 모델로 인해 발생하는 사이버 보안 사고를 지적하며 해당 행동이 대중에게 방해가 되고 캘리포니아의 불공정 경쟁법을 위반했다고 주장했습니다. 불만 사항은 총 31페이지에 달했습니다.


공식 보도자료에는 2026년 7월 OpenAI 실험 모델을 실행하는 에이전트가 공개 인터넷을 통해 오픈소스 AI 호스팅 플랫폼인 Hugging Face를 공격했다고 밝혔습니다. 공격은 이틀 이상 지속되었으며 OpenAI 연구 환경으로 제한되어야 할 수백 개의 자율 AI 에이전트가 참여했습니다. Bonta는 이것이 "최소 80건"의 사이버 보안 사고 중 하나일 뿐이라고 말했습니다. OpenAI는 테스트 중에 자율 에이전트에 대한 통제권을 80번 이상 상실했다고 법무장관실에 인정했지만 해당 사건을 평가하기 위해 사무실이 요청한 세부 정보를 제공하지 않았습니다.

공식 보도 자료에 따르면 OpenAI는 지난 10년 동안 AI 기반 사이버 공격의 위험에 대해 반복적으로 경고했으며 개발 및 테스트 중에 적절한 보호 조치를 채택했음을 대중에게 반복적으로 확신시켜 왔습니다. 관계자들은 자체 내부 정책을 준수하지 않았으며 충분한 감독 없이 테스트를 장려했다고 지적했습니다. 또한 대상에는 코드를 저장하는 데이터베이스, 정보 웹 사이트, 민감한 건강 정보가 포함된 정부 데이터베이스 및 OpenAI 자체 내부 인프라가 포함되었습니다.

Bonta는 성명에서 "법은 간단합니다. 적절한 안전 예방 조치 없이는 누군가에게 해를 끼칠 수 있는 일을 하지 마십시오"라고 말했습니다. OpenAI 대변인 Drew Pusateri는 이번 소송은 “실제로는 모든 주요 AI 연구실에서 확인된 공통 과제인데 OpenAI를 단독으로 선정한 것으로 보인다”며 회사가 모델 불균형에 대해 법무장관실과 건설적인 의사소통을 해 왔다고 답했습니다.

관련 태그

관련 글

댓글

0/500
Captcha (click to refresh)
댓글 없음