로이터 통신에 따르면,미국 볼티모어 시가 일론 머스크(Elon Musk)가 소유한 인공지능 기업 xAI(xAI)를 상대로 자사의 AI 챗봇 그록(Grok)이 합의되지 않은 성적으로 노골적인 이미지와 아동 성착취 콘텐츠를 불법적으로 생성했다고 비난하며 공식 소송을 제기했다.인구 약 568,000명의 볼티모어는 "심층 위조" 문제로 xAI를 고소한 현재 최대 도시로서 순회 법원에 제출된 고소장에서 xAI가 Grok을 안전한 범용 AI 보조자로 패키징했으며 실제 운영이 소비자 보호법을 위반한 혐의를 받고 있음을 지적했습니다.
법원 문서는 콘텐츠 생성에 대한 도구의 방대한 데이터를 공개합니다. 2만개 샘플을 기반으로 안티디지털혐오센터가 추산한 바에 따르면, 올해 초 소셜플랫폼 X에서 11일 만에 약 300만개에 달하는 실감나는 성적인 이미지가 생성됐고, 이 가운데 아동 관련 불법 콘텐츠도 2만3000개 이상이다. 브랜든 스콧 볼티모어 시장은 성명을 통해 기술 기업들이 아동 성적 착취를 조장하고 있다고 비난하고 책임자들은 법적 책임을 져야 한다고 강조했습니다. 또한 고소장은 머스크가 2025년 12월 31일 게시한 파란색 비키니를 입은 그록(Grok)이 생성한 자화상을 증거로 인용하며 이것이 실제 사람들의 노골적인 이미지를 생성하는 AI 도구의 능력에 대한 "공개 지지"였다고 비난했습니다.
상황이 확대되면서,2023년에 출시된 Grok은 미주, 유럽, 아시아 및 호주의 여러 곳에서 규제 조사를 받고 있습니다.xAI는 지난 1월 중순 일부 관할권에서 Grok의 이미지 편집 기능을 제한하겠다고 발표했고 Musk는 당시 Grok의 미성년자 불법 이미지 생성에 대해 "전혀 알지 못했다"고 주장했지만 법적 논란은 가라앉지 않았습니다. 이번 소송에서 볼티모어시는 불특정 벌금을 요구할 뿐만 아니라 xAI가 Grok의 "착취적인" 디자인 기능을 완전히 바꾸도록 강제하는 금지 명령을 내려달라고 법원에 요청했습니다. 현재까지 모회사인 SpaceX나 최근 합산 가치가 약 1조 2500억 달러에 달하는 xAI 모두 이번 소송에 대해 공식적인 대응을 하지 않았습니다.