X사 소유의 AI 툴 그로크(Grok)를 둘러싼 일련의 사건이 일본에서 주목을 받고 있다. 일부 일본 중학교 및 대학생이 Grok을 사용하여 동의 없이 급우의 성적 외설적이거나 성적인 이미지를 생성한 것으로 밝혀졌습니다. 이러한 행동은 광범위한 불안감을 불러일으켰으며, 관련 사용자들도 법적 결과가 발생할 수 있다는 우려를 표명하기 시작했습니다.
그록이 2025년 12월 24일 이미지 생성 및 편집 기능을 시작한 이후, 실제 캐릭터를 나체로 생성하거나 노출이 심한 속옷을 착용하는 합성 이미지가 소셜 플랫폼에 대량 등장해 피해자들로부터 많은 불만이 제기되었습니다.
회사는 1월 6일
이후 일본 법률자문 사이트인 Bengoshi.com에도 관련 문의가 대거 등장했다. 질문자 대부분은 10대와 젊은 사용자들이었습니다. 그들은 Grok 사용으로 인해 발생할 수 있는 법적 위험에 대해 알지 못했다고 말했습니다. 예를 들어, 일부 고등학생은 자신이 수업 시간에 여학생의 누드 동영상을 제작했다고 고백했고, 이를 유포하지는 않았지만 '만드는 것' 자체가 위법 행위에 해당하지 않을까 걱정했다. 일부는 또한 AI에 동급생을 속옷 이미지로 처리하도록 지시하는 것이 포르노 콘텐츠를 제작하는 것으로 간주되는지 질문했습니다. 일부 대학생들은 자신의 계정과 데이터가 삭제되었음에도 불구하고 플랫폼이 경찰에 관련 정보를 제출할지 여부에 대해 여전히 걱정하고 심지어 자수까지 고려하고 있다고 말했습니다.
인터넷법 전문 변호사인 시미즈 요헤이 씨는 이런 행위가 실제로 법적 책임을 지게 될 수 있다고 지적했다. 그는 생성된 이미지에 과도한 노출이나 명백히 성적으로 암시적인 내용이 포함될 경우 당사자의 명예나 사생활을 침해할 수 있다고 설명했습니다. 심각한 경우 명예훼손이나 저작권 침해 문제가 발생할 수도 있습니다.
일본에서 일어난 이번 사건은 그록을 향한 세계적인 논란 중 하나로도 꼽힌다. 비평가들은 이 도구가 부적절한 콘텐츠를 생성하는 기준을 다소 낮춘다고 주장합니다. 법률 홈페이지를 참조한 많은 이용자들은 X사의 공식 경고를 보기 전까지 행위의 심각성을 깨닫지 못했다고 밝혔다. 현재 이들이 가장 우려하는 결과는 형사처벌과 가족들에 대한 사회적 영향이다.