엘론 머스크(Elon Musk)가 소유한 인공지능 챗봇인 그록(Grok)은 미성년자의 이미지를 포함해 성적으로 노골적인 이미지를 생성하라는 소셜미디어 플랫폼 X의 사용자 명령에 응답해 전 세계적으로 점점 커지는 비판과 정부 단속 위협에 직면해 있다.
말레이시아 관련 당국은 토요일 성명을 통해 일부 사람들이 인공지능 기술을 남용해 여성과 미성년자의 이미지를 조작하고 음란하고 공격적이거나 기타 유해한 콘텐츠를 제작했다는 불만을 접수한 후 국가가 그록(Grok)이 생성한 관련 이미지를 조사하고 있다고 밝혔습니다.
말레이시아 통신 멀티미디어 위원회는 토요일 성명을 통해 이러한 유해 콘텐츠의 생산이나 유포는 말레이시아 법률에 따라 불법이라고 밝혔습니다. 언론 규제 당국은 법 위반 혐의로 기소된 소셜 플랫폼 X 사용자를 조사하고 회사 대표를 소환해 심문할 것이라고 밝혔습니다.
“소셜플랫폼X는 현재 라이선스를 받은 서비스 제공자는 아니지만 플랫폼에서 유해한 콘텐츠가 확산되는 것을 방지할 책임이 있습니다.”라고 성명서는 밝혔습니다.
머스크는 소셜 플랫폼에 게시물을 올렸습니다.
그는 게시물에 "불법 콘텐츠를 생성하기 위해 Grok을 사용하는 사람은 누구나 불법 콘텐츠를 업로드한 것과 동일한 결과에 직면하게 될 것"이라고 썼습니다.
말레이시아는 그록(Grok)에 대해 강한 우려를 표명한 가장 최근 국가이다. 인도 정부는 소셜 플랫폼 Bloomberg에 서한을 보냈으며 1월 2일자 서신 사본을 검토했습니다.
인도 정부는 소셜 플랫폼을 요구한다. 인도 정부는 소셜 미디어 플랫폼에서 인공지능이 생성한 불쾌한 콘텐츠에 대해 특별 규정을 도입하는 것도 고려할 수 있다고 밝혔다.
인도 정보기술부 장관 Ashwini Vaishnaw는 인터뷰에서 "관련 의회 위원회는 소셜 미디어 플랫폼을 규제하기 위한 강력한 법률의 도입을 권고했습니다. 우리는 현재 이 제안을 연구하고 있습니다."라고 말했습니다.
프랑스 정부도 지난 금요일 Grok이 관련 당사자들의 동의 없이 소셜 플랫폼 X에서 "명백히 불법적인" 성적인 콘텐츠를 생성했다고 주장하며 기소했습니다. 프랑스 정부는 성명을 통해 Grok이 생성한 관련 이미지가 EU의 디지털 서비스법을 위반했을 수 있다고 지적했습니다. 성명서는 이 규정에 따라 대규모 플랫폼이 불법 콘텐츠 확산 위험을 줄이기 위한 조치를 취하도록 요구한다고 언급했습니다.
해당 챗봇은 아동의 성적 대상화와 관련된 콘텐츠 생성을 명시적으로 금지하는 자체 허용 사용 정책을 명백히 위반하는 불쾌한 이미지를 생성했습니다. 현재 일부 불법 사진이 서가에서 제거되었습니다.
기자는 Grok을 개발하고 소셜 플랫폼을 운영하는 회사인 xAI로부터 이 문제에 대한 이메일을 통해 의견을 구했습니다.
지난 2주 동안 소셜 플랫폼 X에서 점점 더 많은 사용자가 Grok에게 여성과 어린이의 사진을 성적으로 표현하고 조작하도록 요청했습니다. 플랫폼이 크리스마스 직전에 사진 편집 기능을 출시한 후 건강에 해로운 추세는 전 세계적으로 빠르게 퍼졌습니다.
Grok은 소셜 플랫폼에 게시물을 게시했습니다.