AI 생성 기술이 더욱 널리 보급됨에 따라 Google은 Android 앱에 불쾌한 AI 생성 콘텐츠를 신고할 수 있는 방법을 제공하고 어떤 종류의 AI 생성 콘텐츠가 허용되는지에 대한 새로운 조정 규칙을 준수하도록 요구하기 시작할 것입니다.
인공 지능을 사용하여 콘텐츠를 생성하는 앱은 Google Play 스토어에서 계속 사용할 수 있으려면 내년 초에 불쾌한 콘텐츠를 신고하거나 신고하는 버튼을 추가해야 합니다.
Google은 기존 인앱 신고 시스템과 유사하게 사용자가 앱을 종료하지 않고도 신고할 수 있도록 신고 프로세스를 최대한 단순화하고자 합니다.
회사는 AI 생성 콘텐츠 정책에 AI 챗봇, AI 생성 이미지를 사용하는 앱, AI를 사용하여 실제 사람의 음성 또는 영상 콘텐츠를 생성하는 앱이 포함된다고 밝혔습니다. AI 생성 콘텐츠를 호스팅하는 앱, 책 등 자료를 요약하기 위해 AI만 사용하는 앱, AI를 기능으로 사용하는 생산성 앱에는 새 정책이 적용되지 않습니다.
Google의 관점에서 문제가 되는 AI 콘텐츠에는 합의되지 않은 딥페이크 성적 자료, 사기에 사용되는 실제 녹음, 허위 또는 기만적인 선거 콘텐츠, "주로 성적 욕망을 충족시키기 위한 목적"의 AI 생성 애플리케이션, 악성 코드 생성 등이 포함됩니다.
발표에서 구글은 AI 세대가 "빠르게 성장하는 애플리케이션 카테고리"임을 인정해 기술이 계속 발전함에 따라 구글이 AI 정책을 재검토할 수도 있다는 인상을 줬다.
AI 생성 콘텐츠에 대한 새로운 규칙 외에도 Google은 Play 스토어 사진 및 동영상 권한 정책을 강화하여 앱이 데이터에 액세스할 수 있는 양을 제한했습니다.
회사는 "사용자 기기에 있는 사진과 비디오는 사용자의 민감한 개인 데이터로 간주되며 가장 엄격한 개인 정보 보호 모범 사례에 따라 처리되어야 한다"고 밝혔습니다. "이 민감한 정보는 사용자를 쉽게 유출하거나 악용할 수 있는 대상이 될 수 있으므로 이러한 액세스를 최소화하면 개발자가 민감한 데이터를 처리하는 부담을 피할 수 있습니다."
사진 및 비디오에 대한 광범위한 액세스가 필요한 앱만 일반 권한을 계속 부여받게 되며, 미디어 파일을 제한적으로 사용하는 앱은 사진 선택기를 사용해야 합니다.