요약:
Apple은 최근 App Store 검토 지침을 업데이트했으며 인공지능이 생성한 비자발적 비공개 이미지에 대해 더욱 엄격한 관리 조치를 취할 것이라고 발표했습니다. 이전에는 플랫폼 규칙에 따라 성적으로 노골적인 콘텐츠가 금지되었으며, 최신 규정에 따라 개발자는 AI가 생성한 딥 페이크 콘텐츠를 사전에 예방, 모니터링 및 제거해야 합니다. 개발자가 효과적인 조치를 취하지 못하는 경우 해당 애플리케이션이 App Store에서 삭제될 수 있습니다.
업데이트된 1.2 조항에서 Apple은 처음으로 AI 콘텐츠 생성과 관련된 애플리케이션 카테고리를 명확하게 지정합니다. 이러한 움직임은 과도한 노출과 성적인 딥페이크 콘텐츠 생성 논란을 불러일으킨 챗봇 서비스를 포함한 일부 생성 AI 제품과 관련이 있는 것으로 여겨집니다. 이전에 Apple은 관련 앱이 누드 딥페이크 이미지 생성을 계속 허용하면 앱 스토어에서 제거될 위험이 있다고 관련 개발자에게 경고했습니다. 그 후 회사는 해당 보안 보호 메커니즘을 추가하고 업데이트 버전을 출시하기 위해 Apple의 승인을 얻었습니다.
동시에 Apple은 앱이 검토를 통과한 후 검토 단계에서 공개되지 않은 새로운 기능을 개발자가 추가할 수 없다는 점을 강조하기 위해 2.5.19라는 새로운 검토 지침을 추가했습니다. Apple은 인공 지능을 사용하여 실제 인물의 사진을 누드 또는 포르노 이미지로 위조하는 앱인 소위 "누드화 앱(Nudification Apps)"을 구체적으로 언급했습니다. Apple은 일부 개발자가 검토 기간 동안 애플리케이션의 실제 목적을 숨기고 관련 기능을 활성화하기 전에 애플리케이션이 온라인으로 전환되도록 승인될 때까지 기다릴 수 있다고 믿습니다.
새 규정에 따르면 검토 단계에서 의도적으로 목적을 위장한 후 승인 후 유해한 기능을 공개하는 애플리케이션을 포함하여 숨겨진 기능이나 공개되지 않은 기능을 포함하는 모든 애플리케이션은 서가에서 금지됩니다. 애플은 이런 행위가 전형적인 '미끼와 스위치' 행위이며, '옷 벗기' 기능이 이런 위반 행위의 대표적인 사례라고 지적했다.
AI 생성 콘텐츠에 대한 규정 외에도 Apple은 인신매매 및 아동 착취에 대한 기존 애플리케이션 금지를 대체 애플리케이션 배포 채널로 확대하기 위해 검토 지침 파트 5도 개정했습니다. 즉, 앱이 공식 App Store를 통해 제공되거나 기타 허용된 배포 방법을 통해 제공되는지 여부에 관계없이 앱에는 동일한 콘텐츠 보안 요구 사항이 적용됩니다.
애플은 개발자들에게 공지한 내용에서 이러한 규정을 위반한 앱과 개발자에 대해 진열대에서 앱을 제거하고 개발자 자격을 종료하는 등의 징벌 조치를 주저하지 않을 것이라고 강조했습니다.
이 규칙 업데이트는 생성 인공 지능 도구의 인기가 높아지면서 Apple이 AI 기술이 개인 정보를 괴롭히거나 착취하거나 침해하는 데 사용되는 위험을 줄이기 위해 딥 페이크, 합의되지 않은 개인 이미지 생성 및 관련 남용에 대한 감독을 더욱 강화하고 있음을 보여줍니다.
규칙 전문을 읽어보세요:
https://developer.apple.com/app-store/review/guidelines/
댓글