실제 인간의 목소리를 모방할 수 있는 최신 AI 생성 도구는 인상적이면서도 걱정스럽습니다. 피싱 사기부터 선거 개입까지, 재미있거나 유용한 애플리케이션에는 적어도 하나 이상의 악성 애플리케이션이 있습니다. 이제 미국 연방거래위원회(FTC)도 이를 인지하고 처음으로 조치를 취했습니다. 이번 주 초 위원회는 음성 복제 챌린지 등록을 받기 시작했다고 BleepingComputer가 보도했습니다.
정부 기관은 AI 기반 음성 복제 시스템의 사기 또는 무단 사용 문제를 해결하기 위한 몇 가지 유용한 아이디어를 얻기를 희망합니다. 참가자는 다음 개입 지점 중 하나 이상에 대해 제안할 수 있습니다.
예방 또는 인증: 승인되지 않은 사용자가 음성 복제 소프트웨어를 사용하거나 적용하는 것을 제한하는 방법이 제공되어야 합니다.
실시간 탐지 또는 모니터링: 복제된 음성이나 음성 복제 기술의 사용을 탐지할 수 있는 방법이 제공되어야 합니다. 또는
사용 후 평가: 오디오 클립에 복제된 음성이 포함되어 있는지 확인하는 방법이 제공되어야 합니다.
규정에 따라 제출된 모든 제안서에는 제안서에 대한 간단한 텍스트 설명과 자세한 서면 설명이 포함되어야 합니다.
챌린지 심사위원은 관리 용이성 및 실행 타당성이라는 세 가지 주요 영역에서 제안을 평가합니다. 기업의 책임 강화 및 소비자 부담 감소; 그리고 탄력성. 이는 제안된 솔루션이 AI 도구 개발자가 사용할 수 있는 실용적인 옵션을 고려하여 상대적으로 실행하기 쉽고 가능한 한 미래에도 보장되어야 함을 의미합니다.
대회 전체 우승자는 US$25,000의 보너스를 받게 되며, 준우승자는 US$4,000의 보너스를 받게 됩니다. 최대 3개의 우수 가작(개입 현장당 1개)이 각각 $2,000를 받게 됩니다.
그럼에도 불구하고 FTC는 걱정스러운 결과이기는 하지만 결과는 없다고 밝혔습니다. 실행 가능한 아이디어가 나오지 않는다면 기술적 과제가 예상보다 더 어렵고 그러한 AI 도구 사용을 위한 정책을 개발하기 위해 필요한 입법 변경을 촉발해야 함을 의미합니다.
공개 공모는 1월 12일까지 진행되며 결과는 '2024년 초' 발표될 예정이다.
자세히 알아보기:
https://www.ftc.gov/news-events/contests/ftc-voice-cloning-challenge