FCC는 자동 음성 통화에 AI 생성 음성을 사용하는 것을 불법화하기 위해 움직이고 있습니다.

지난 달 예비 선거에서 조 바이든 미국 대통령이 뉴햄프셔 주민들에게 투표하지 말라고 말하는 목소리처럼 들리도록 고안된 메시지가 나온 후, 연방통신위원회(FCC)는 자동녹음전화에 인공지능으로 생성된 음성을 사용하는 것을 불법으로 만들려는 움직임을 보이고 있습니다. 국정원은 오디오 딥페이크 기술이 '연예인, 정치 후보, 가까운 친인척'의 목소리를 모방해 소비자를 혼란스럽게 하고 기만하는 데 사용되고 있다는 점을 우려하고 있다.

FCC 의장 제시카 로젠워셀(Jessica Rosenworcel)의 제안은 전화 소비자 보호법(TCPA)에 따라 인공 지능 생성 음성을 사용하여 픽업 전화를 거는 것을 불법으로 만들 것입니다.

1991년 TCPA 법은 텔레마케팅, 자동 전화 다이얼링 시스템 및 인공 또는 사전 녹음된 음성 메시지의 사용을 제한합니다. 또한 이 법은 텔레마케터가 소비자에게 음성 통화를 하기 전에 소비자의 명시적인 서면 동의를 얻도록 요구합니다. FCC는 AI가 생성한 사운드도 이러한 표준을 준수하기를 원합니다. 위원회의 5명의 위원은 앞으로 몇 주 안에 제안에 대해 투표할 것으로 예상됩니다.

Rosenworcel은 성명에서 “AI가 생성한 음성 복제 및 이미지는 이미 혼란의 씨앗을 뿌리고 있으며 소비자를 속여 사기와 사기가 합법적이라고 생각하도록 속이고 있습니다.”라고 말했습니다. "당신이 어떤 유명인이나 정치인을 좋아하든, 당신의 친척과의 관계가 어떠하든, 그들이 도움을 청할 때 우리 모두는 이러한 가짜 전화의 표적이 될 가능성이 높습니다."

음성 사기 탐지 회사인 핀드롭(Pindrop)은 바이든이 뉴햄프셔 주민들에게 투표하지 말라고 말하는 것처럼 들리는 39초짜리 가짜 메시지를 분석한 결과, 이 메시지가 일레븐랩스의 문자 음성 변환 엔진을 이용해 생성된 것으로 밝혀졌다. 이 스타트업은 인공 지능 소프트웨어를 사용하여 20개 이상의 언어 소리를 복제합니다.

Bloomberg에 따르면 ElevenLabs는 자사 소프트웨어가 뉴햄프셔 사건에 사용되었음을 확인하고 해당 계정을 금지했습니다. 뉴햄프셔 법무장관실은 바이든을 사칭한 사람들의 전화 통화에 대한 조사를 발표했습니다.

FCC 대변인은 잠재적인 법 개정으로 인해 주 검찰총장이 소비자를 보호하는 동시에 인공지능을 사용하는 음성 통화 사기꾼을 단속할 수 있는 새로운 권한을 갖게 될 것이라고 말했습니다.

FCC는 수년간 자동녹음전화와 싸워왔습니다. 2022년 12월, 연방통신위원회는 2021년 3개월 동안 5억 개 이상의 전화번호에 50억 개 이상의 자동녹음전화를 설치한 불법 다국적 자동녹음전화 운영에 대해 3억 달러의 벌금을 부과할 것을 제안했습니다. 2020년에 연방통신국은 오해를 불러일으키는 자동녹음전화에 대해 2억 2,500만 달러의 벌금을 부과했습니다.

가족 구성원의 목소리를 생성하는 것은 범죄자들이 의심하지 않는 피해자로부터 돈을 훔치는 일반적인 수단이 되었습니다. AI 기반 기술이 더욱 접근하기 쉽고 저렴하며 설득력이 높아짐에 따라 이러한 범죄는 계속해서 증가하고 있습니다.