Meta Corporation은 최근 사용자가 사망한 후에도 사용자를 대신하여 소셜 미디어 계정에 콘텐츠를 계속 게시할 수 있는 논란의 여지가 있는 인공 지능 특허를 받았습니다. 12월에 승인된 이 특허는 사망한 사용자와의 시뮬레이션된 영상 및 음성 통화도 가능하게 합니다. 전문가들은 여러 가지 법적, 윤리적, 사회적 문제를 제기했습니다.
특허 문서에 따르면 대규모 언어 모델은 소셜 미디어 사용자의 "디지털 복제물"을 생성하여 사용자의 온라인 활동을 시뮬레이션하고 사용자가 사망하거나 장기간 소셜 미디어를 떠날 때 대신 메시지, 사진, 비디오를 게시할 수 있습니다. AI 시스템은 개인 메시지에 답하고, 게시물에 좋아요를 누르고, 콘텐츠에 댓글을 달며 다른 사용자와 상호 작용할 수도 있습니다. AI는 또한 인플루언서가 게시한 콘텐츠를 모방하고 친구, 팬, 다른 사용자와의 영상 또는 음성 통화를 시뮬레이션할 수 있어 잠재적으로 콘텐츠 제작자가 휴식 중에도 콘텐츠를 계속 생성할 수 있는 도구를 제공할 수 있습니다.
이 대규모 언어 모델은 댓글, 좋아요, 여러 플랫폼에서의 기록 공유 등 소셜 미디어 사용자의 과거 활동을 기반으로 특별히 훈련된 것으로 이해됩니다. 또한 이 시스템은 인기 블로거의 동영상, 이미지, 메시지를 학습해 제작자가 없을 때에도 계속해서 새로운 콘텐츠를 게시할 수 있는 것으로 알려졌습니다.
메타 대변인은 특허의 존재를 확인했지만 회사가 사망한 소셜 미디어 사용자를 대신하여 메시지를 게시하거나 콘텐츠를 생성하는 데 이 기술을 사용할 의도는 없다고 강조했습니다. 대변인은 특허를 출원하면 기업이 새로운 개념의 소유권을 확보할 수 있지만 해당 기술이 상업적으로 구현된다는 의미는 아니라고 덧붙였습니다.
이러한 AI를 많은 지역에 배포하면 법적 문제가 발생할 수 있으므로 Meta의 주의는 이해할 수 있습니다. 전문가들은 또한 고인을 흉내내는 것이 중요한 사회적, 윤리적, 철학적 질문을 제기하기 때문에 회사가 잠재적인 홍보 문제를 알고 있다고 믿습니다.
버밍엄 대학교 로스쿨의 Edina Harbinja 교수는 Business Insider에 소셜 미디어 플랫폼이 활발하고 팔로어 수가 많은 인기 계정을 유지하는 데에는 분명한 금전적 인센티브가 있다고 말했습니다. 하지만 기업은 사용자 사망 이후 디지털 권리나 사생활을 침해하지 않도록 주의해야 한다고 경고했다.
버지니아 대학의 사회학 교수인 조셉 데이비스(Joseph Davis)와 다른 사람들은 슬픔에 빠진 가족과 친구들에게 미칠 잠재적인 영향에 대해 우려를 표명했습니다. 데이비스는 메타가 인공지능 로봇을 통해 가상 세계에서 죽은 이들을 부활시키려 하기보다는 “죽은 이들을 평화롭게 쉬게 해야 한다”고 믿는다. 이 기술의 등장은 디지털 유산 관리에 대한 논의를 촉발했을 뿐만 아니라, 인공지능 시대에 고인을 어떻게 존중해야 하는지, 고인과 관련된 디지털 신원 문제를 어떻게 다룰 것인지 다시 생각하게 만들었다.