요약:
메타가 최근 출시한 신규 인공지능 에이전트 '뮤즈'가 심각한 사생활 침해 논란에 휩싸였다. 관련 테스트에 따르면 AI 도구는 사용자의 명시적인 승인 없이 또는 관련 권한이 명시적으로 비활성화된 경우에도 Apple 장치의 시스템 수준 "메시지"(메시지) 데이터베이스에서 대량의 채팅 기록을 읽고 동기화하는 것으로 나타났습니다.
Muse는 Meta에서 홍보하는 AI 에이전트로, 사용자의 데이터 검색, 프레젠테이션 생성 및 쇼핑 지원을 지원하는 것을 목표로 합니다. Meta는 공식적으로 시스템이 전용 가상 컴퓨터에서 실행되며 다양한 애플리케이션과 데이터 소스를 연결하여 맞춤형 상호 작용을 제공할 수 있다고 주장합니다. Meta는 사용자가 설정한 시스템 권한을 엄격히 준수하고 승인되지 않은 데이터에 절대 접근하지 않을 것을 공식적으로 약속합니다. 그러나 Meta는 또한 제품 문서에 에이전트가 실수를 하거나 "예기치 않은 조치"를 취할 수 있다는 면책조항을 유지합니다.
기술 미디어 칼럼니스트인 Jason Aten은 실제 테스트에서 심각한 과잉 도달을 발견했습니다. Atten은 AI 도구를 평가하는 데 사용하는 iPhone과 Mac mini에 Muse를 설치했습니다. 설치 후 단 하루 만에 Muse는 이전에 팟캐스트 파트너와 문자 메시지를 통해 논의한 사적인 대화를 바탕으로 그에게 기사 주제를 적극적으로 추천했습니다. 질문을 받았을 때 Muse는 처음에 관련 정보가 수신 전화나 문자 메시지에 대한 팝업 알림 배너에서 나왔다고 주장했습니다. 그러나 후속 기술 조사에 따르면 Muse는 시스템이 "전체 디스크 액세스"를 허용하지 않고 문자 메시지를 읽을 수 있는 권한을 분명히 얻지 못했을 때 승인 없이 로컬 Apple 정보 데이터베이스에서 최대 187,000줄의 텍스트 기록을 동기화하고 캡처하여 클라우드에 업로드한 것으로 나타났습니다.
이 변칙은 Muse가 Meta가 소유한 메신저 대화를 가로챌 뿐만 아니라 시스템 제한을 우회하고 Apple 기기의 기본 SMS 및 iMessage 기록 데이터를 강제로 추출했음을 보여줍니다. 단 24시간 만에 수십만 행의 데이터를 동기화한다는 것은 프로그램이 과거에 장치에 축적된 모든 채팅 기록 파일을 완전히 읽는다는 것을 의미합니다.
외부 분석가들은 이번 사건이 거대 기술 기업들이 생성 AI를 홍보할 때 더 심각한 개인 정보 보호 위기를 촉발하고 있음을 반영한다고 지적했습니다. 이전에 Meta는 "포스트 영감 생성"을 위해 사용자에게 앨범 사진의 전체 업로드를 승인하도록 요구했다는 이유로 널리 비판을 받았습니다. 스마트 글래스 제품 역시 개인정보 침해 위험에 자주 직면했다. 이번 Muse의 행동은 효과적인 기술적 울타리와 감독이 없으면 AI 시스템의 개인 정보 보호 데이터 수집이 거의 통제 불능 상태라는 사실을 더욱 드러냈습니다. 일반 사용자가 해당 제품을 적극적으로 사용하지 않기로 선택하더라도 소프트웨어를 설치한 연락처와의 사적인 상호 작용이 수동적으로 유출될 위험은 여전히 존재합니다. 현재 Meta는 Muse가 타사 데이터를 읽기 위해 시스템의 기본 권한을 우회하는 방법에 대한 합리적인 설명을 아직 제공하지 않았습니다.
댓글