요약:
종단간 암호화된 메시징 앱 Signal은 금요일에 AI 에이전트가 사용자의 비공개 채팅을 읽지 못하도록 휴대폰의 스크린샷에 대한 액세스를 제한할 것이라고 발표했습니다. 회사는 소비자 기기에 인공지능을 깊숙이 내장하는 기술 산업의 추세로 인해 사용자 개인정보 보호 능력이 약화되고 있다고 경고했습니다.

Signal은 오랫동안 개인 정보 보호 옹호자들에 의해 보안 통신 분야의 선두주자로 여겨져 왔습니다. 회사는 이번에 도입된 새로운 보호 조치가 불완전하며 애플, 구글 모회사인 알파벳, 마이크로소프트 등 운영체제 제공업체에 AI 에이전트가 민감한 데이터에 접근하는 것을 방지할 수 있는 보다 구체적이고 효과적인 수단을 애플리케이션 개발자에게 제공할 것을 촉구했습니다.
Signal은 또한 이들 회사가 AI 에이전트의 작동 방식을 추가로 공개하도록 요구하여 개발자가 이러한 프로그램이 액세스하는 데이터를 평가하고 그에 따라 시스템을 조정할 수 있도록 합니다. 이러한 움직임은 개인정보 보호에 초점을 맞춘 앱과 거대 기술 기업 사이에 점점 커지는 불화를 반영합니다. 후자는 사용자 화면의 내용을 보고 그에 따라 사용자를 대신하여 작업을 수행할 수 있는 AI 에이전트를 출시하기 위해 경쟁하고 있습니다.
Signal은 Apple의 Siri AI 및 Google의 Gemini Intelligence와 같이 운영 체제에 직접 내장된 AI 기능이 사용자 기기와 매우 긴밀하게 통합되어 있기 때문에 특히 우려스럽다고 구체적으로 지적했습니다. 회사는 운영 체제가 Signal 및 기타 응용 프로그램에 대한 실행 환경을 제공하며 이러한 "에이전트 AI"의 통합으로 인해 이러한 환경이 개인 정보 보호에 점점 더 불리해지고 있다고 말했습니다. Signal은 Reuters에 제공된 블로그 게시물에서 이것이 회사와 책임감 있게 임무를 수행하는 능력에 "실존적 위협"을 초래한다고 말했습니다.
AI 에이전트가 Signal 메시지를 스캔하는 것을 방지하기 위해 이 서비스는 휴대전화의 스크린샷에 대한 액세스를 차단하는 새로운 설정을 출시하고 있으며 이러한 제한을 기본적으로 활성화합니다. Signal이 스크린샷 시도를 감지하거나 AI 보조자가 화면에 접근을 시도하면 사용자는 팝업 메시지를 받고 기기 조건에 따라 제한을 해제할지 여부를 선택할 수 있습니다.
Signal은 작년에 Microsoft의 Recall AI가 Windows 시스템에서 스크린샷을 찍는 것을 차단했습니다. 회사는 Apple의 macOS 시스템에서 유사한 보호 기능을 안정적으로 제공할 수 없다고 말합니다.
사용자를 대신하여 작업을 수행할 수 있는 AI 에이전트는 AI 기술의 차세대 주요 물결로 홍보됩니다. 사용자가 단계별 지침을 발행할 필요 없이 다양한 애플리케이션에서 관련 정보를 추출하고 이메일 회신, 약속 잡기, 온라인 쇼핑과 같은 시간 절약 작업을 완료할 수 있습니다. 그러나 이 기능은 Signal과 같은 애플리케이션이 자체적으로 구축한 보호 메커니즘을 우회할 수도 있습니다.
로이터는 이번 주 초 Meta의 Muse AI 에이전트가 공식 "커넥터" 도구를 우회하고 Google의 Android 시스템을 실행하는 Apple 컴퓨터와 휴대폰에서 Signal 메시지에 액세스할 수 있었다고 보도했습니다. 두 경우 모두 Muse는 메시지를 가져오고 사용자가 예상하지 못한 방식으로 해당 권한을 사용하기 위해 앱을 처음 설정할 때 부여된 광범위한 운영 체제 수준 권한을 활용했습니다.
예를 들어 Apple의 macOS 시스템에서 Muse는 컴퓨터 접근성 도구와 스크린샷 도구를 함께 사용하고, 장애인을 위한 Apple 설정을 재사용하고, Signal 인터페이스로 이동하고, 채팅 콘텐츠를 스크린샷하고, 이미지에서 텍스트를 추출하고, Muse 앱 내에서 메시지를 재현합니다. 이번 주 Apple이 출시한 시스템 업데이트는 이 특정 경로를 효과적으로 차단하지만 유사한 기능을 제공하고 더 많은 사용자 경고와 함께 제공되는 AI 에이전트에 대한 새로운 권한 세트를 도입합니다.
Reuters 보고서에 대해 Meta는 AI 에이전트가 사용자를 대신하여 작업을 완료하려면 사용자의 컴퓨터를 보고 조작해야 한다고 밝혔습니다. Muse는 사용자가 명시적으로 부여한 권한을 통해서만 다른 응용 프로그램에 액세스할 수 있습니다.
시그널은 개발자가 애플리케이션이 특히 화면 읽기, 알림, 파일 시스템 액세스와 같은 측면에서 AI 어시스턴트의 데이터 처리 프로세스를 완전히 종료할 수 있는 직접적인 방법을 가져야 한다고 말했습니다. 비영리 재단이 소유한 서비스인 Signal은 자체 서버에 저장된 데이터를 제한하고, 광고 제공을 거부하고, 엔드투엔드 암호화를 제공함으로써 사용자에게 안전한 메시징 경험을 약속합니다. 즉, 회사는 앱 내에서 사용자의 대화에 액세스하고 읽을 수 없습니다.
Signal은 사용자의 화면을 스캔할 수 있는 AI 시스템이 Signal의 보안 환경에서 메시지를 추출하여 에이전트가 사용하는 다른 서버로 전송함으로써 위의 보호 메커니즘을 파괴할 수 있다고 지적했습니다.
댓글