요약:
Apple은 최근 macOS에서 '전체 디스크 액세스' 권한 제어를 더욱 강화할 것이며 AI 에이전트가 광범위한 시스템 데이터에 액세스한 후 발생할 수 있는 개인 정보 보호 위험을 줄이기 위해 새로운 보안 메커니즘을 추가할 계획이라고 발표했습니다.
Apple은 '전체 디스크 액세스'가 원래 주로 백업 및 기타 소프트웨어가 제대로 작동할 수 있도록 하기 위한 것이지만, 컴퓨터를 자율적으로 작동할 수 있는 AI 에이전트가 점점 더 대중화됨에 따라 이 권한으로 인한 위험이 크게 증가하고 있다고 밝혔습니다. Apple은 AI 에이전트가 이 수준의 시스템 액세스 권한을 얻을 때 잠재적인 영향이 기존 애플리케이션의 영향과 다르기 때문에 사용자가 애플리케이션에 부여한 권한에 대해 더 명확해야 한다고 믿습니다.
현재 macOS에서는 사용자가 시스템 설정의 '개인 정보 보호 및 보안'에서 애플리케이션에 '전체 디스크 액세스' 권한을 수동으로 부여할 수 있습니다. 이 권한을 획득한 후 애플리케이션은 파일, 이메일, 메시지, 검색 기록 등을 포함하여 사용자 컴퓨터에 있는 대량의 민감한 데이터에 액세스할 수 있습니다. Apple은 오랫동안 이러한 권한을 사용자가 적극적으로 승인해야 한다고 요구해 왔습니다.
문제는 기존 애플리케이션과 차세대 AI 에이전트가 이러한 권한을 사용하는 방식에 명백한 차이가 있다는 것입니다. AI 에이전트는 파일을 읽을 수 있을 뿐만 아니라 사용자 지시에 따라 일련의 작업을 자율적으로 수행할 수도 있다. 파일, 메시지, 이메일 등의 데이터에 동시에 접근하게 되면 AI 모델은 실제로 매우 광범위한 사용자 디지털 생활 정보를 보유할 수 있습니다.
Apple은 개발자를 위한 메모에서 일부 개발자가 사용자를 위험에 빠뜨릴 수 있는 방식으로 "전체 디스크 액세스"를 사용하여 앱이 사용자 기기에 있는 대량의 콘텐츠에 액세스할 수 있게 하고 사용자 자신도 이 권한이 의미하는 바를 완전히 이해하지 못할 수 있다는 점을 지적했습니다.
이에 따라 Apple은 앞으로 새로운 컨트롤을 추가할 계획입니다. 이러한 "특별한 수준"의 액세스가 필요한 앱의 경우 사용자는 권한을 부여하기 위해 보다 명시적인 조치를 취해야 합니다. Apple은 인증 임계값을 높이고 프롬프트를 강화함으로써 사용자가 결정을 내리기 전에 앱이 어떤 데이터에 액세스할 수 있는지 더 명확하게 이해할 수 있기를 바랍니다.
이 변경 사항은 Mac 측 AI 에이전트의 보안과 관련된 일련의 사건에 따른 것입니다.
최근 메타가 출시한 AI 에이전트 뮤즈(Muse)의 맥 버전이 개인정보 보호 논란을 촉발했다. 저널리스트 Jason Aten은 Muse가 자신의 개인 정보를 읽을 수 있었고 애플리케이션에 해당 권한을 부여하지 않았다고 믿었다고 주장했습니다. 이후 Meta는 Muse가 사용자 승인 없이 메시지의 내용을 읽을 수 있다는 사실을 부인하고 Muse Mac 버전의 메시지 기능이 완전히 선택되어 있다고 밝혔습니다. Muse가 관련 콘텐츠를 읽을 수 있도록 사용자는 "전체 디스크 액세스"와 메시지 커넥터를 동시에 켜야 합니다.
Meta는 또한 Muse가 메시지를 읽으려면 여러 애플리케이션 계층과 macOS 시스템 수준 권한 단계를 거쳐야 한다고 설명했습니다. 애플리케이션 자체에 취약점이 있더라도 이러한 시스템 보호를 우회할 수는 없습니다. 그러나 관련 논란으로 인해 여전히 데스크톱 AI 에이전트 권한의 경계에 대한 우려가 제기되고 있습니다.
Apple이 권한 제어를 조정하겠다고 발표한 것은 Muse가 실제로 macOS의 보안 메커니즘을 우회했다는 의미는 아니지만, Apple이 AI 에이전트로 인해 발생하는 새로운 위험을 운영 체제 수준에서 재평가하고 있음을 반영합니다.
사실 Apple이 AI 에이전트를 위한 보안 메커니즘을 재설계한 것은 이번이 처음이 아닙니다. 올해 WWDC에서 Apple은 Xcode 및 AI 코딩 에이전트를 위한 새로운 보안 아키텍처를 시연했습니다. 새로운 메커니즘을 통해 에이전트는 더욱 제한된 환경에서 프로젝트 파일에 액세스할 수 있습니다. 에이전트가 파일을 읽거나 쓰려고 시도하면 시스템 수준 메커니즘은 미리 설정된 정책에 따라 해당 작업을 허용할지 여부를 결정합니다. 사용자 인증이 필요한 경우 시스템은 명시적으로 요청합니다.
동시에 ChatGPT의 Mac 버전과 관련된 보안 취약점에 대한 최근 보고도 있었습니다. 해당 앱에는 공격자가 민감한 데이터를 입수할 수 있는 취약점이 있는 것으로 알려졌습니다. 특정 취약점 메커니즘이 "전체 디스크 액세스"와 완전히 동일하지는 않지만, 이러한 사건은 AI 애플리케이션이 기존 채팅 소프트웨어에서 컴퓨터를 직접 작동할 수 있는 "에이전트"로 전환될 때 기존 애플리케이션 권한 시스템이 직면하는 위험이 변화하고 있음을 보여줍니다.
AI 에이전트와 일반 애플리케이션의 가장 큰 차이점 중 하나는 일회성 작업을 수행할 수 있을 뿐만 아니라 상황에 따라 지속적으로 작업을 완료할 수 있다는 것입니다. 예를 들어, 사용자는 에이전트에게 파일 읽기, 정보 정리, 문서 수정, 이메일이나 메시지 쿼리 등을 요청하고, 그 결과에 따라 다음 단계로 진행할 수 있습니다. 권한 범위가 충분히 크다면 이는 AI 에이전트가 사용자의 개입 없이 항목별로 대량의 개인 데이터에 지속적으로 접근하고 처리할 수 있음을 의미합니다.
따라서 Apple은 AI 에이전트가 더욱 자율적이고 강력해짐에 따라 "전체 디스크 액세스"로 인한 위험이 크게 증가할 것임을 특별히 강조합니다. Apple은 사용자가 AI 애플리케이션에 광범위한 권한을 부여하는 것을 막는 것이 아니라 실제로 그렇게 하려는 사용자가 매우 명확한 조치를 통해 인증을 완료하고 자신이 감수하고 있는 데이터 개인 정보 보호 위험을 완전히 이해할 수 있도록 하는 것이 목표라고 말했습니다.
이러한 변화는 AI 에이전트가 운영 체제의 보안 모델에 새로운 변화를 주도하고 있음을 보여줍니다. 과거에는 시스템 보안이 주로 특정 애플리케이션이 특정 파일, 카메라 또는 마이크에 액세스할 수 있는지 여부에 중점을 두었습니다. 앞으로는 '자율적으로 행동할 수 있는 AI 시스템이 사용자를 대신해 무엇을 할 수 있는가'로 초점이 더 옮겨갈 수도 있다.
Apple의 경우 이는 macOS가 AI 에이전트의 편의성과 시스템 보안 사이에 새로운 권한 경계를 설정해야 함을 의미합니다. 점점 더 많은 AI 제품이 데스크톱 운영 체제에 직접 통합되기 시작하면서 전체 개인 디지털 환경을 노출시키는 단일 인증을 피하면서 복잡한 작업을 완료하는 데 필요한 기능을 에이전트에 제공하는 방법이 운영 체제 제조업체가 해결해야 하는 새로운 문제가 되고 있습니다.
댓글