Microsoft는 보안 문제에 대응하여 논쟁의 여지가 있는 AI 기반 리콜 기능을 어떻게 정밀 검사하고 있는지 자세히 설명합니다. Recall은 원래 6월에 Copilot Plus PC로 출시될 예정이었지만 Microsoft는 지난 몇 달에 걸쳐 보안을 재설계하여 이제 선택하면 Windows에서 완전히 제거할 수 있는 선택적인 환경으로 만들었습니다.
마이크로소프트의 기업 및 운영 체제 보안 담당 부사장인 데이비드 웨스턴(David Weston)은 “보안 커뮤니티가 우리가 [리콜]에서 얼마나 많은 노력을 했는지 이해할 것이라고 생각하기 때문에 우리의 보안 아키텍처 노력에 대해 실제로 매우 기대하고 있다”고 말했다.
Microsoft의 첫 번째 큰 변화는 회사가 사용자가 원하지 않는 경우 Recall을 사용하도록 강요하지 않는다는 것입니다. "기본적으로 더 이상 출시 경험이 전혀 없을 것입니다. 선택해야 합니다. 이는 이를 원하지 않는 사람들에게는 분명히 매우 중요하며 우리는 그 점을 완전히 이해합니다."라고 Weston은 말했습니다.
Recall 제거 옵션은 이번 달 초 Copilot Plus PC에 처음 나타났습니다. 당시 Microsoft는 버그라고 밝혔습니다. 실제로 Recall을 완전히 제거할 수 있는 것으로 나타났습니다. 웨스턴은 "당신이 제거를 선택하면 우리는 당신의 컴퓨터에서 관련 콘텐츠를 제거할 것입니다. 여기에는 마이크로소프트가 리콜을 강화하기 위해 사용하는 인공 지능 모델도 포함됩니다"라고 웨스턴은 말했습니다.
보안 연구원들은 처음에 몇 초마다 찍은 컴퓨터 스냅샷을 저장하는 Recall 데이터베이스가 암호화되지 않아 맬웨어가 Recall 기능에 액세스할 수 있다는 사실을 발견했습니다. 스크린샷 데이터베이스를 포함한 모든 Recall에 민감한 콘텐츠는 이제 완전히 암호화됩니다. Microsoft는 또한 Windows Hello를 사용하여 맬웨어 변조를 방지합니다.
Recall의 암호화는 이제 Windows 11에 필요한 Microsoft의 TPM(신뢰할 수 있는 플랫폼 모듈)에 연결되어 있으므로 키는 TPM에 저장되며 이에 액세스할 수 있는 유일한 방법은 Windows Hello를 통해 인증하는 것입니다. 리콜 데이터는 사용자가 기능을 사용하기를 원하고 얼굴, 지문 또는 PIN을 통해 인증하는 경우에만 사용자 인터페이스로 전달됩니다.
Weston은 "이 기능을 켜려면 사용자가 실제로 존재해야 합니다."라고 말했습니다. "즉, PIN 지원을 사용하기 전에 지문이나 얼굴을 사용하여 리콜을 설정해야 한다는 의미입니다. 이는 Microsoft가 Windows Hello를 통해 사용자 존재에 대한 증거를 요구하기 때문에 맬웨어가 백그라운드에서 리콜 데이터에 액세스하는 것을 방지하기 위한 것입니다."
"우리는 모든 스크린샷 처리, 모든 민감한 프로세스를 가상화를 기반으로 하는 안전한 영역으로 옮겼으므로 실제로 모두 가상 머신에 배치했습니다. 즉, 사용자 인터페이스 애플리케이션 계층은 원시 스크린샷이나 Recall 데이터베이스에 액세스할 수 없지만 Windows 사용자가 Recall과 상호 작용하고 검색을 수행하려고 할 때 Windows Hello 프롬프트로 들어가 가상 머신을 쿼리하고 데이터를 애플리케이션 메모리로 반환합니다. 사용자가 Recall 애플리케이션을 닫으면 메모리의 내용이 삭제됩니다." 가상화 기반 엔클레이브 외부에서는 맬웨어 방지 보호 프로세스에서 실행되며 이에 액세스하려면 기본적으로 악성 커널 드라이버가 필요합니다."
Microsoft는 오늘의 블로그 게시물에서 리콜 보안 모델과 VBSenclave 작동 방식을 자세히 설명했습니다. 이 모든 것은 Microsoft가 출시할 계획보다 훨씬 더 안전해 보이며 향후 회사가 Windows 앱을 어떻게 보호할 것인지에 대한 힌트도 제공합니다.
그렇다면 Microsoft는 보안 수준이 낮음에도 불구하고 어떻게 6월에 리콜을 출시할 뻔했습니까? Weston은 작년에 출시된 회사의 Secure Future Initiative의 일환으로 Recall이 검토 중임을 확인했지만 미리 보기 제품으로서는 몇 가지 다른 제한 사항이 있는 것으로 보입니다. "우리의 계획은 항상 암호화와 같은 Microsoft의 기본 원칙을 따르는 것이었습니다. 하지만 사람들이 '우리는 이 문제에 대해 정말 걱정하고 있습니다'라고 말하는 것도 들었습니다. 그래서 회사는 보안 문제가 사람들이 기능 사용 여부를 결정하는 요인이 되지 않도록 리콜을 위해 계획된 추가 보안 작업 중 일부를 신속하게 처리하기로 결정했습니다."
Weston은 다음과 같이 암시했습니다. "제 생각에는 Recall에 관한 것이 아닙니다. 이제 우리는 엣지에서 민감한 데이터 처리를 위한 가장 강력한 플랫폼 중 하나를 보유하고 있으며 이를 통해 우리가 할 수 있는 다른 많은 일이 있다고 상상할 수 있습니다. 우리가 할 투자 중 일부를 추진한 다음 Recall을 이를 위한 최고의 플랫폼으로 만드는 것이 합리적이라고 생각합니다."
Recall은 이제 Copilot Plus PC에서만 실행되므로 6월 출시 예정에 앞서 사람들이 Windows 시스템에 사이드로드하는 것을 방지할 수 있습니다. CopilotPlusPC에 BitLocker, 가상화 기반 보안, 측정 부팅 및 시스템 가드 보안 부팅 보호, 커널 DMA 보호가 활성화되어 있는지 확인합니다.
Microsoft는 업그레이드된 리콜 보안에 대해서도 여러 차례 검토했습니다. Microsoft MORSE(공격적 연구 보안 엔지니어링) 팀은 "수개월에 걸쳐 Recall의 설계 검토 및 침투 테스트를 수행"했으며, 타사 보안 공급업체도 "독립적인 보안 설계 검토" 및 테스트에 참여했습니다.
이제 Microsoft는 Recall을 개발하는 데 더 많은 시간을 투자하여 AI 도구 작동 방식을 더 효과적으로 제어할 수 있도록 설정을 몇 가지 추가로 변경했습니다. 이제 Recall에서 특정 애플리케이션을 필터링하고 사용자 정의 목록의 웹사이트가 데이터베이스에 표시되지 않도록 할 수도 있습니다. 민감한 콘텐츠 필터링을 통해 Recall은 비밀번호, 신용카드 등을 필터링할 수 있으며 건강 및 금융 웹사이트의 저장을 차단할 수도 있습니다. Microsoft는 또한 시간 범위, 앱이나 웹 사이트의 모든 콘텐츠 또는 Recall 데이터베이스에 저장된 모든 콘텐츠를 삭제하는 기능을 추가했습니다.
Microsoft는 10월에 Windows Insiders Copilot Plus PC에서 Recall을 미리 볼 예정이라고 밝혔습니다. 즉, Windows 커뮤니티에서 추가 테스트를 하기 전까지는 새로운 노트북과 PC에서 Recall을 사용할 수 없다는 뜻입니다.