보안 연구원들은 최근 Anthropic의 차세대 인공지능 모델인 Mythos를 사용하여 Apple의 macOS 시스템에서 새로운 보안 우회 방법을 발견했으며, 이를 통해 Apple이 최근 몇 년간 집중적으로 구축해 온 메모리 보안 보호 기술을 성공적으로 돌파했다고 밝혔습니다. 업계에서는 이 발견을 "세계에서 침입하기 가장 어려운 데스크탑 시스템"이라는 Apple의 이미지에 대한 중요한 도전으로 간주합니다.
캘리포니아주 팔로알토 소재 보안업체 칼리프(Calif)는 올해 4월 자사 팀이 미토스 초기 버전을 테스트했을 때 모델에서 출력된 단서를 바탕으로 2개의 독립적인 취약점을 발견하고 결합하고 일련의 공격 기법을 보완해 궁극적으로 맥 기기의 메모리를 파괴하고 접근해서는 안 되는 시스템 영역을 확보했다고 밝혔다. 이러한 유형의 공격은 "권한 확대 악용"으로 분류되며, 다른 공격 체인과 결합하면 해커가 대상 컴퓨터를 완전히 제어할 수 있는 가능성이 있습니다.
많은 보안 전문가들은 Apple이 macOS의 공격 표면을 차단하는 데 많은 투자를 해왔고 강력한 보안으로 오랫동안 알려져 왔기 때문에 이 기술이 매우 중요하다고 지적했습니다. 한때 Google에서 근무했던 보안 연구원인 Michał Zalewski는 Calif의 연구를 검토한 후 Apple이 지속적으로 플랫폼 보호를 강화하는 상황에서 이러한 취약성 체인이 특히 눈길을 끌며 공격자의 기술과 도구의 이중 진화를 보여 준다고 말했습니다.
Apple은 결과를 확인하기 위해 Calif가 제출한 기술 보고서를 검토하고 있으며 "보안이 우리의 최우선 과제이며 잠재적인 취약점에 대한 보고를 매우 심각하게 받아들인다"고 강조했습니다. 최근 몇 년 동안 Apple은 시스템 취약점을 자동으로 발견하고 패치하기 위해 내부적으로 최첨단 대규모 모델을 배포하고 테스트했으며, AI가 주도하는 이 새로운 공격 및 방어 경쟁에 적극적으로 대처하려고 노력했습니다.
지난 몇 달 동안 소프트웨어 결함을 마이닝하는 대규모 모델의 능력이 극적으로 증가하여 사이버 보안 커뮤니티에서 "버그마게돈"에 대한 우려를 불러일으켰습니다. 전례 없는 규모의 보안 취약점이 집중적으로 발견될 것이며, 이는 패치를 담당하는 기술 팀에 엄청난 압력을 가할 뿐만 아니라 단기적으로 사이버 보안 위험을 증폭시킬 것입니다. 올해 초, 또 다른 Anthropic 모델은 2주 만에 Firefox 브라우저에서 심각도가 높은 취약점 100개 이상을 발견했습니다. 이는 전 세계 연구원이 두 달 동안 발견한 총 결과와 거의 같습니다.
애플은 지난해 9월 '메모리 무결성 강화(MIE)'라는 기술을 발표했는데, 이는 메모리 공격 보호 기능을 상향식으로 크게 향상시키는 것을 목표로 하드웨어와 운영 체제 전반에 걸쳐 5년간의 공동 설계의 결과라고 밝혔습니다. 그러나 Calif에 따르면 Claude 모델의 도움으로 두 가지 macOS 취약점에 대한 익스플로잇 코드가 단 5일 만에 개발되었으며, 이는 공격적인 보안 연구에서 AI의 효율성 향상을 강조합니다.
Calif의 CEO이자 수석 보안 전문가인 Duong Thai는 이번 공격이 Mythos 단독으로 '자동화'된 것이 아니라 인간 보안 연구원들의 경험과 판단이 결합된 것이라고 강조했습니다. 그의 의견으로는 Mythos가 현재 가장 잘하는 것은 기존 공개 문서의 공격 아이디어를 재구성하고 확장하는 것입니다. 지금까지 독자적으로 새로운 공격 기술을 개발한 사례가 없었기 때문에 이번 발견은 “어떤 의미에서 새로운 돌파구”라고 연구팀은 평가하고 있다.
Zalewski는 외부 세계에서 Mythos에 대한 일부 홍보가 "과장"되어 있지만 최신 도구는 이미 "의미 있는 취약성 연구 및 코드 감사"에 사용될 수 있다고 믿습니다. 이는 오류 감지의 효율성을 향상시킬 뿐만 아니라 전통적인 보안 연구의 작업 패러다임을 어느 정도 변화시킵니다. 이번 사건에서는 도구가 제시한 후보 경로와 인간 전문가의 분석이 서로 보완되어 원래 도달하기 매우 어려웠던 취약점 체인이 최종적으로 구체화되었습니다.
보도에 따르면 캘리포니아 연구팀은 이 발견에 매우 기뻐서 화요일 팔로 알토에서 쿠퍼티노에 있는 Apple 본사로 가서 55페이지 분량의 기술 보고서를 Apple 보안 팀에 직접 보고했으며, 악용된 취약점과 공격 프로세스에 대한 세부 사항을 자세히 설명했습니다. 회사 공동 창업자인 브루스 당(Bruce Dang)과 즈엉 타이(Duong Thai)가 공원에서 사진을 찍는 장면도 '애플의 방어선 돌파를 위한 인간-기계 협력'의 상징적인 장면이 됐다.
업계 관행에 따라 Calif는 패치가 적용되기 전에 취약점에 대한 악의적인 악용을 방지하기 위해 Apple이 패치를 완료한 후 기술 세부 정보를 공개할 계획입니다. Duong은 Apple이 보안을 매우 중요하게 생각하기 때문에 이러한 결함은 상대적으로 짧은 시간 내에 패치되어야 한다고 예측합니다.
이번 사건은 정책 차원에서도 연쇄적 영향을 미쳤다. 백악관은 네트워크 보안 분야에서 고성능 모델의 양방향 증폭 효과를 우려해 미토스에 대한 외부 접근을 점진적으로 확대하려는 Anthropic의 계획에 유보 또는 반대까지 했습니다. 차세대 AI 모델의 안전성을 둘러싼 논란으로 인해 트럼프 행정부는 AI 개발에 대한 이전의 비교적 "자유방임적" 접근 방식을 재평가하게 되었습니다.
연방 당국은 현재 심각한 보안 영향을 미칠 수 있는 모델에 대한 평가, 검토 및 필요한 액세스 제한을 포함하여 최첨단 AI 모델에 대한 보다 명확한 정부 감독을 마련하는 행정 명령을 고려하고 있습니다. macOS 취약점 사건 이후 AI를 활용하여 방어 능력을 향상시키는 동시에 공격 표면을 증폭시키는 데 사용되는 것을 방지하는 방법은 미국 정부, 기술 대기업 및 보안 업계가 함께 직면해야 하는 핵심 문제가 되고 있습니다.