요약:
사이버 보안 연구원들은 최근 특이한 새로운 유형의 Windows 악성 코드를 발견했습니다. CLOSEDQUORUM이라는 악성코드는 코드 작성이나 피싱 콘텐츠 생성을 돕기 위해 인공지능을 활용했던 과거 공격 도구들과 달리, 다수의 대규모 언어 모델을 자체 제어 시스템에 직접 통합해 동작 시 독립적으로 다음 단계를 결정할 수 있다. 이는 AI 악성 코드 개발의 새로운 단계를 나타내는 것으로 간주됩니다.
이번 발견은 Cisco 산하 보안팀인 Cisco Talos에서 나왔습니다. 연구원들은 CLOSEDQUORUM이 DeepSeek, Qwen, Mistral 및 Google Gemini의 네 가지 대규모 언어 모델과 동시에 상호 작용할 것이라고 말했습니다. 감염된 장치에서 작업을 수행하기 전에 먼저 해당 모델에 요청을 보내고 피드백을 수집한 후 결과에 따라 후속 조치를 결정합니다.
이러한 설계는 악성코드에 어느 정도 중복성을 부여합니다. AI 서비스 중 하나에 액세스할 수 없는 경우에도 프로그램은 계속해서 다른 모델에 요청하고 실행될 수 있으므로 단일 제어 서버에 의존하는 기존 악성 코드보다 탄력성이 뛰어납니다.
더욱 우려스러운 점은 연구자들이 샘플에서 전통적인 의미의 수동 원격 제어 입구를 찾지 못했다는 것입니다. 즉, 프로그램이 실행되기 시작하면 해커로부터 특정 지시를 계속 받을 필요가 없고, 여러 대규모 언어 모델의 피드백을 통해 독립적으로 후속 작업을 계획합니다.
분석 결과에 따르면 CLOSEDQUORUM의 주요 목표는 사용자 계정 비밀번호와 암호화폐 자산을 탈취하는 것입니다. 연구팀은 또한 이 악성코드가 2025년부터 시작된 신용카드 사기 네트워크 활동과 관련이 있다는 사실도 발견했습니다. 그러나 현재까지 연구원들은 특정 개발자의 신원을 확인할 수 없었고 해당 도구가 실제 공격에 사용되었는지 여부도 확인할 수 없습니다.
이 발견은 Cisco Talos의 새로운 연구 이니셔티브에서 비롯되었습니다. 점점 더 많은 인공 지능이 공격 도구에 통합되는 추세에 대응하여 연구원들은 AI 서비스를 사용하여 실행되는 악성 코드를 식별하고 추적하기 위해 CAIRN(Cognitive Artifact Intelligence Research Network)이라는 오픈 소스 프레임워크를 개발했습니다.
연구팀은 인공지능과 악성코드의 결합이 마치 디지털 지문처럼 특별한 기술적 흔적을 남길 것이라고 믿고 있습니다. 이러한 추적은 보안 분석가가 샘플을 식별하고, 분류 시스템을 구축하고, 공격자가 대규모 언어 모델을 공격 도구에 통합하는 방법을 추적하는 데 도움이 될 수 있습니다.
CAIRN은 AI 서비스와 관련된 악성코드 및 기술적 특성의 메타데이터를 분석하고 샘플에 대한 고유 식별자를 생성합니다. 그런 다음 시스템은 유사한 특성을 가진 악성 코드를 분류하여 연구원이 새로운 공격 패턴과 잠재적 추세를 식별하는 데 도움을 줍니다.
보안 전문가들은 작년에 등장한 대부분의 AI 관련 악성 코드가 여전히 주로 대형 모델을 보조 도구로 사용하고 있다고 지적합니다. 예를 들어 코드 생성을 돕고, 피싱 이메일을 작성하고, 공격 프로세스를 자동화하거나, 원격 의사 결정 지원을 제공합니다. CLOSEDQUORUM과 이러한 사례의 가장 큰 차이점은 대규모 언어 모델을 명령 및 제어 메커니즘 자체에 직접 통합한다는 것입니다.
이전에 우크라이나 사이버 보안 기관은 실행 명령을 얻기 위해 Hugging Face 플랫폼을 통해 Tongyi Qianwen 모델에 액세스하는 LAMEHUG라는 악성 코드를 공개했습니다. 그러나 연구원들은 CLOSEDQUORUM과 같이 여러 모델을 동시에 호출하고 '집단적 의사 결정' 방식으로 공격 프로세스를 추진하는 사례는 여전히 매우 드물다고 말합니다.
현재 알려진 AI 악성 코드의 수는 아직 제한적이지만 보안 커뮤니티에서는 일반적으로 이러한 도구의 개발 방향에 큰 관심을 기울일 가치가 있다고 생각합니다. 과거에는 대형 모델이 해커 생산성 향상에 더 많은 역할을 했습니다. 이제 연구자들은 인공 지능이 "보조 도구"에서 인프라 자체를 공격하는 것으로 점진적으로 전환하는 것을 확인하기 시작했습니다.
업계 관계자들은 대규모 언어 모델의 기능이 지속적으로 향상됨에 따라 미래의 악성 코드는 더 강력한 자율적 의사 결정 기능, 더 복잡한 환경 적응성, 더 유연한 공격 경로 선택 기능을 갖게 될 것이라고 믿습니다. 이번 발견은 아직 초기 단계에 불과하지만 보안 연구자들에게 차세대 지능형 사이버 공격이 어떤 모습일지 미리 엿볼 수 있는 기회를 제공했습니다.
댓글