영국 정보기관은 인공지능(AI) 기술의 발전으로 인해 향후 2년 동안 랜섬웨어 공격의 수와 영향이 증가할 것이라고 경고했습니다. 국립사이버보안센터(NCSC)는 기밀 정보, 업계 지식, 학술 자료, 공개 소스를 바탕으로 수요일 발표된 종합 정보 평가에서 영국 정보 분석가가 사용하는 최고 수준의 신뢰도가 증가할 것이 "거의 확실하다"고 밝혔습니다.
사이버 및 신호 정보 기관인 GCHQ 소속 NCSC 전문가들은 AI 도구의 이점이 위협 행위자마다 균등하지 않을 것이라고 경고했습니다.
현재 생성적 AI는 "정찰 및 사회 공학 기능"을 개선하는 데 사용되고 있으며 두 작업을 "보다 효과적이고 효율적이며 감지하기 어렵게 만듭니다."
AI는 또한 기존 기술을 보다 효율적으로 만들어 "악성 프로그램 및 취약성 개발, 취약성 연구 및 측면 이동"을 지원할 수 있는 잠재력을 가진 것으로 간주됩니다.
정보 전문가에 따르면 좋은 소식은 최고의 자원을 갖춘 위협 행위자만이 이러한 더욱 정교한 AI를 활용하여 사이버 작전을 강화할 수 있다는 것이며, 심지어 그런 경우에도 "2025년 이전에는 그런 일이 일어날 가능성이 낮다"는 것입니다.
정교한 해킹을 위해 AI 도구를 사용하는 데 있어 한 가지 제한 요소는 개발자가 모델을 교육하기 위해 고품질 익스플로잇 데이터에 액세스해야 한다는 것입니다. 현재 이는 "능력 있는 국가가 이러한 목적을 위해 AI 모델을 효과적으로 훈련시킬 수 있을 만큼 큰 악성 코드 라이브러리를 보유"하는 경우에만 현실적인 가능성입니다.
"고품질 데이터에 대한 AI 교육은 2025년까지 사이버 작전에서 AI를 효과적으로 사용하는 데 핵심이 될 것입니다. 자동화된 정찰 타겟팅, 사회 공학 및 악성 코드 확장에 대한 장벽은 모두 주로 데이터와 관련이 있습니다. 그러나 이러한 장벽은 더 많은 해커가 이 데이터를 성공적으로 훔치면 결과적으로 위협 행위자가 더 진보된 도구를 훈련할 수 있게 되고 다시 긍정적인 피드백 루프에서 더 많은 데이터를 훔칠 수 있게 된다는 것을 의미합니다."
평가 보고서는 "2025년 이후에는 성공적인 유출 사건이 발생하면서 AI를 지원하는 데이터가 거의 확실하게 개선되어 사이버 작전이 더 빠르고 정확해질 것"이라고 밝혔습니다.
영국 정보위원회(ICO)가 발표한 최신 보안 사고 동향 데이터에 따르면, 영국 조직은 2023년 첫 3분기 동안 총 874건의 랜섬웨어 공격을 받았습니다. 이는 2022년 전체에서 기록된 739건의 사고에 비해 급증한 수치입니다.
미국 국가범죄국(National Crime Agency)의 위협 담당 국장인 제임스 배비지(James Babbage)는 "랜섬웨어는 여전히 국가 안보에 위협이 되고 있다. 이 보고서에서 알 수 있듯이 인공지능의 발전과 사이버범죄자들의 이 기술 악용으로 인해 위협은 앞으로 더욱 증가할 가능성이 높다"고 말했다.
배비지는 "AI 서비스는 진입 장벽을 낮추고 사이버 범죄자 수를 늘리며 기존 공격 방법의 규모, 속도, 효율성을 높여 능력을 강화할 것"이라며 사기와 아동 성적 학대 사례도 영향을 받을 수 있다고 덧붙였습니다.
퇴임하는 국가 컴퓨터 보안 위원회(National Computer Security Council) CEO Lindy Cameron은 다음과 같이 말했습니다. "사이버 공격에서 인공 지능의 새로운 사용은 혁신적이라기보다는 진화적입니다. 즉, 랜섬웨어와 같은 기존 위협을 강화하지만 단기적으로 위험 환경을 바꾸지는 않을 것입니다. 국가 컴퓨터 보안 위원회(National Computer Security Council)는 AI 시스템이 안전하게 설계되도록 최선을 다하는 반면, 우리는 조직과 개인이 방어를 강화하고 사이버 공격에 견딜 수 있는 능력을 향상시키기 위해 랜섬웨어 및 사이버 보안 위생 권장 사항을 따를 것을 촉구합니다."