요약:
일상생활과 비즈니스 분야에서 인공지능 기술이 급속도로 인기를 끌면서 사이버범죄자들도 이 기술을 새로운 공격 도구로 변용하고 있습니다. Google 위협 인텔리전스 팀(GTIG)은 최근 해커 조직이 단순히 AI를 사용하여 지침을 생성하는 것에서 자동으로 보안 취약점을 발견하고 악용하는 자율적, 다중 에이전트 공격 프레임워크를 배포하는 것으로 진화했다는 보고서를 발표했습니다. 네트워크 공격의 자동화가 크게 향상되고 있습니다.

보고서에 따르면 공격자는 이제 AI 에이전트 시스템을 사용하여 취약점 마이닝, 분석, 악용을 자동으로 수행하여 공격 준비 시간을 크게 단축하고 운영 효율성을 향상시킬 수 있습니다. GTIG 연구원들은 앞으로 3개월 내에 해커들이 사람의 참여가 거의 필요하지 않은 낮은 임계값의 사이버 공격을 감행할 수 있을 것이며 대부분의 프로세스는 AI 에이전트에 의해 자율적으로 완료될 수 있을 것으로 예측합니다.
연구자들은 사이버 범죄자들이 CyberStrikeAI, PentAGI, CAIRN과 같은 플랫폼을 포함하여 공격을 수행하기 위해 다수의 합법적인 오픈 소스 침투 테스트 도구 및 프레임워크를 사용하고 있음을 발견했습니다. 얼마 전 FBI는 위협 조직이 전 세계 기업과 기관에 대한 공격을 자동화하기 위해 ARTEX라는 AI 기반 침투 테스트 플랫폼을 사용하고 있다는 경고를 발표했습니다.
GTIG는 가장 최근 분기에 위협 행위자가 대규모 언어 모델 프레임워크를 사용하여 사람의 개입 없이 취약점 발견 및 악용의 전체 프로세스를 완료하는 것을 처음으로 관찰했다고 밝혔습니다. 이는 자동화된 네트워크 공격이 중요한 임계값을 넘어 새로운 개발 단계에 진입했음을 의미합니다.
예를 들어, 보고서에 따르면 해커들은 'exploit_agent'라는 다중 에이전트 AI 시스템을 사용하여 프랑스 미디어, 엔터테인먼트 및 교육 웹사이트에 자동화된 공격을 수행하고 있다는 사실을 연구원들이 발견했습니다. 시스템은 주류 네트워크 애플리케이션의 소프트웨어 업데이트를 지속적으로 분석하고 잠재적인 보안 취약점을 찾아 자동으로 이를 악용하려고 시도할 수 있습니다.
Google은 이러한 프레임워크의 출현으로 보안 팀이 취약점을 패치하는 데 걸리는 시간이 크게 단축되었다고 지적했습니다. 과거에는 보안 담당자가 업데이트를 배포하고 취약점을 수정하는 데 충분한 시간을 갖는 경우가 많았습니다. AI 자동화 도구의 도움으로 공격자는 알려진 취약점을 더 빠르게 무기화하고 신속하게 공격을 시작할 수 있습니다. 그러나 Google은 이러한 시스템이 때때로 잘못 식별되거나 유효하지 않은 공격 단서를 생성한다고 밝혔습니다.
GTIG는 공격자가 이러한 프레임워크를 채택하면 네트워크 침입 패턴이 크게 변화할 것이라고 믿습니다. 침입의 기본은 변하지 않았으며 자격 증명 도용이나 패치되지 않은 시스템 악용과 같은 전통적인 수단이 여전히 존재하는 반면, 복잡한 공격 체인을 "기계 속도"로 연결하고 더 큰 규모로 작동할 수 있는 자동화된 프레임워크의 기능은 네트워크 방어 노력에 새롭고 전례 없는 과제를 만들어냈습니다.
이러한 추세에 대응하여 Google은 기업이 인터넷에 공개된 시스템을 가능한 한 빨리 패치하고 패치 출시부터 공식 배포까지의 시간을 최대한 단축해야 한다고 강조합니다. 보고서는 이제 공격자들이 새로운 취약점을 적극적으로 찾기보다는 공개되었지만 아직 패치되지 않은 취약점을 빠르게 악용하려는 경향이 더 크다고 믿습니다. 따라서 시스템을 지속적으로 업데이트하는 것은 보안을 향상시키는 가장 효과적인 방법 중 하나입니다.
동시에 구글은 AI가 공격뿐만 아니라 방어에도 활용되고 있다고 믿습니다. 회사는 알려진 소프트웨어 취약점을 사전에 찾아 해결하도록 돕는 '빅 슬립(Big Sleep)'이라는 AI 보안 에이전트를 언급했습니다. Google은 또한 AI 모델, 위험 우선순위 분석 및 자동 복구 기능을 결합하여 네트워크 위협을 더 빠르게 감지하고 대응하는 AI Threat Defense 보안 아키텍처를 선보였습니다.
업계 관계자들은 AI 기반 공격 도구가 계속해서 성숙해짐에 따라 네트워크 보안 분야가 공격과 방어 모두 인공 지능에 의존하는 새로운 단계로 진입하고 있다고 믿고 있습니다. 미래에 기업은 자동화된 공격의 확장으로 인한 압박에 직면할 뿐만 아니라 지속적으로 증가하는 네트워크 위험을 처리하기 위해 더욱 발전된 AI 보호 시스템에 의존해야 합니다.
댓글