요약:
AI 모델과 컴퓨팅 능력에 대한 불법적인 접근은 사이버범죄 지하세계에서 빠르게 가장 인기 있는 상품이 되고 있습니다. 해커는 협박, 전쟁, 간첩 활동을 위해 값비싼 대규모 언어 모델을 이용하려고 합니다. Google Threat Intelligence Group의 수석 분석가인 John Hultquist는 사이버 보안 그룹에서 올해 소위 "LLM-재킹" 공격이 크게 증가했다고 밝혔습니다. 여기에는 훔친 공용 AI 도구용 로그인 자격 증명을 판매하는 것과 자체 모델을 무료로 실행하기 위해 컴퓨팅 리소스를 훔치는 그룹이 포함됩니다.
20년 경력의 사이버 보안 베테랑인 Hultquist는 "지하 시장에서 AI 액세스를 중심으로 한 경제 성장을 보고 있습니다."라고 말했습니다.
Hultquist는 값비싼 AI 리소스를 저렴한 비용으로 획득하면 사이버 공격자가 자신을 보호하기 위해 이러한 AI 도구를 사용해야 하는 목표에 비해 재정적 이점을 얻을 수 있다고 경고했습니다.
그는 "결국 이러한 모든 조치는 실제로 훨씬 더 저렴한 가격으로 이러한 토큰을 얻을 수 있기 때문에 우리보다 경제적 또는 효율성 측면에서 이점을 제공합니다."
Google 위협 정보 부서의 연구원들은 다크 웹의 일부 마켓플레이스에서 Anthropic, Google, OpenAI와 같은 회사의 AI 모델에 대한 액세스 권한을 최대 97% 할인된 가격에 판매하고 있음을 발견했습니다. ChatGPT와 Claude의 AI 구독 서비스의 가장 진보된 버전은 사용자당 월 최대 200달러입니다.
AI Labs가 이러한 남용 징후를 모니터링한다는 점을 감안할 때 일부 판매자는 원래 계정이 금지되면 무료로 새로운 로그인 자격 증명을 약속하면서 "접속 보장"을 제공하고 있다고 Hultquist는 말했습니다.
다른 경우에는 범죄 조직과 국가 지원 조직이 클라우드에 있는 기업이 호스팅하는 서버를 해킹하고 자체 AI 모델을 배포하여 대상 시스템에서 실행합니다. 이 접근 방식은 암호화폐 채굴을 위해 제3자 컴퓨터를 손상시키려는 위협 행위자의 이전 시도와 유사합니다.
Hultquist는 AI가 이미 '모든 위협 행위자'에 의해 사용되고 있으며 AI 도구가 미래에는 사이버 보안 시스템의 필수적인 부분이 되어야 한다고 덧붙였습니다. AI 남용에 대한 Anthropic의 가장 최근 분기별 보고서에서 회사는 미국, 영국, 예멘을 포함한 20개 이상 국가의 위협 행위자가 악의적 활동에 Claude 도구를 사용하려고 시도했다는 사실을 발견했습니다.
그는 "AI가 단지 유행일 뿐이라고 생각하고 그것이 사라지기를 바라는 사람은 어느 날 깨어나 자신이 압도당했다는 사실을 깨닫게 될 것입니다. 그들은 그 어느 때보다 더 많은 보안 사고, 더 많은 경고, 더 많은 공격에 직면하게 될 것입니다. 이제 우리는 우리 자신의 일을 스스로 처리해야 합니다."
Hultquist는 점점 더 많은 대기업이 클라우드 서비스 제공업체로부터 컴퓨팅 성능을 임대하는 대신 자체 서버에 맞춤형 AI 모델을 배포하려고 함에 따라 이러한 시스템 자체도 공격 대상이 될 것이며 철저히 보호해야 한다고 경고했습니다. "컴퓨팅 성능에 대한 비용을 지불하고 컴퓨팅 성능이 매우 비쌀 수 있다면 위협 행위자의 눈에는 매우 매력적인 잠재적 리소스가 됩니다."
Hultquist는 또한 기업들이 얼마나 많은 AI 리소스를 사용할지 아직 파악하고 있기 때문에 지금이 해커가 대상 계정과 컴퓨터 서버에 '침투'할 수 있는 가장 좋은 시기라고 말했습니다.
그는 이렇게 말했습니다. "AI 인프라를 너무 많이 배포했기 때문에 컴퓨팅 성능 사용량이 갑자기 크게 증가하는 것은 완전히 정상이라고 생각할 수 있습니다. 이는 일부 사람들에게 소음 속에 숨을 기회를 제공합니다."
댓글