Microsoft는 자체 Azure OpenAI 서비스를 포함하여 생성 AI 기술을 남용한 혐의로 사이버 범죄자 네트워크를 상대로 법적 소송을 시작했습니다. 최근 민사 소송과 관련된 수정된 불만 사항에서 거대 기술 기업은 인공 지능 서비스의 보호망을 우회하도록 설계된 악성 도구의 배후에 있는 핵심 개발자 4명을 지명했습니다. 지명된 피고인들은 다음과 같습니다:

  • Arian Yadegarnia(별칭 "Fizz") - 이란에 거주

  • Alan Krysiak(별명 "Drago") - 영국 거주

  • Ricky Yuen(별칭 "cg-dot") - 홍콩 거주

  • Phát Phùng Tấn(별칭 "아사쿠리") - 베트남 거주


    • 이러한 개인은 Microsoft가 글로벌 사이버 범죄 네트워크인 Storm-2139라고 부르는 네트워크의 핵심입니다. 네트워크 구성원은 공개 고객 자격 증명을 활용하여 생성 AI 서비스에 대한 무단 액세스를 얻은 것으로 알려졌습니다. 이후 그들은 유명인의 합의되지 않은 친밀한 이미지 및 기타 노골적인 자료를 포함하여 유해한 콘텐츠를 생성하라는 명시적인 지시가 있었음에도 불구하고 이러한 서비스를 수정하고 다른 악의적인 행위자에게 액세스 권한을 재판매했습니다.

    Microsoft의 조사에 따르면 Storm-2139는 조직이 세 가지 주요 계층으로 나누어져 있습니다.

  • 제작자: AI 서비스를 악용할 수 있는 도구를 만드는 개발자입니다.

  • 공급자: 다양한 서비스 계층 및 가격 구조에 따라 이러한 도구를 수정, 공급 및 전달하는 사람입니다. .

  • 사용자: 금지된 합성 콘텐츠를 생성하기 위해 이러한 도구를 사용하는 최종 사용자는 종종 유명인을 대상으로 하거나 성적으로 노골적인 이미지를 생성합니다. .

    • 2024년 12월, Microsoft의 DCU(Digital Crimes Unit)는 버지니아 동부 지역에서 첫 번째 소송을 제기했으며, 이로 인해 Microsoft는 사이버 범죄 네트워크에서 사용하는 중요한 웹 사이트를 압수하여 운영 능력을 크게 저하시킬 수 있었습니다. 1월에 공개된 법률 문서는 네트워크 내에서 즉각적인 반응을 불러일으켰습니다. 모니터링된 통신 채널에서 멤버들은 사건에 연루된 "John Doss"의 신원을 추측하기 시작했으며 어떤 경우에는 작전의 다른 멤버를 비난하려고 시도했습니다.

    또한 Microsoft 법무팀은 Storm-2139의 구성원으로 의심되는 사람들로부터 비난을 회피하고 다른 요원을 비난하려는 의도로 여러 이메일을 받았습니다. 또 누군가 마이크로소프트(MS) 법률고문을 상대로 '오픈박스(Open Box)'를 벌여 개인정보와 사진을 온라인에 유포한 적도 발견됐다. 이 방법은 신원 도용 및 괴롭힘과 같은 심각한 실제 결과를 초래할 수 있습니다.

    Microsoft의 노력은 생성 AI의 남용을 억제하려는 광범위한 노력의 일부입니다. 거대 기업은 이렇게 확고한 사이버 범죄 네트워크를 해체하는 것이 장기적인 싸움이라는 점을 인정하지만, 이러한 악의적 행위자를 노출시키기 위한 법적 조치와 운영 중단은 중요한 진전을 의미합니다. Storm-2139의 은밀한 활동을 폭로함으로써 회사는 현재 네트워크를 해체할 뿐만 아니라 인공 지능 기술을 무기화하려는 향후 시도를 좌절시키려는 의도를 가지고 있습니다.

    전반적으로, 이 사건은 디지털 시대의 사이버 범죄자들이 제기하는 과제와 혁신적인 기술의 오용으로부터 지속적이고 조화로운 보호의 필요성을 강조합니다.