요약:
SpaceX 인공 지능 부서가 지난 8월 개인 AI 에이전트 제품인 Grok Bot을 출시하기 몇 주 전에 Cursor의 엔지니어들은 잠재적인 취약점을 발견했습니다. 당시 SpaceX는 AI 코드 스타트업인 Cursor를 인수하고 있었고, Cursor가 Grok Bot을 개발했습니다. 개발 과정에서 Cursor의 모든 직원은 테스트와 일상 업무에 이 도구를 광범위하게 사용했습니다.
7월 말 엔지니어들은 Cursor가 고객, 공급업체 및 비즈니스 파트너의 기밀 정보를 포함할 수 있는 내부 테스트를 통해 생성된 데이터를 SpaceX의 인공 지능 부서로 보냈을 수 있다는 우려를 제기했습니다. 언론이 검토한 내부 커뮤니케이션에 따르면 Cursor의 한 변호사는 회사가 모델 교육을 위해 데이터를 사용한다는 사실을 외부인이 알게 되면 "심각한 신뢰 위기"를 촉발할 수 있다고 경고했습니다.
미디어와 프로젝트에 정통한 두 사람이 검토한 내부 문서에 따르면 Cursor는 현재 SpaceX SI로 알려진 SpaceX의 인공 지능 부서에 어떤 민감한 데이터가 전송되었는지 알아보기 위해 즉시 내부 조사에 착수했습니다. 이 내부 조사의 결론은 불분명하지만 회사는 후속 모델 교육에 직원 사용으로 생성된 데이터가 더 이상 포함되지 않도록 조치를 취했습니다.
이 사건은 Grok Bot과 같은 에이전트 도구가 대중화되면서 AI 연구 개발 회사가 직면한 과제를 강조합니다. 이 유형의 에이전트는 더 높은 권한을 부여하도록 설계되었으며 사용자 컴퓨터의 다양한 파일과 응용 프로그램을 탐색하여 작업을 자율적으로 완료할 수 있습니다.
그러나 이렇게 높은 자유도는 훈련을 위해 모델에 민감한 정보를 실수로 제공하는 등 새로운 보안 위험을 가져옵니다. 일반적으로 주요 AI 기업들은 지메일(Gmail), 구글 클라우드 디스크(Google Cloud Disk) 등 인터넷 도구에서 얻은 데이터를 모델 훈련에 활용하지 않을 것이라고 밝혔습니다. 예를 들어, Grok Bot의 서비스 약관에서 SpaceX SI는 회사가 모델 교육을 위해 Google Cloud Disk 데이터를 사용하지 않을 것이며 사용자는 이러한 목적으로 자신의 데이터 공유를 거부할 수 있다고 명시합니다.
Grok Bot 관련 데이터 조사는 Cursor가 직면한 유일한 데이터 보안 사고가 아닙니다. 언론이 검토한 내부 커뮤니케이션에 따르면 올여름 회사 직원들이 내부용으로 구축된 공개적으로 접근 가능한 웹사이트를 통해 실수로 일부 고객 정보를 유출한 것으로 나타났습니다.
SpaceX SI는 논평 요청에 응답하지 않았습니다.
SpaceX가 8월 중순에 600억 달러 규모의 Cursor 인수를 완료하기 전에도 Cursor는 사업을 확장하고 있었으며 더 이상 코딩 도구에만 국한되지 않았습니다. 인수가 완료된 후, 다양한 작업을 처리할 수 있는 전천후 AI 협업 도우미인 Grok Bot은 수익성 있는 엔터프라이즈급 AI 도구 시장을 놓고 경쟁하는 SpaceX SI의 핵심 제품이 되었습니다.
이 문제에 정통한 두 사람은 Grok Bot의 초기 버전을 최적화하기 위해 Cursor가 회사, SpaceX SI 직원, 외부 개인 및 기업을 대상으로 제품 테스트를 주선하고 에이전트 사용에 대한 사용자 행동 기록을 수집했다고 밝혔습니다. Cursor는 이 데이터를 사용하여 AI 모델을 훈련할 수 있으며, 이를 통해 모델은 수행된 작업 및 작업 중에 검색된 정보를 포함하여 에이전트가 작업을 수행하는 방법을 학습할 수 있습니다.
Cursor의 전 성장 책임자인 Romain Ugarte는 팟캐스트 인터뷰에서 6월경 Cursor의 내부 직원들이 처음으로 Grok Bot을 사용한 후 코드명 Sand를 사용했다고 언급했습니다. 이 제품은 직원들이 판매, 채용, 연구 및 기타 업무를 처리하는 데 사용하면서 회사 내에서 빠르게 인기를 얻었습니다. 그들은 종종 소프트웨어가 회사 시스템에 액세스할 수 있도록 승인하여 독립적으로 작동할 수 있도록 했습니다. 이 문제에 정통한 소식통은 이는 직원들이 외부 고객과 상호 작용하고 잠재적인 후보자를 인터뷰하는 시나리오에서 에이전트를 사용하여 잠재적으로 판매 대화, 고객 파일 및 채용 커뮤니케이션에서 민감한 정보에 노출될 수 있음을 의미한다고 말했습니다.
그러나 Cursor가 Grok Bot을 출시하기 직전인 7월에 일부 엔지니어는 Slack 사고 보고 채널에 다음과 같이 경고했습니다. Sand의 내부 사용 시나리오에서 회사가 수집한 훈련 데이터에는 기밀 정보가 포함될 수 있으며 이 데이터 배치가 SpaceX SI로 전송되었을 수 있습니다.
조사의 일환으로 Cursor는 내부 커뮤니케이션과 해당 문제에 정통한 사람들을 기반으로 교육 데이터 세트에 포함된 사용자 범위를 검토했습니다. 이 문제에 정통한 한 관계자는 일부 Cursor 직원이 개인 이메일을 사용하여 Sand에 로그인했기 때문에 회사가 이러한 사용자를 식별하고 후속 교육에서 해당 데이터를 제거하기 어렵게 만들었다고 말했습니다.
이를 위해 Cursor는 제한을 두었습니다. 직원은 Sand에 로그인하려면 회사 이메일을 사용해야 하며 향후 교육에는 Cursor 직원이 생성한 데이터를 포함하지 않기로 결정했습니다.
Cursor의 변호사는 회사의 Slack 채널에 다음과 같이 썼습니다. "법적 관점에서 Sand는 일반적인 도구이며 해당 데이터 세트에는 고객, 파트너, 공급업체 등에 대한 기밀 정보가 포함되어 있습니다. 엄밀히 말하면 우리는 모델 교육에 이 데이터를 사용할 법적 권한이 없습니다."
Cursor가 사용자 데이터를 잘못 처리하여 문제를 정리한 것은 이번이 처음이 아닙니다.
언론이 검토한 내부 커뮤니케이션에 따르면 올해 초 이전에 보고되지 않은 사건이 발생했습니다. 커서 영업 및 마케팅 담당자가 실수로 인터넷에 고객 정보를 노출했습니다. 문제는 영업팀과 마케팅팀이 기존 고객 및 잠재 고객과의 관계를 유지하기 위해 사용했던 웹사이트 개발 플랫폼인 Vercel을 기반으로 팀이 구축한 웹사이트에 있었습니다.
문서에는 웹사이트 중 하나가 Verizon과의 고객 도킹을 관리하는 데 사용되는 것으로 나와 있습니다. 웹사이트에는 Verizon의 기술 관리 부분에 대한 조직도가 포함되어 있으며 Verizon 내부 커서 도구의 여러 핵심 사용자, 제품 소비량 및 각 사용자의 이메일 주소가 나열되어 있습니다.
Cursor의 내부 통신 기록에 따르면 Verizon 관련 웹사이트에는 비밀번호가 있지만 모든 고객 정보와 함께 비밀번호가 기본 코드에 직접 작성되어 있는 것으로 나타났습니다. 코드를 보는 모든 인터넷 사용자는 비밀번호와 고객 정보를 얻을 수 있습니다.
또한 내부 커뮤니케이션에 따르면 이 회사는 Bosch 및 Coupa와 같은 다른 회사의 데이터에서 유사한 문제에 직면한 것으로 나타났습니다. 취약점을 발견한 Cursor 엔지니어들은 긴급히 해당 웹사이트를 오프라인으로 전환했습니다. 그들은 이 끝없는 문제를 논의하는 데 전념하는 Slack 채널에 "많은 수의 GTM 웹사이트에서 고객/내부 데이터가 유출되었습니다"(GTM은 Go to Market을 나타냄)라는 긴 이름을 부여하기도 했습니다.
Bosch는 문의 사항을 Cursor에게 회부했고 Coupa는 논평을 거부했으며 Verizon은 인터뷰 요청에 응답하지 않았으며 Vercel은 논평을 거부했습니다.
Cursor가 SpaceX SI에 합병되기 오래 전에 항공우주 회사의 AI 부서에서는 유사한 데이터 보안 사고가 발생했습니다. 2025년 3월, SpaceX SI 직원이 실수로 공개 GitHub 코드 저장소에 테스트 스크립트를 업로드하여 Grok 애플리케이션 프로그램 인터페이스 키가 유출되었습니다. 외부인은 이 키를 사용하여 대중에게 공개되지 않은 xAI 모델에 액세스할 수 있습니다.
올 여름, 연구원은 SpaceX의 개발자 도구인 Grok Build가 전체 Git 코드 저장소를 SpaceX의 Google Cloud Storage에 업로드하여 개발자가 공개할 의도가 없었던 독점 소스 코드 또는 ID 자격 증명이 유출될 가능성이 있다는 사실을 발견했습니다. 이에 대해 xAI는 창고 업로드 기능을 종료하고 도구를 오픈 소스로 만들었습니다. Elon Musk는 X 플랫폼에 다음과 같이 게시했습니다. "이전에 SpaceX AI에 업로드된 모든 사용자 데이터는 완전히 삭제됩니다."
댓글