이 문제에 정통한 소식통에 따르면 머스크의 스페이스X와 스페이스X가 전액 출자한 자회사 xAI는 음성으로 제어되는 자율 드론 군집 기술 개발을 목표로 하는 기밀의 새로운 국방부 대회에 참가하고 있다고 합니다. 머스크는 지난 2월 초 두 회사가 인공지능(AI) 기반 무기 연구 및 개발의 새로운 영역에 진입하기 위해 합병할 것이라고 발표해 논란을 불러일으킬 수 있는 머스크의 새로운 전환점을 알렸다.
SpaceX는 이미 성숙한 방산 계약자이고 Musk는 AI 발전에 열정을 갖고 있지만 이전에는 "새로운 살인 도구"의 생성에 반대한 사람들 중 한 명이었습니다.
머스크의 회사는 지난 1월 시작된 1억 달러 챌린지에서 경쟁하기 위해 선택된 소수의 회사 중 하나였다고 이 문제에 정통한 사람들이 민감한 주제를 논의하고 있기 때문에 익명을 요구했다고 말했습니다.
6개월간 진행되는 이번 대회에서는 음성 명령을 디지털 명령으로 변환하고 여러 대의 드론을 운전할 수 있는 첨단 군집 기술을 개발하는 것이 목표입니다.
이제는 여러 대의 드론을 동시에 비행하는 것이 가능하지만, 바다와 공중에서 다중 로터 드론 떼를 지휘하고 목표물을 자율적으로 추적할 수 있는 소프트웨어를 개발하는 것은 여전히 어려운 과제입니다. 이 문제에 정통한 관계자는 “대회는 참가자들의 결과와 관심에 따라 단계적으로 진행될 것”이라고 말했다.
펜타곤 대회는 실리콘밸리 스타트업 유치에 전념하는 국방혁신단(DIU)과 국방자율전그룹(DAWG)이 공동으로 시작했다. DAWG는 트럼프 2기 행정부의 신설 기관으로 미 특수작전사령부 산하 기관이다. DAWG는 수천 대의 소모성 자율 드론을 생산할 계획인 Biden 시대 Replicator 프로그램의 연속입니다.
이 프로젝트는 소프트웨어 개발부터 점진적으로 현장 테스트까지 5단계로 진행됩니다. 국방부 관계자는 1월 대회 발표에서 드론이 공격 목적으로 사용될 것이라고 밝혔으며, 인간과 기계의 상호 작용은 "이러한 시스템의 치명성과 효율성에 직접적인 영향을 미칠 것"이라고 말했습니다.
보안 허가
xAI의 웹사이트는 회사가 연방 계약자와 협력할 수 있는 "비밀" 또는 "일급 비밀" 수준의 유효한 미국 보안 허가를 받은 워싱턴이나 서부 해안에서 엔지니어를 모집하는 것을 목표로 최근 채용 횡포를 시작했음을 보여줍니다. xAI는 채용 공고를 통해 "정부 기관, 국방부, AI, 소프트웨어, 데이터 프로젝트 관련 연방 계약업체"와 협력한 경험이 있는 소프트웨어 엔지니어를 찾고 있다고 밝혔으며 채용 절차는 일주일 이내에 완료될 것이라고 덧붙였습니다.
12월 9일, SpaceX Falcon 9 로켓이 미국 국립 정찰국(National Reconnaissance Office)의 기밀 탑재물을 탑재한 플로리다의 케이프커내버럴 우주군 기지에서 발사되었습니다.
머스크는 앞서 인간의 실질적인 통제를 넘어서 스스로 목표물을 선택하고 공격할 수 있는 공격형 자율무기 개발 금지를 주장한 바 있다.
2015년 머스크는 AI 및 로봇 공학 분야 연구자들이 후원하는 공개 서한에 서명하여 자율 무기로 인한 위험을 경고했습니다.
머스크는 SpaceX와 xAI 두 회사를 합병할 때 AI를 사용하여 새로운 무기 기술을 지원하는 소프트웨어를 제공하는 것에 대해서는 언급하지 않았습니다. 그러나 xAI와 SpaceX 엔지니어 및 관리자가 참여하는 이 새로운 국방부 임무는 그 방향으로 나아가고 있습니다.
버지니아 주 알링턴의 펜타곤
이 문제에 정통한 여러 소식통에 따르면 미 국방부는 AI와 자율 기술의 적용을 가속화하기를 열망하고 있지만 챗봇과 음성-문자 명령을 무기 플랫폼에 통합하려는 전망은 일부 국방 관계자조차 불안하게 만든다고 합니다. 그들은 생성 AI의 사용을 번역으로 제한하고 드론 동작을 제어하는 것을 허용하지 않는 것이 중요하다고 말합니다.
몇몇 사람들은 생성 AI를 사용하여 인간이 개입하지 않고 음성을 운영 결정으로 변환할 경우 위험에 대한 우려를 표명했습니다.
동시에 주요 연구소의 일부 직원은 AI 산업의 다른 윤리적 문제에 대한 의문으로 인해 직장을 그만두고 선도적인 생성 AI 회사는 지속적인 연구 개발을 지원하기 위해 수익 창출에 안간힘을 쓰고 있습니다.