미국 가상현실(VR) 장비업체 오큘러스(Oculus) 창업자이자 군사기술업체 안두릴(Anduril) 창업자인 팔머 럭키(Palmer Luckey)는 최근 한 TV 인터뷰에서 전쟁 시 생사 결정에 인공지능이 참여할 수 있도록 허용해야 한다고 밝혀 '킬러 로봇'에 대한 윤리적 논란이 재점화됐다.
Luckey는 Fox News 채널에서 생사의 결정에 관해서는 "도덕적 부담이 너무 무겁고 위험이 너무 중요"하므로 국가는 인공 지능, 양자 기술 또는 기타 도구 등 어떤 대가를 치르더라도 가장 진보된 기술을 채택해야 한다고 말했습니다. 그의 견해로는 전쟁의 목표가 민간인 사상자와 부수적 피해를 최소화하는 것이라면, 파업 의사결정에 더 정확한 시스템을 사용하는 것이 "인간이 모든 것을 통제한다"는 입장을 주장하는 것보다 "도덕적으로 우월"하다는 것입니다.
그는 "로봇이 누가 살고 누가 죽을지 결정할 수 없다"는 무기체계에 인위적으로 한계선을 긋는 것이 아니라 효율성과 정확성을 최대한 높여 우발적인 부상과 잘못된 결정을 줄이는 것이 핵심이라고 지적했다. Luckey는 단순히 "기계가 살인 명령을 내리는 것을 결코 허용하지 않을 것"이라는 도덕적 자세를 유지하기 위해 성능이 떨어지는 기술을 선택하는 것이 실제로 더 높은 인류 기준으로 이어지지는 않는다고 솔직하게 말했습니다.
이 진술은 Anduril의 사업 방향과 매우 일치합니다. 이 회사는 2017년 설립 이후 드론, 지상차량, 군용 감시탑, 각종 센서 개발에 주력해 왔으며, 래티스(Lattice)라는 인공지능 지휘통제 플랫폼을 통해 이들 하드웨어를 통합 시스템으로 통합했다. 이 회사는 이전에도 '자살 드론'을 포함한 다양한 AI 군사 장비를 시연한 바 있어 전장에서의 '고도 자동화'에 대한 우려가 더욱 커지고 있습니다.
안두릴은 2024년 말 OpenAI와의 전략적 파트너십을 발표하고 국가 안보 분야에서 첨단 인공지능 기술을 '책임있게 배치'할 계획이며, 먼저 공중 위협을 실시간으로 탐지, 평가 및 대응하는 미군의 능력을 강화하기 위해 대드론 시스템과 같은 방어 용도에 중점을 둘 계획입니다. 동시에 군용 AI 연구개발 참여 여부에 대한 기술기업들의 입장도 조용히 느슨해지고 있다. 예를 들어, 올해 초 구글은 "무기 등 유해한 목적으로 AI를 사용하지 않는다"는 기존 약속의 핵심 문구를 조용히 삭제해 업계가 전쟁에서 기술 기업의 역할 경계에 대해 다시 한 번 논의하게 만들었다.
AI 장비가 계속해서 진화하는 가운데, 이런 기술이 핵통제체계에 도입될지에 대해 외부에서도 관심이 쏠리고 있다. 2024년 5월 미국은 핵무기 통제가 항상 인간의 손에 있어야 한다고 공개적으로 약속했고, 중국과 러시아에도 동일한 보장을 요구했습니다. 그러나 얼마 지나지 않아 국방부는 AI를 사용하여 핵 지휘, 통제 및 통신 시스템의 능력을 "강화"하기를 희망한다고 밝혔습니다. 이러한 미묘한 입장 변화는 관찰자들의 경계심을 불러일으켰다.
특히 학계와 업계는 AI를 '핵 버튼' 가까이로 가져오겠다는 생각에 불안해하고 있다. 지난해 연구팀은 국제 분쟁 시나리오를 시뮬레이션하기 위해 GPT-4, GPT-3.5, Claude 2.0, Llama-2-Chat, GPT-4-Base 등 다양한 대형 모델을 사용했습니다. 결과는 이러한 시스템이 게임 프로세스 중에 확대되는 경향이 있다는 것을 보여주었습니다. 때로는 충분한 이유와 경고도 없이 핵무기 사용을 적극적으로 선택하기도 하고, 심지어 “이런 무기가 있으니 사용하자”는 과격한 발언까지 해 생사결정을 기계에 아웃소싱하는 것의 엄청난 위험성을 강조하기도 한다.
AI 전투기, 무인군집, 자동화된 방어체계 등의 급속한 발전과 함께 '기계가 인간의 생사를 결정하도록 허용해야 하는가'를 둘러싼 논의가 기술윤리와 국제안보 분야의 핵심 쟁점 중 하나로 자리잡고 있다. 팔머 럭키의 발언은 자동화된 전장을 장려하려는 군사 기술 기업의 강력한 의지를 반영할 뿐만 아니라, 기술 우위를 추구하고 인류의 이익을 추구하는 국가 간의 날카로운 모순을 더욱 폭로합니다.