요약:
2026년 2월, 이란 남부의 작은 마을인 미나브의 한 초등학교는 전쟁 첫날 토마호크 미사일 두 발의 공격을 받았습니다. 이번 공습으로 150명 이상이 사망했고, 그 중 최소 123명이 어린이였다. 미 국방부 내부 검토 문서에 따르면 팔란티어가 개발한 인공지능 타겟팅 시스템이 이번 비극에 핵심적인 역할을 했다는 사실이 드러났다.
수사관들은 미 중부 사령부의 분석가들이 Maven Smart System이라는 시스템을 거의 맹목적으로 신뢰하고 있다는 사실을 발견했습니다.
동시에 치명적인 오산을 바로잡을 수 있었던 핵심 정보 메모는 아무도 관심을 두지 않는 고립된 시스템에 갇혀 공습 계획을 수립한 사람들에게 결코 전달되지 않았습니다.
피할 수 없었던 비극이 점차 현실이 되어가고 있습니다.
이제 이 노출된 조사 문서는 AI 지원 군사 의사결정의 경계 문제를 다시 조명하고 있습니다.
삼중 추락: AI, 오래된 지능 및 끊어진 사슬
블룸버그가 입수한 내부 문서에 따르면 조사관들은 세 번의 실패가 중복된 것으로 결론지었습니다.
첫 번째는 AI 시스템에 대한 과도한 의존입니다. 일부 사용자는 Maven이 오래된 기록이나 모순되는 정보를 자동으로 표시할 것으로 기대하지만 시스템이 왜 이렇게 하는지 설명할 수 없습니다.
둘째, 정보 데이터 자체가 심각하게 오래되었습니다. 미나브 시설은 오랫동안 오래된 정보를 이용해 이란 이슬람혁명수비대 시설로 분류돼 왔다.
결국 목표물을 확인하고 민간인의 사고를 예방하는 일을 담당하는 인력이 대폭 줄어들었습니다. 세 가지 누락이 겹쳐져 최후의 비극이 발생했다.
세 가지 중 어느 것도 단독으로 치명적일 수는 없지만 동일한 미사일의 의사결정 사슬에서 동시에 발생하면 결과를 되돌릴 수 없게 됩니다.
Maven 시스템: 분 단위 결정 뒤에 숨겨진 걱정
Maven 스마트 시스템은 지능 분석 및 의사결정을 가속화하는 데 사용되는 '인공지능 기반 데이터 통합 및 타겟팅 플랫폼'이라고 합니다.
원래 완료하는 데 몇 시간이 걸렸던 목표 목록을 확인하는 작업을 단 몇 분으로 압축할 수 있습니다.
효율성을 높이는 데 드는 비용은 검토 프로세스가 체계적으로 압축되어 수동 검토를 위한 시간과 공간이 점점 줄어들기 때문입니다.
상업용 위성 이미지는 실제로 오랫동안 문제를 보여주었습니다. 2017년에는 학교 울타리가 인접한 군 기지와 물리적으로 분리되었습니다. 2018년에는 화려한 울타리, 축구장, 운동장 표지판을 선명하게 포착한 이미지가 등장했습니다.
Palantir는 나중에 회사가 기본 데이터에 대한 책임이 없으며 인텔리전스 결함 식별에 대한 책임이 없다고 답변했습니다.
공습 이후 회사는 기본 정보를 재검토하고 수동 검토에서 놓쳤을 수 있는 모순과 부정확성을 표시하기 위해 시스템에 새로운 기능을 추가했습니다. 비슷한 이상이 발견됐다고 합니다.
이 모든 것이 너무 늦게 이루어졌을 뿐입니다.
당시 최전선에 있던 분석가들에게 시스템이 내린 판단은 교차 검증이 필요한 참고 정보라기보다 기성 답변으로 간주되는 경우가 많았습니다.
잊혀진 메모: 도착하지 않은 알림
이르면 2019년 초에 한 분석가가 Minab 시설의 변경 사항을 발견하고 이를 문서화했습니다.
그러나 이 기록은 주요 군사 정보 데이터베이스와 연결되지 않은 시스템에 저장되어 정보 섬 역할을 합니다.
한 번도 보내지 않은 편지처럼 최종적으로 공습 계획을 세운 사람들에게는 결코 전달되지 않았습니다.
더욱 놀라운 점은 목표물을 확인하고 민간인의 사고로 인한 부상을 방지하는 전담팀의 수가 최근 몇 년간 약 90% 감소했다는 것입니다.
한때 중앙사령부 관련팀은 10명에서 1명으로 줄었고, 미사일 발사 전 이 시설에 대한 최종 검토를 하는 사람이 아무도 없었다.
기술적 오류는 표면적인 것일 뿐입니다. 실제 허점은 인간 배포 및 프로세스 설계에 묻혀 있습니다.
먼저 확인했어야 할 기록이 수년간 시스템의 틈새에 조용히 잠들어 있었습니다.
책임성 수수께끼: 전쟁 범죄의 특성화와 지연된 답변
유엔 독립 국제조사단은 최근 미국이 '무차별 공격'이라는 전쟁범죄를 저질렀다고 볼 만한 합리적인 근거가 있다고 결론 내렸다.
보고서는 미국이 "학교가 군사 표적인지 여부를 확인하기 위해 가능한 모든 조치를 취하지 못했다"고 지적했습니다. 이러한 의무 불이행은 단순한 과실을 넘어섰습니다.
대응하여 국방부 대변인은 "미국은 민간인을 표적으로 삼지 않는다"고 말했지만 유엔 보고서에 대해서는 논평을 거부했습니다.
올해 3월, 미국 하원의 민주당 의원 120명 이상이 국방부 장관에게 편지를 보내 이번 오판에서 Maven과 기타 AI 도구의 구체적인 역할에 대해 질문했습니다.
미 국방부는 현재 진행 중인 조사를 언급하면서 아직 공개 답변을 하지 않았습니다.
이 사건은 더 광범위한 추세를 반영합니다. 군대와 법 집행 기관은 AI 도구에 점점 더 의존하고 있지만 일치하는 검증 및 책임 메커니즘이 부족합니다.
진짜 위험은 결코 알고리즘 자체가 아니라 검증 없이 기계의 결론을 받아들이는 인간의 습관일 수 있습니다.
관련 기사:
미군은 AI 오판으로 인한 잘못된 정보로 인해 중국 선박을 요격 및 검사할 준비를 하여 국제 갈등을 일으킬 뻔했습니다
댓글