요약:
교황 레오 14세는 최근 군사 분야에서의 인공지능 적용에 대해 또 다른 경고를 발표하면서 정부가 독립적으로 공격 대상을 결정하고 치명적인 타격을 가할 수 있는 무기 시스템을 금지하는 구체적인 조치를 취할 것을 촉구했습니다. 그는 인간의 생명, 자유, 무력 사용과 관련된 주요 결정은 항상 효과적이고 정보에 입각해 책임감 있는 인간의 감독하에 이루어져야 하며 인공지능이 독립적으로 결정하도록 맡겨서는 안 된다고 강조했습니다.
현지 시간으로 10월 30일, 교황 레오 14세는 바티칸에서 인공지능 특별회의에 참석한 과학자, 기술 전문가, 관련 기관 대표들을 만났습니다. "인공지능의 미래: 지능형 기술의 개발과 적용에 관한 바티칸과 과학 공동체 간의 대화"라는 제목의 이 회의는 바티칸 산하 교황청 생명과학 아카데미와 생명의 미래 연구소가 공동 주최했으며 인공 지능 개발로 인해 발생하는 기술적, 윤리적, 사회적 문제에 초점을 맞췄습니다.
교황은 연설에서 전임 교황 프란치스코가 2024년 G7 정상들에게 한 연설을 회상했습니다. 당시 프란치스코 교황은 인공지능을 흥미롭기도 하고 걱정스럽기도 한 도구로 묘사했으며, 어떤 기계에게도 인간의 생명을 빼앗을지 여부를 결정할 수 있는 권한을 주어서는 안 된다는 점을 분명히 했습니다. 레오 14세는 이 경고가 오늘날에도 여전히 유효하다고 믿었습니다.
레오 14세는 인공지능의 미래는 미리 정해진 것이 아니라고 지적했습니다. 인간이 개발한 기술로서 그 발전 방향은 결국 인간 자신의 선택에 달려 있다. 따라서 인간은 인공지능의 발전을 이끌어야 할 책임이 있을 뿐만 아니라 필요할 경우 특정 애플리케이션을 변경하거나 심지어 거부해야 할 책임도 있습니다. 논의해야 할 실제 질문은 인공 지능이 무엇을 할 수 있는지뿐만 아니라 더 중요한 것은 인간이 인공 지능이 어떤 목적을 달성하기를 원하는가입니다.
그는 특히 인공지능이 효과적인 윤리적 제약을 수용해야 하며, 특히 인간의 실질적인 감독 없이 알고리즘 시스템이 표적이 될 사람이나 국경 통제 대상이 될 사람을 결정하는 것을 허용하지 않아야 한다고 강조했습니다. 군사 표적 목록이나 국경 통제 데이터베이스에 사람을 등록하면 실제 생명과 개인의 권리가 무시되는 동안 데이터 집합으로 축소될 위험이 있습니다.
따라서 교황은 각국에 소위 인공지능 '군축'을 실시할 것을 촉구했으며, 특히 11월 스위스 제네바에서 관련 회의를 개최할 예정인 국가들에게 치명적인 자율무기 금지를 촉진하기 위한 구체적인 조치를 취할 것을 촉구했습니다.
소위 치명적인 자율무기란 인간의 직접적인 개입 없이 표적을 식별, 선택, 공격할 수 있는 무기체계를 말한다. 인공지능, 컴퓨터 비전, 드론, 자동화된 군사 시스템 등의 발달로 이러한 기술은 국제사회의 군사 윤리 및 전쟁 규칙 논의에서 중요한 이슈가 되었습니다. 핵심 논쟁은 기계가 공격 대상을 독립적으로 결정할 수 있는 능력을 갖게 되면 책임의 귀속, 오판의 결과, 인간의 전쟁 통제가 모두 새로운 도전에 직면할 수 있다는 것입니다.
군사적 용도 외에도 레오 14세는 인공지능이 법적 인격을 획득해야 하는지에 대해서도 분명한 반대 의사를 표명했습니다. 그는 기계는 도구일 뿐 사람이 아니라고 지적했다. 인공지능은 실제 신체, 감정, 삶의 경험, 대인관계가 없으며 자신의 경험을 통해 사랑, 우정, 노동, 책임을 이해할 수 없습니다.
인공지능 시스템에 법인격이나 독립된 권리를 부여하면 실제 책임자를 모호하게 만들 수 있다고 본다. AI가 피해를 입힐 경우 피해자는 도덕적 책임을 질 수 없는 기술 시스템을 다루어야 할 수 있으며, 이로 인해 개발자, 운영자, 실제 사용자의 책임이 더욱 불분명해질 수 있습니다.
교황은 인공지능의 개발은 사회 전체의 공동 이익에 부합해야 하며 단지 소수의 기업과 이익 집단이 권력과 부를 얻기 위한 도구가 되어서는 안 된다고 강조했습니다. 기술 진보로 인해 발생하는 의료, 지식, 도구 및 개발 기회는 다양한 국가와 사회 집단, 특히 가장 도움이 필요한 사람들에게 더욱 공평하게 혜택을 주어야 합니다.
그의 견해로는 현재 전 세계적으로 인공지능의 윤리에 관한 원칙적인 논의가 부족하지 않습니다. 정말 시급한 문제는 이러한 원칙을 실질적인 제약으로 전환할 수 있는 시스템을 구축하는 것입니다. 국제사회는 인공지능 개발 및 사용에 대한 공통 표준을 제정하고, 독립적인 감독 메커니즘을 구축하고, 책임 체계를 명확히 하여 피해 발생 시 관련 결정을 검토하고 효과적인 구제 조치를 제공할 수 있도록 해야 합니다.
이 연설은 올해 5월에 발표된 레오 14세의 첫 번째 회칙 "Magnifica Humanitas"("위대한 인류애")의 핵심 입장을 이어갑니다. 이 문서는 인공지능을 핵심 주제 중 하나로 나열하고, 기술 발전이 인간 존엄성을 해치는 것을 방지하기 위해 국가에 법적 감독을 강화할 것을 촉구하며, 전쟁, 노동 시장, 공공 의사결정에서 인공지능의 적용이 광범위한 영향을 미칠 수 있다고 경고했다.
레오 14세가 치명적인 자율 무기 문제에 더욱 초점을 맞추면서 바티칸의 입장은 군사 인공 지능 거버넌스에 대한 국제 사회의 지속적인 논의와 더욱 직접적으로 연결되었습니다. 특정 재래식 무기에 관한 유엔 협약의 틀에 따른 관련 회의가 11월 16일부터 20일까지 제네바에서 개최됩니다. 치명적인 자율 무기에 대한 국제 감독이 논의되는 주제 중 하나가 될 것입니다.
교황은 인공지능 연구의 완전한 중단을 요구하지는 않았지만 개인적으로 돌이킬 수 없는 해를 끼칠 수 있는 응용 분야에 대해 명확한 경계를 설정할 것을 옹호했습니다. 그는 인공지능의 발전 속도가 인간 사회의 위험 관리 능력을 초과하도록 허용하는 것이 아니라, 국가들이 기술이 항상 인간의 책임과 통제하에 있음을 보장하기 위해 국제 협력을 통해 효과적인 규제 시스템을 구축할 수 있기를 희망합니다.
댓글