프란치스코 교황의 뒤를 이은 미국 교황 레오 14세가 취임 후 첫 번째 회칙인 '마니피카 후마니타스(Magnifica Humanitas)'('인류의 위대함'을 의미)를 발표했다. 4만 단어로 구성된 이 프로그램 문서는 실리콘 밸리의 거대 기술 기업을 직접 겨냥하고 인공 지능에 대한 시급하고 엄격한 규제를 촉구함으로써 교회와 기술 강국 사이에 명확한 전선을 그립니다.
교황은 바티칸에서 열린 기자회견에서 AI를 '선천적으로 악하다'고 묘사하지 않았지만 AI는 필연적으로 제작자의 도덕적 흔적을 지니고 있기 때문에 '중립적이지 않다'고 분명히 강조했다. 그는 현재의 AI 연구개발이 '권력문화'와 지정학적 경쟁에 의해 주도되고 있다고 강력히 비난했으며, 일부 기업이 데이터와 컴퓨팅 파워를 독점해 '새로운 의존, 배제, 조작, 불평등'을 조장할 것이라고 더욱 우려했다.
교황은 회칙에서 세 가지 핵심 호소문을 발표했습니다. 첫째, 그는 AI의 "군축 해제"를 촉구하고 이를 기업과 군대 간의 "무장 경쟁" 논리에서 해방시켰습니다. 특히 그는 치명적인 파업의 의사결정권을 자동화 시스템에 완전히 넘겨주는 것을 엄격히 금지할 것을 촉구했다. 둘째, AI를 비판하는 것은 노동의 존엄성을 짓밟는 행위를 강화할 것이며, 개발자들에게 단순히 이윤 추구를 위해 그렇게 해서는 안 된다는 점을 상기시킬 것입니다. “체계적으로 일자리를 희생하고” 사람을 일회용 도구로 취급합니다. 셋째, 실리콘밸리 일부 엘리트들이 주창하는 '가속주의'나 '트랜스휴머니즘'에 맞서 몇몇 민간 기업이 만든 '윤리적 AI'에만 의존하는 것은 신뢰할 수 없으며, '건전한 법적 틀과 독립적인 감독'이 확립되어야 한다고 분명히 경고했다.
이번 출범식에서 가장 눈길을 끄는 것은 교황이 특별히 인공지능(AI) 기업 앤트로픽(Anthropic)의 공동 창업자인 크리스토퍼 오를라허(Christopher Orlacher)를 옆자리에 앉도록 초청했다는 점이다. Orlacher는 회의에서 AI가 "대규모로 인간 노동을 대체할 가능성이 현실"이라고 인정했으며 최첨단 AI 실험실조차도 "올바른 일을 하는 것과 충돌하는 인센티브와 제약"에 빠져 있는 경우가 많다고 인정했습니다.
뉴욕타임스는 교황의 이번 조치가 '인쇄혁명'과 같은 중요한 역사적 순간에 도덕적 중재자 역할을 해온 가톨릭 전통을 이어간다고 논평했다. 언론은 일반적으로 이 회칙이 실리콘 밸리의 세계관에 대한 강력한 반박일 뿐만 아니라 AI 윤리 및 거버넌스에 대한 글로벌 논의를 위한 새로운 도덕적 이정표를 세웠다고 믿습니다.
관련 기사:
교황은 머스크의 이름을 거의 언급하지 않습니다. 수조 급여는 너무 과장되고 소득 격차는 통제 불능입니다.
교황이 AI를 경계하는 내용의 문서를 작성했나요?