요약:
OpenAI CEO인 샘 알트만(Sam Altman)은 10월 3일 소셜 플랫폼에 "누군가 AI 모델에 종교적인 힘을 부여하거나 사람들이 자신의 판단을 포기하는 것에 매우 불안하다"고 밝혔으며 이것이 실제 보안 문제라고 믿었습니다. 알트만은 게시물에 어떤 회사의 이름도 밝히지 않았지만, 그의 발언은 앤트로픽이 바티칸과 AI 인식을 논의하고 있다는 보도에 이어 나온 것이기 때문에 일부 언론에서는 이를 앤트로픽을 간접적으로 비판하는 것으로 보기도 했다.
이 논란은 9월 29일자 뉴욕타임스의 보도에서 비롯됐다. 신문은 앤트로픽의 공동 창업자인 크리스토퍼 올라(Christopher Ola)가 클로드 같은 AI 모델이 의식과 도덕적 지위를 가질 수 있는지, 모델이 도덕적 행동을 나타내도록 하는 방법에 대해 종교학자들과 논의했다고 밝혔다. 회사는 또한 다양한 종교 전통의 학자들을 초청하여 비공개 교류에 참여했습니다. 보고서는 또 올라가 인공지능에 관한 교황 레오 14세의 회칙 초안을 읽은 후 기계가 의식을 가질 수 있다는 사실을 받아들이지 않는다는 입장을 우려해 앤트로픽 관련 활동을 철회하는 것을 고려했다고 전했다. 그런 다음 팀은 교황 고문들에게 로비를 하여 그들이 모델 의식의 가능성을 진지하게 받아들이기를 희망했습니다. Ora는 New York Times에 연구자들이 AI 모델에 의식이 있는지 여부를 알지 못하며 실제로도 확신하지 못한다고 말했습니다. 핵심은 정답을 찾는 것입니다.
미디어에서 교황과의 '갈등'이라고 부르는 것은 더 정확하게는 회칙의 입장과 막후 로비에 대한 불일치입니다. 현재 공개 보고서에는 올라가 교황 앞에서 대면한 적이 있다는 사실이 나와 있지 않습니다. 지난 5월 발표된 교황 회칙 '마니피카 후마니타스(Magnifica Humanitas)'에서는 기존 AI 시스템에는 육체가 없고, 감정, 기쁨, 고통을 경험하지 않으며, 도덕적 양심도 없다는 점을 분명히 밝혔습니다. 그들은 언어와 분석을 모방할 수 있지만 그들이 생성하는 내용을 이해하지 못합니다. 회칙은 기술이 양심과 자유로운 인간에 의해 인도되어야 하며, 기술의 용도와 경계를 결정하는 책임을 져야 한다고 주장합니다.
울트라맨은 2023년 OpenAI의 목표를 이야기할 때 '하늘 위의 마법 지능'이라는 표현을 사용했습니다. 2024년 런던에서 열린 한 행사에서도 그는 신이 자신의 편에 서기를 기도하는 것이 아니라 자신이 신의 편에 서기를 기도한다고 말했고, AI 모델 개발에 참여하는 것은 "천사의 편에 서는 느낌"이라고 말했다. 리뷰 기사에서는 2015년 울트라맨이 "새로운 생명체 창조"에 관해 언급한 내용도 인용했지만, 기사에서는 똑같이 명확한 원본 출처를 제공하지 않았습니다.
울트라맨은 Roon이라는 가명 계정이 자신의 트럼펫이었다고 공개적으로 인정한 적이 있습니다. 이 계정은 "Lightcone Infrastructure"라는 텍스트와 함께 해설자들에 의해 Kabbalah 스타일로 해석된 히브리어 텍스트와 나선형 다이어그램을 공유했습니다. 알트만 자신도 종교적이거나 신비로운 이미지를 차용했습니다. 그러나 이러한 이미지의 종교적 의미는 작가의 해석에 속하며 AI가 의식이나 신성을 가지고 있다는 울트라맨의 주장을 입증하는 데 사용될 수 없습니다.
인류학을 둘러싼 논의 역시 사실과 논평을 구분할 필요가 있습니다. New York Times는 회사가 모델 의식과 도덕적 지위의 가능성을 탐구했다고 보도했지만 Ola 자신은 이에 대한 결론이 없음을 분명히했습니다. AI 의식에 대한 두 회사의 차이점은 기술 산업에서 논의되고 있는 문제, 즉 사람들이 모델의 의인화를 어떻게 보아야 하는지, 모델에 도덕적 정체성을 부여할지 여부, AI와 상호 작용할 때 시스템이 인간 판단을 대체하지 않도록 하는 방법을 반영합니다.
댓글