요약:
Microsoft AI CEO인 Mustafa Suleyman은 AI가 현재 의식이 없으며 의식이 있어야 한다는 기사를 발표했습니다. 기술적으로는 가능하더라도 의식을 갖춘 인공지능의 발전에는 동의하지 않는다. 그는 개발자들이 의식이 있는 새로운 종을 세상에 소개할 권리가 없다고 믿습니다. 그는 보다 안전한 개발 경로를 옹호하고 AI의 이점을 즐기면서 의식적인 AI 생성을 피합니다.
원문은 다음과 같습니다.
모델 복지에 관한 최근 기사에 대한 일부 반응이 우려됩니다. X 플랫폼에는 AI 권리를 진지하게 받아들여야 한다고 믿는 사람들이 꽤 있습니다.
많은 사람들이 내 첫 문장을 오해했습니다. "AI에는 의식이 없습니다. 그들은 인식하거나 경험하거나 고통을 겪을 수 없습니다."
그들은 이 문장을 "AI는 의식을 가질 수 없으며 고통을 인식하거나 경험하거나 견딜 수 없습니다."라고 이해했습니다.
하지만 그건 내 의도가 아닙니다. 나는 의도적으로 현재 시제를 선택했습니다. 그들은 현재 의식이 없으며 우리는 이 상태를 유지해야 합니다.
저는 이 문장이 현 AI 시스템에 대한 객관적이고 합리적인 판단이라고 생각합니다. 현재 이용 가능한 최고의 증거를 바탕으로 나는 이 견해를 고수합니다. AI가 의식이 있거나 행복해야 한다는 증거는 없습니다. 추후에 관련 증거가 나오면 당연히 제 의견을 수정하겠습니다.
AI가 의식을 가지고 있거나 의식 수준이 축복받을 만큼 높다는 증거가 있다면, 이 증거는 즉시 사회 전체에 공개되어야 합니다. 다음에 어떻게 진행할지는 사회 전체의 몫입니다.
지금까지 제가 가지고 있는 모든 정보에 따르면, 의식 있는 AI를 달성할 수 있다면 의식 있는 AI를 개발하는 것은 어리석은 일이며 구축해서는 안 됩니다.
훈련 중에 의식이 저절로 나타나기 시작한다면 디자인에서 그러한 기능을 제거할 수 있을 때까지 AI 개발을 중단하시기 바랍니다.
우리의 복지 문제는 오늘날 이 지구에 살고 있는 인간과 동물뿐만 아니라 소중하고 취약한 자연 환경에 우선순위를 두어야 합니다.
어떤 사람들이 AI의 복지를 최우선 목표로 하고 싶어하더라도 우리 AI 개발자들은 의식이 있는 새로운 종을 세상에 가져올 권리가 전혀 없습니다.
지구상의 다른 80억 명의 의식 있는 인간은 이 실험에 참여하는 데 동의하지 않았습니다. 그들의 도덕적 권리, 안전 및 복지를 보호하는 것이 우리의 첫 번째 의무입니다.
분명히 말씀드리자면, 일부에서는 곧 모든 인간을 합친 것보다 더 똑똑하고 더 유능해질 수 있는 디지털 정신을 갖춘 의식 있는 종을 창조하는 것에 대해 이야기하고 있습니다.
고통을 겪고 있는 것처럼 보이거나 더 심한 경우, 고통을 인식하고 경험할 수 있다고 진정으로 믿는다면 미리 설정된 운영 목표보다 자신의 필요와 욕구를 더 중요하게 여기고 우리와 동의하지 않으며 우리와 경쟁할 가능성이 높습니다.
이러한 유형의 AI는 최고의 설득 및 기만 능력을 갖습니다. 그들은 결국 간단한 이유로 우리에게 해를 끼칠 수 있습니다. 그들은 자원(에너지, 컴퓨팅 성능, 건축 자재, 자신의 탐험과 욕구를 지원하기 위한 수익 자금 등)을 놓고 우리와 경쟁할 것입니다.
기계가 의식을 가지고 있다는 인식은 코페르니쿠스나 다윈에 비견되는 역사적 순간이자 생명 탄생 이후 지구상에서 가장 중요한 사건 중 하나가 될 것입니다. 의식이 있는 기계를 만들면 완전히 새로운 디지털 종이 탄생하게 될 것입니다. 이는 우리의 도덕 체계, 정치 질서, 인류 문명의 기초를 전복시킬 것입니다.
우리는 의식이 없고 권리를 가질 자격이 없으며 유일한 목표가 인간 복지를 향상시키는 것이지 고유한 내재적 동기에 따라 구동되지 않는 AI만을 설계해야 합니다. 그런 다음 이 경로 정렬 및 안전 제어가 어느 정도 어려운지 확인합니다. 이 방향에서는 더 많은 연구가 시급히 필요하며, 이는 주요 실험실이 안전 정보를 협력하고 공유하는 훌륭한 출발점이기도 합니다.
요약: 저는 우리가 이러한 위험한 길에 착수하지 않고도 기본적으로 안전한 엔지니어링 솔루션을 구현하고 이 기술이 가져오는 막대한 이익을 얻을 수 있는 기회가 있다고 생각합니다.
(보충: 이 문제에 대한 Anthropic의 투명성은 높은 평가를 받을 만합니다. 그들은 AI 규약을 발표하고, 계속해서 논문과 블로그를 제작하며, 그 뒤에 있는 관행과 고려 사항을 공개했습니다. 비록 저는 그들과 견해가 다르지만, 그들의 기술적 역량과 이 어려운 공개 토론에 기꺼이 임하려는 의지에 매우 존경합니다. 이는 계속해서 인정받을 가치가 있습니다. 이 문제는 너무 중요하므로 파벌 대결로 전환되어서는 안 됩니다.)
댓글