'인공지능 시대의 인권'을 주제로 한 새로운 선언문이 이번 주 발표됐다. 이 선언문은 급속도로 발전하는 인공지능에 맞춰 인간 중심의 접근을 촉구하며 다양한 정치적 입장을 가진 재계, 종교계, 정부, 학계의 주요 인사들이 모여 서명했다. 서명자에는 전 트럼프 행정부 수석 고문 Steve Bannon, 보수 평론가 Glenn Beck, 억만장자 기업가 Richard Branson, 소비자 운동가 Ralph Nader, 전 Biden 행정부 국가 안보 고문 Susan Rice 및 노벨상 수상자 Daron Acemoglu가 포함됩니다.
친인간 AI 선언(Pro-Human AI Declaration)이라 불리는 이 문서는 수요일 공개돼 40개 이상의 기관으로부터 지지를 받았다. 인공지능이 점점 더 강력해지고 어떤 면에서는 '인간과 유사한' 수준에 가까워질수록 인간의 중요성과 그 가치는 무시할 수 없다는 점을 강조한 것이다. 선언문의 서문에서는 현재 주요 기업들이 인공지능 시스템을 개발하고 배포하기 위해 경쟁하고 있으며 인류는 "갈림길"에 서 있다고 지적합니다. 하나의 길은 "대체를 목표로 하는 경주"입니다. 인간은 창조자, 컨설턴트, 간병인, 동반자 등의 역할을 기계로 대체하고 결국 대부분의 전문적이고 의사 결정 위치에서 알고리즘에게 자리를 내주고, 권력은 제한되지 않은 소수의 기관과 기계의 손에 계속 집중됩니다.
선언문은 또한 인간의 잠재력을 감소시키기보다는 향상시키고, 개인에게 권한을 부여하고, 인간의 존엄성을 증진하고, 개인의 자유를 보호하고, 가족과 지역 사회의 유대를 강화하고, 자치권을 보호하고, 전례 없는 건강과 번영을 창출하는 데 도움이 되는 "신뢰할 수 있고 제어 가능한 인공 지능 도구"를 통해 "또 다른 더 나은 길"을 제안합니다. 초안 작성 작업은 기독교 리더십 회의(Christian Leadership Conference), 미국 교사 연맹(American Federation of Teachers), 미국 진보 민주당(Progressive Democrats of America)을 포함하여 광범위한 정치적, 사회적 범위를 반영하여 정치적 스펙트럼에 걸쳐 다양한 조직에서 수행되었습니다.
보도에 따르면 비영리단체 생명미래연구소는 관련 당사자들을 소집하고 이번 선언문 초안 작성 과정을 추진하는 데 앞장섰다. 이 기관은 첨단 기술이 가져올 수 있는 대규모 위험을 피하면서 인류에게 이익이 되는 방향으로 첨단 기술 개발을 안내하기 위해 최선을 다하고 있습니다. 선언문의 내용은 여러 차례의 오프라인 회의를 거쳐 다듬어졌고, 올해 1월 뉴올리언스에서 열린 대규모 비준회의에서 최종 확정됐다.
선언문은 '인류의 지배력 유지 보장', '인공지능 기업의 책임과 책무' 등의 제목으로 5가지 주요 주제로 구성됐다. 각 주요 주제 아래에는 서명자가 옹호하는 "인간 지원" 인공 지능 개념을 설명하기 위한 보다 자세한 제안도 나열되어 있습니다. 예를 들어 선언문은 '권력 집중 방지'를 주제로 '인공지능 독점 반대', '주요 기술 변혁에 대한 민주적 의사결정권 유지', '번영 공유' 등 구체적인 원칙을 제시하며, 핵심 기술에 대한 통제권이 소수의 거대 기술 기업의 손에 집중될 수 없음을 강조했다.
인공지능의 선구자인 조슈아 벤지오(Joshua Bengio)도 서명자 중 하나로 기술 커뮤니티에서 선언문의 대표성을 더욱 강조했습니다. Humanity First의 선임 연구원이자 Steve Bannon의 팟캐스트 "The Situation Room"의 전 기술 편집자였던 Joe Allen은 인터뷰에서 이번 선언이 "수년간 인공 지능의 위험성과 부정적인 영향에 대해 생각해 온 지식인과 활동가 간의 어려운 협상의 산물"이라고 말했습니다. 그의 견해에 따르면 참가자들은 "상위에는 합리적인 기술 낙관론자들이 있고, 최하위에는 우리와 같이 약간 '반기술적'인 사람들이 있다"는 등 넓은 축에 걸쳐 있습니다.
선언문에서 옹호하는 핵심 이니셔티브 중 하나는 인공지능 거버넌스에 폭넓게 참여한다는 원칙을 고수하는 것입니다. Allen은 언론의 자유나 자유 그 자체와 마찬가지로 "이상적으로는 자신의 이념적 반대자를 포함하여 모든 사람이 잠재적으로 '반인간'인 기술에 대응하는 방법에 대해 발언권을 가져야 한다"고 지적했습니다.
이번 선언의 배경에는 최근 인공지능 시스템 성능이 '비약적인' 향상됐다는 점이다. 다양한 대형 모델이 단기간에 일부 소프트웨어 개발 위치를 재구성하거나 심지어 대체했으며, 수학과 같은 분야의 테스트에서 인간 설계 벤치마크의 상한선을 지속적으로 갱신하여 광범위한 고용 및 안전 문제를 촉발했습니다. “AI가 인간을 통제하는 것이 아니라 인간이 인공지능을 통제”하도록 하는 임무를 맡은 워싱턴 소재 옹호 단체인 안전한 인공 지능 연합(Alliance for Safe Artificial Intelligence)의 이사인 브렌던 스타인하우저(Brendan Steinhauser)는 “기술 거대 기업들은 인간보다 똑똑한 인공 지능을 구축하기 위해 경쟁하고 있습니다.”라고 경고했습니다. 그는 인공지능이 실리콘밸리 CEO뿐만 아니라 인류에게 진정으로 이익이 되기를 원한다면 “우리는 손을 잡고 우리의 미래를 지켜야 한다”고 강조했습니다.