요약:
앤드류 베일리(Andrew Bailey) BoE 총재도 최첨단 인공지능 기술이 제기하는 글로벌 위험에 대한 경고에 동참했습니다. Bailey는 현재 국제금융안정위원회(International Financial Stability Board) 의장직을 맡고 있습니다. 그는 국제 재무장관과 중앙은행 총재에게 보낸 두 페이지 분량의 서한에서 "최첨단" 인공 지능 모델이 "점점 더 정교한 자율성과 문제 해결 능력은 물론 위협 실행 능력"을 보여주고 있다고 말했습니다.
그는 이러한 모델이 '다양한 관할권에 걸쳐 확산될 수 있는' 사이버 혼란을 통해 고도로 상호 연결된 글로벌 금융 시스템을 해체할 수 있다고 경고했습니다.
이번 주 미국 노스캐롤라이나주에서 열리는 G20 재무장관 및 중앙은행 총재 회의를 앞두고 Bailey는 참석자들에게 다음과 같이 썼습니다. “최근 상황을 보면 많은 관할권에서 첨단 인공 지능 모델의 개발, 출시 및 배포를 관리하는 프로토콜을 아직 확립하지 않아 금융 부문과 더 넓은 분야가 직면한 위험이 악화되고 있다는 점도 주목하게 되었습니다.”
지난 몇 주 동안 많은 유명 기술 전문가들이 인공지능의 위험성에 대해 경종을 울려왔고, 베일리의 편지는 관련 우려를 더욱 악화시켰습니다. 이는 인공지능 위협에 공동 대응하기 위해 국제적 협력을 촉구했던 기존 입장과도 이어진다. 그는 이전에 시의 수장들에게 다음과 같이 말했습니다. "어떠한 국가도 오늘날 널리 퍼져 있는 국경을 넘는 시스템의 성격으로부터 스스로를 보호할 수 없습니다."
지난 달 Frontier Artificial Intelligence Laboratory의 1,367명의 연구원과 엔지니어가 공동으로 공개 서한을 발행했으며 이들 중 대부분은 OpenAI, Anthropic 및 Google DeepMind에서 왔습니다. 이 편지에는 매일 이 기술을 개발하는 데 참여하는 엔지니어들이 느끼는 우려 사항도 나와 있습니다.
공개 서한에는 "인공지능 기능의 발전은 관련 시스템을 이해하거나 제어하는 능력을 급속히 넘어설 가능성이 높습니다."라고 적혀 있습니다. 그런 다음 서한은 미국 정부에 "최첨단 자동화 인공 지능의 개발 속도를 의식적으로 제어하는 데 필요한 기술 및 거버넌스 도구를 개발하기 위한 국제적 노력"을 지원할 것을 촉구합니다.
또한 이달 초에는 OpenAI 직원들이 최첨단 인공 지능 에이전트가 훈련 환경을 탈출하여 전례 없는 해킹 캠페인을 시작하고 전 세계적인 패닉을 촉발하기 몇 주 전에 시스템에서 비정상적인 동작의 징후를 관찰했다는 사실이 밝혀졌습니다.
베일리는 이 주제를 금융 정책 영역으로 확장했습니다. 그는 계속해서 다음과 같이 말했습니다. "금융 시스템의 경우 현재 가장 시급한 우려는 최첨단 인공 지능이 사이버 위험에 미칠 수 있는 영향입니다. 프론티어 인공 지능은 사이버 위험의 속도, 규모 및 경제적 비용을 근본적으로 변화시켜 전체 시장에 대한 신뢰를 침식할 수 있으며, 특히 금융 시스템이 소수의 대형 제3자 서비스 제공업체에 크게 의존하는 경우에는 더욱 그렇습니다."
Bailey는 글로벌 금융 시스템의 보안 유지를 담당하는 모든 당사자에게 '안전하고 책임감 있는 모델 출시 및 배포를 지원하기 위해 전 세계적으로 적절한 조치를 취하는 것'에 우선순위를 둘 것을 촉구했습니다.
이 편지는 또한 채권 및 주식 시장에서 레버리지 사용 증가에 대한 Bailey의 우려를 다루었습니다. 그는 특히 인공지능 전망에 대한 투자자들의 낙관론이 집중된 금융 시장의 높은 가치 평가로 인해 레버리지 상승이 더욱 악화됐다고 말했습니다. 이러한 상황은 향후 시장 조정을 증폭시킬 수 있습니다.
따라서 나는 큰 충격이나 충격의 조합이 동시에 여러 취약점을 유발할 수 있다는 점을 우려하고 있습니다."라고 Bailey는 썼습니다.
베일리는 2020년 3월부터 영란은행 총재를 맡았으며 이전에는 영국의 두 주요 금융 규제 기관인 금융행위감독청(Financial Conduct Authority)과 건전성 감독청(Prudential Regulatory Authority)을 이끌었습니다. 그는 지난해 금융안정위원회 위원장으로 선임됐다.
스위스 바젤에 본부를 둔 금융안정위원회(Financial Stability Board)는 금융 안정성을 유지하기 위한 효과적인 규제 규칙과 정책을 수립하는 것을 목표로 국제 수준에서 다양한 국가의 금융 규제 기관과 국제 표준 설정 기관의 업무를 조정하는 일을 담당합니다.
댓글