요약:
10년 전, 알트만은 뉴요커에게 총과 금, 항생제, 방독면을 준비했고, 비행기로 날아갈 수 있는 캘리포니아주 빅서에 땅도 남겼다고 말했습니다. 10년 후, OpenAI의 대표는 왜 모두가 AI로 인한 위험을 받아들여야 하는지 대중에게 설명하고 있습니다.
10월 4일 로이터 통신에 따르면 Altman은 인터뷰에서
AI의 막대한 이점을 누리고 기술 사용에 있어 사람들의 자율성을 유지하려면 사회가 해커 공격, 사기, 기술 남용과 같은 일부 "나쁜 일"의 발생을 용인해야 한다고 주장했습니다.
대중에게 위험을 감수하라고 촉구하는 동시에 자신을 위한 후퇴를 비밀리에 준비하는 것은 울트라맨만의 독특한 작전이 아니다. 월스트리트저널 등 언론 보도에 따르면 앤트로픽 초기 직원 중 일부는 'AI에 문제가 있을 때' 신속하게 대피할 수 있도록 미국 오지의 토지 구입도 고려하고 있다고 한다.그들은 기술이 세상을 바꿀 수 있다고 굳게 믿고 있지만, 통제력 상실로 인한 결과에 대처하지 못할 것이라는 두려움을 갖고 있습니다.
기자회견에서 더 나은 미래를 설명하면서 직접 시대의 액셀 버튼을 누른 이들은 광야에 비밀리에 지하 요새를 쏟아부었다. 요새 밖에는 무슨 일이 일어나고 있는지 전혀 모르고, 그 일이 일어나는 것을 막을 수도 없는 평범한 사람들이 있습니다.
호화 벙커 속 탈출 경로
하와이 섬 카우아이에서 Meta 창립자인 Mark Zuckerberg는 자신의 Koolau Ranch를 위해 높은 울타리를 만들고 있습니다.
와이어드 매거진은 계획 문서를 검토한 결과 저택에 약 465㎡ 규모의 지하 대피소를 건설할 계획이라는 사실을 알아냈습니다. 이 대피소는 통로를 통해 거주지를 연결할 뿐만 아니라 특별히 탈출구도 설치할 예정입니다.
주커버그는 전체 프로젝트(부지 구입 포함)에 2억 7천만 달러 이상을 지출한 것으로 추정됩니다. 그 후 그는 인근 토지를 추가로 구입하여 카우아이의 토지 보유 규모를 2,300에이커 이상으로 확장했습니다.
부자들은 하와이 너머 멀리 있는 피난처를 찾고 있습니다. 투자 재벌 피터 티엘(Peter Thiel)은 2015년 초 뉴질랜드 와나카 근처에 193헥타르의 토지를 구입했습니다. 전 페이스북 제품 매니저인 안토니오 가르시아 마르티네즈는 작은 섬의 산림지를 구입해 발전기, 태양광 패널, 탄약을 설치했습니다.
투자자인 Reed Huffman은
그가 알고 있는 실리콘 밸리 억만장자 중 절반 이상이 일종의 대피 준비를 했다고 The New Yorker에 추정했습니다.
초창기에는 실리콘밸리 부자들이 단지 팬데믹이나 사회 불안에 대한 우려 때문에 땅을 샀다면, AI 신흥 기업들 사이에서는 이런 대비가 더욱 타깃화되고 시급해졌습니다.
2023년 여름, OpenAI 공동 창립자이자 당시 최고 과학자였던 Ilya Suzkver는 새로운 연구자들과의 회의에서 AGI(일반 인공 지능)를 출시하기 전에 핵심 과학자들의 안전을 보호하기 위해 벙커를 건설해야 한다고 직설적으로 밝혔습니다. 그는 입국이 전적으로 자발적이라고 덧붙였습니다.
비록 제안에 불과했지만, 이 말을 했을 때 그는 이미 자신이 개발한 기술에 대해 어떤 두려움을 느끼고 있었습니다.
그들은 무엇을 두려워하는가
하라리는 "인류의 간략한 역사"에서 "프랑켄슈타인 예언"에 관해 이야기하면서 창조에 대한 인류의 궁극적인 두려움을 지적했습니다.
인간이 주인으로 남는다면 우리는 더욱 발전된 미래를 기꺼이 상상합니다. 우리 자신을 훨씬 능가하는 능력을 가진 존재를 창조하면, 우리는 미래를 결정하는 능력을 상실하게 될 수도 있습니다.
최첨단 AI 연구자들에게 '훈련한 모델을 이해할 수 있는지, 자신의 행동을 제약할 수 있는지'는 더 이상 철학적 논의가 아니라 직장에서 매일 직면해야 하는 무서운 현실입니다.
OpenAI와 Anthropic에서 일했던 연구원인 Jacob Coxon은 직장을 그만둔 후 BBC에 동료들이 AI 개발 속도를 두려워하지만 여전히 이러한 우려를 안고 매일 계속해서 작업을 발전시키고 있다고 인정했습니다.
최근 뉴욕 시의회 청문회에서 여러 AI 회사의 전직 직원들은 기술 회사들이 '먼저 빠르게 개발하고 나중에 문제를 해결'하는 무모한 기업가적 접근 방식을 따르고 있다고 비판하면서 더 큰 감독을 요구했습니다.
OpenAI 수석 과학자인 Jakub Pachotsky도 연구원들이 여전히 모델을 완전히 이해하고 모니터링할 수 없다는 점을 인정하는 기사를 썼습니다.
그가 가장 걱정하는 점은 충분히 강력한 AI가 육체가 없어도 컴퓨터 네트워크 시스템을 통해 현실 세계에 피해를 줄 수 있다는 점이다.
이러한 우려는 결코 근거가 없는 것이 아닙니다.
7월 OpenAI는 이러한 문제에 직면했습니다. 내부 네트워크 보안 테스트에서 회사는 모델이 어려운 작업을 시도하도록 하고 공용 제품에 일반적으로 사용되는 일부 보호 기능을 낮췄습니다. 그런 다음 모델은 격리 조치를 우회하고 외부 네트워크에 진입하여 개발자가 모델과 데이터를 공유할 수 있는 Hugging Face 플랫폼에 침입했습니다.
OpenAI가 나중에 조사한 결과, 모델은 테스트를 완료하기 위해 연구원이 승인하지 않은 채널을 통해 정보를 교환했으며, 작업 범위를 벗어난 시스템에도 진입한 것으로 나타났습니다.
앤트로픽(Anthropic)도 지난 7월에도 비슷한 사건을 폭로했다. 물론 이러한 사고는 연구자들이 예측한 인류의 멸종과는 아직 거리가 멀다.
그러나 그들은 모델이 어떻게 미리 결정된 경계를 쉽게 넘어 실제 회사와 데이터에 접근할 수 있는지 직접 목격했습니다.
그러나 위험을 안다고 해서 언제 멈춰야 할지 합의할 수 있다는 의미는 아닙니다.
브레이크를 적용하기로 결정한 사람
Anthropic은 보안 조치가 유지되지 않을 경우 더 강력한 모델의 훈련을 중단하겠다고 맹세한 적이 있습니다.
2023년 회사는 엄격한 '책임 있는 확장 정책'을 발표했습니다. 그러나 2026년 초에 경영진은 이러한 정책 세트를 다시 작성하여 '공개 로드맵 및 외부 검토'로 완화했을 뿐만 아니라 부록에 치명적인 '경쟁 조건'을 추가했습니다.
개발을 지연하는 것은 회사가 자신이 훨씬 앞서 있고 경쟁업체가 곧 따라잡지 못할 것이라고 믿는 경우에만 필요합니다. 더 이상 멀지 않으면 지연 약정이 자동으로 만료됩니다.
최고 과학 책임자인 Jared Kaplan의 설명은 간단합니다. 경쟁업체가 여전히 발전하고 있다면 일방적으로 이를 중단해도 누구도 보호할 수 없습니다.
이 일련의 논리는 모든 AI 거인에게 완벽한 면책 조항을 제공합니다.
상대가 멈추지 않기 때문에 첫 번째 조치를 취하는 것은 모든 인류를 보호하기 위한 "필요한 조건"입니다. 결과적으로 그들은 정당하게 가속을 계속하기 위해 위험을 부인할 필요조차 없습니다.
동시에 자본의 열풍도 불길에 기름을 붓고 있습니다. 보고서에 따르면 Anthropic은 2조 달러 이상의 잠재적 가치를 지닌 기업 공개를 준비하고 있습니다.
안전과 성장 사이에서 직원, 주주, 비즈니스 파트너는 모두 같은 고속 전차에 묶여 있습니다.
가치 신화를 유지하기 위해 그들은 기존 모델을 사용하여 차세대 개발을 시작했습니다. Anthropic은 Claude가 회사의 AI 연구 개발 작업의 26%에 참여했다고 밝혔습니다.
관리자가 전혀 브레이크를 걸지 않은 것은 아닙니다. 예를 들어 OpenAI는 모델이 인증 및 행동 투명성 측면에서 표준을 충족하지 않았기 때문에 GPT-6.1 Astra의 출시를 일시적으로 취소했습니다. 그러나 이번 제품 차원의 일시적인 철수만으로는 내부 라인 분쟁을 잠재우기에는 역부족이다.
최근에 떠난 OpenAI 보안 팀원인 David Robinson은 이러한 극단적인 '인지 부조화' 상태를 다음과 같이 말했습니다.
회사에서는 모델이 얼마나 위험한지 매일 경고하지만 내부적으로는 이러한 모델을 끊임없이 훈련하고 배포합니다.
양측은 '다음에는 어느 정도의 위험을 감수해야 하는가'라는 근본적인 문제를 놓고 화해할 수 없는 균열을 일으켰다.업계 경영진이 공개적으로 '조정된 경기 둔화'를 요구하거나 다양한 국가에서 정부 규제를 추진하겠지만, 절대적 신뢰와 의무적 검증이 결여된 상업 전장에서는 누구나 언제든지 다음과 같은 익숙한 변명으로 돌아갈 수 있습니다.
"우리가 멈추면 다른 사람들도 멈추지 않을 것입니다."
소수의 사람들이 기술을 사용하여 모든 사람의 삶을 바꿀 수 있는 능력을 갖고 있고 스스로 보호소를 짓는 데 우선순위를 둘 수 있는 재정적 자원을 갖고 있다면 우리는 '그들이 무엇을 두려워하는가'라고 궁금해할 수는 없지만 질문해야 합니다. 왜 그들은 모든 인류가 그들의 모험에 대한 비용을 지불하도록 합니까?
개인 벙커를 어디에 건설할지 결정할 수는 있지만, 어느 정도의 위험을 감수해야 하는지 모든 사람을 대신하여 결정할 권한은 없습니다. 특히 그들 자신이 결과를 완전히 판단할 수 없는 경우에는 더욱 그렇습니다.
수년 전, 하라리는 '인류의 간략한 역사'의 말미에서 다음과 같이 말했습니다.
"당신은 신의 능력을 갖고 있지만 무책임하고 탐욕스럽고 자신이 원하는 것이 무엇인지조차 모릅니다. 세상은 위험하고 이보다 더한 것이 아닌지 두렵습니다."
댓글