요약:
최첨단 인공지능이 적극적으로 개발 속도를 늦춰야 하는지를 둘러싼 논쟁이 최근 급속도로 가열되고 있습니다. Anthropic CEO Dario Amodei는 전체 AI 업계에 고급 모델 기능의 속도를 늦추라고 공개적으로 촉구했으며 OpenAI CEO Sam Altman과 xAI CEO Elon Musk는 나중에 지지를 표명했습니다.
그러나 미국의 기술 투자자이자 대통령 과학기술 자문위원회 위원장인 David Sacks는 OpenAI와 Anthropic이 현재의 AI 개발 속도가 브레이크를 밟아야 할 만큼 위험하다고 정말로 믿는다면 스스로 연구 개발을 늦출 수 있으며 업계 조정, 독점 금지 면제 또는 정부 승인 메커니즘을 추가 조건으로 부과해서는 안 된다고 믿으며 이 계획을 날카롭게 비판했습니다.
Amodei는 이전에 최첨단 AI 기능이 주요 보안 위험을 초래할 수 있는 단계에 빠르게 접근하고 있다고 경고하는 기사를 발표했습니다. 그는 모델이 현재 속도로 계속 발전하고 보안 메커니즘이 이를 따라잡을 수 없다면 향후 6~12개월 내에 AI 에이전트 클러스터가 대규모로 인터넷을 제어하고 사이버 공격을 시작하거나 기타 심각한 피해를 입히는 데 사용될 수도 있다고 믿습니다.
아모데이는 '첨단 AI 속도를 늦추는 것'이라는 일련의 계획을 제안했다. 여기에는 독립적인 제3자 보안 평가 기관이 AI 기업에 깊숙이 들어가 회사 직원과 가까운 권한으로 모델 보안을 지속적으로 점검할 수 있도록 허용하는 것이 포함된다. 기업이 경쟁 압력으로 인해 지속적으로 보안 임계값을 낮추는 것을 방지하기 위해 주요 AI 연구소가 보안 표준을 조정하도록 합니다. 미국과 동맹국 간의 긴밀한 협력을 촉진하고 궁극적으로 중국을 포함한 다른 국가와 AI 보안 문제를 논의합니다.
이 이니셔티브는 OpenAI의 지원을 빠르게 얻었습니다. 알트만 대표는 AI 산업이 첨단 모델 개발을 늦춰야 한다는 Amodei의 견해에 동의하며, 이 문제가 최근 OpenAI 내에서 중요한 논의 주제가 됐다고 말했다. 머스크는 공개적으로 지지 의사를 표명하기도 했다. 짧은 시간 안에 세계에서 가장 중요한 몇몇 AI 기업들이 '적절한 속도 저하' 문제에 대해 보기 드문 합의에 도달했습니다.
그러나 Sacks는 여기에 명백한 논리적 문제가 있다고 믿습니다.
그의 관점에 따르면 Amodei와 Altman이 정말로 차세대 AI 모델이 속도를 늦춰야 할 심각한 위험을 안고 있다고 믿는다면 두 회사는 정부 승인을 기다릴 필요도 없고 경쟁사를 설득할 필요도 없으며 새로운 법적 틀도 필요하지 않습니다. 현재 가장 발전된 AI 개발 회사로서 R&D 및 배포 속도를 직접적으로 줄일 수 있습니다.
Sacks는 이들 회사가 일부 AI 시스템이 인간을 위협할 만큼 위험하다고 정말로 믿는다면 '가장 쉬운 방법'은 이러한 시스템을 계속 개발하거나 출시하지 않는 것이라고 제안하기도 했습니다. 그는 정부에 새로운 규제 시스템을 구축하라고 요구하기보다는 최첨단 AI 연구개발 역량을 갖춘 기업이 스스로 조치를 취하도록 하는 것이 더 낫다고 믿는다.
Sacks가 실제로 반대하는 것은 업계 조정 및 규제 조치와 관련된 Amodei 계획의 일부입니다. 그는 오픈AI, 앤트로픽 등 경쟁사들이 정부를 통해 독점금지 면제를 받아 업계 전체가 어느 속도로 AI를 개발해야 할지 공동으로 결정한다면 사실상 '카르텔'로 발전할 수 있다고 경고했다.
Sacks의 견해로는 몇몇 주요 AI 기업이 첨단 AI의 개발 속도를 공동으로 설정하도록 허용하면 보안 목표와 완전히 다른 결과가 나올 수 있습니다. 기존 거대 기업은 이러한 메커니즘을 통해 경쟁을 제한할 수 있을 뿐만 아니라 규제 시스템을 사용하여 후발 기업의 시장 진입 문턱을 높여 선두 위치를 더욱 공고히 할 수도 있습니다.
이것이 색스 비판의 핵심이기도 합니다. 그는 단순히 AI 산업의 속도를 늦추는 것에 반대하는 것이 아니라 기업이 정말로 속도를 늦출 의향이 있다면 정부에 대가로 일종의 법적 보호를 요구하는 대신 스스로 해야 한다고 믿습니다.
색스는 'AI 식품의약청'과 유사한 사전 승인 시스템 구축에도 반대한다. 그는 첨단 AI 모델이 공식적으로 출시되기 전에 정부 기관이 이들 제품을 하나씩 승인할 필요가 없다고 본다. 새로운 사전 라이선스 메커니즘을 확립하는 것보다 기존 제조물 책임 시스템에 의존하여 AI 기업이 제품과 그 결과에 대한 법적 책임을 지도록 하는 것이 더 좋습니다.
예를 들어, AI 모델이 심각한 사이버 공격에 사용되거나 자체 결함으로 인해 직접적으로 큰 피해를 초래하는 경우 모델 개발 회사는 이에 상응하는 제조물 책임을 부담해야 합니다. Sacks는 이러한 잠재적인 법적, 경제적 결과 자체가 AI 회사가 위험을 통제하는 데 중요한 제약이 될 수 있다고 믿습니다.
그는 또한 자본 시장에도 제약 효과가 있다고 믿습니다. 특정 AI 기업의 제품이 안전 문제, 예측할 수 없는 동작, 대형 사고 등을 자주 겪을 경우 기업 평판, 고객 신뢰, 시장 가치에 직접적인 영향을 미칠 수 있다. 따라서 기존 법체계에서 완전히 독립된 AI산업에 대한 별도의 승인체계를 구축할 필요가 없다.
동시에 Sacks는 일부 AI 안전성 평가 메커니즘의 독립성에 대해서도 의문을 제기했습니다. 그는 Anthropic이 사용하는 보안 평가 기관에 대해 구체적으로 언급했으며 평가 기관과 평가 대상 기업 사이에 투자 관계, 인사 관계 또는 기타 이해 관계가 있는 경우 이 평가가 진정으로 독립적인지 여부는 추가 논의가 필요하다고 믿었습니다.
이번 논란은 매우 민감한 시기에 일어났다. 지난 몇 달 동안 AI 산업 내 보안 위험에 대한 우려가 크게 높아졌습니다. Anthropic은 최근 AI 시스템 남용, 네트워크 공격 기능, 보안 보호와 관련된 일련의 사건을 공개했습니다. 사내 연구원들도 AI 개발 속도에 대해 공개적으로 우려를 표명한 바 있다.
이 가운데 한 인류학 연구자는 최근 사임하면서 AI 산업이 극도로 위험할 수 있는 기술을 지나치게 빠른 속도로 발전시키고 있다고 공개적으로 경고했다. Anthropic의 다른 보안 연구원들도 미래에 AI가 통제를 벗어날 위험에 대해 심각한 우려를 표명했습니다.
따라서 Amodei의 속도 저하에 대한 공개 요구는 고립된 정책 성명이 아니라 전체 AI 보안 논쟁이 더욱 확대된 결과입니다.
그러나 기업이 정말로 속도를 늦추려고 하더라도 실제 운영은 보이는 것보다 훨씬 더 복잡합니다. OpenAI, Anthropic, Google DeepMind, xAI 등 AI 기업들이 치열한 경쟁을 펼치고 있습니다. 어떤 기업이 일방적으로 R&D를 늦추면 경쟁사가 속도를 높이고 모델 역량, 시장 점유율, 자본 시장에서 우위를 점할 기회를 잡을까 봐 걱정될 수 있습니다.
이것은 실제로 전형적인 "죄수의 딜레마"를 형성합니다. 모든 AI 회사가 동시에 속도를 늦추면 업계 전체가 보안 조치를 개선하는 데 더 많은 시간을 벌 수 있습니다. 그러나 경쟁자들이 계속 발전하는 동안 한 회사만 속도를 늦추면 적극적으로 속도를 늦추는 회사는 상업적, 기술적 손실을 입을 수 있습니다.
이것이 바로 OpenAI가 업계 조정이 미국 독점금지법을 위반할지 여부에 이미 관심을 기울이기 시작한 이유입니다. 보도에 따르면 OpenAI는 AI 개발을 늦추기 위한 업계 조정이 합법적인지에 대해 미국 국회의원들로부터 명확한 의견을 구했습니다. 여러 경쟁업체가 공동으로 첨단 모델 개발을 늦추기로 결정하면 이러한 조정 자체가 독점금지법적 문제를 촉발할 수 있기 때문입니다.
결과적으로 매우 까다로운 질문이 제기됩니다. AI 보안을 개선하기 위해 기업은 일반적으로 독점금지법으로 제한되는 경쟁사 간의 조정을 허용해야 합니까?
서포터들은 각 AI 회사가 속도를 늦추는 것만으로도 경쟁에서 불리해질 것이라는 점을 알고 있다면 일종의 산업 수준의 조정을 통해서만 모든 회사가 진정으로 동시에 브레이크를 적용할 수 있다고 믿습니다.
Sacks는 이것이 대규모 AI 회사가 보안 문제를 이용해 특별한 규제 조치를 취하는 이유가 될 수 있다고 믿습니다. 그는 정부가 여러 주요 기업에 독점 금지 면제를 통해 조정하도록 허용하면 이 메커니즘이 결국 "보안 조정"에서 시장 경쟁을 제한하는 도구로 발전할 수 있다고 우려합니다.
동시에 AI 둔화에 대한 미국 정부의 태도와 이들 기술 기업의 주장에는 분명한 차이가 있습니다. 트럼프 미국 대통령은 최근 AI가 특정 '가드레일'을 설정할 수 있다고 믿지만 미국이 위험에 대한 과도한 우려 때문에 AI 개발을 늦추는 것을 원하지 않는다고 공개적으로 밝혔습니다. 그는 현재 AI 분야에서는 미국이 중국을 선도하고 있다”며 “AI를 이긴 사람이 미래의 승리자가 될 것”이라고 강조했다. 따라서 미국은 기술 리더십을 쉽게 포기할 수 없다.
이는 또한 AI 보안 문제를 중-미 기술 경쟁과 직접적으로 연결시킵니다.
아모데이 자신도 중국과 다른 나라들이 계속 가속화하는 동안 미국이 일방적으로 AI 개발 속도를 크게 늦추면 미국이 기술적 우위를 잃을 수 있다는 점을 인정했습니다. 따라서 그가 제안하는 것은 미국 기업에 AI 연구개발을 무기한 중단하라고 요구하는 것이 아니라 주요 국가와 기업이 경쟁 우위를 유지하면서 보안 조치에 시간을 벌 수 있는 일종의 조정 메커니즘을 형성할 수 있기를 바라는 것입니다.
문제는 현재 모든 국가의 속도가 동시에 느려지는 것을 보장하는 메커니즘이 없다는 것입니다.
이 역시 업계의 대규모 침체를 반대하는 사람들에게 가장 중요한 이유 중 하나가 되었습니다. AI가 국가 전략 경쟁의 중요한 부분이 된다면, 경쟁자들이 스스로 보안 시스템을 개선할 때까지 자발적으로 멈추고 기다릴 것이라고는 어느 쪽도 믿기 어렵습니다.
따라서 Sacks, OpenAI, Anthropic 사이의 논쟁은 실제로 "AI가 얼마나 빨리 개발되어야 하는가"라는 단순한 기술적 문제를 훨씬 넘어 더 복잡한 산업 정책 선택을 포함합니다. 안전 조정이 합법적인 업계 협력으로 간주되어야 하는지, 아니면 경쟁을 제한하는 카르텔로 발전할 수 있는지; AI 사고를 사전 규제로 피해야 하는지, 사고 후 비용을 제조물 책임을 통해 기업이 부담해야 하는지.
현재 Sacks는 OpenAI와 Anthropic이 주도적으로 속도를 늦추는 데 반대하지 않는 것 같습니다. 두 회사가 첨단 AI의 위험성이 연구 개발을 지연시킬 만큼 심각하다고 정말로 믿는다면, 그렇게 할 수 있도록 지원할 수 있음도 분명히 밝혔습니다.
그러나 그의 조건도 분명했습니다. 속도를 늦춰야 한다고 생각한다면 스스로 속도를 늦추고 이를 정부 승인, 독점 금지 면제 또는 특별 규제 보호와 맞바꾸지 말라는 것입니다.
이 논쟁의 실제 결과는 궁극적으로 OpenAI와 Anthropic이 다음에 무엇을 하느냐에 달려 있을 수 있습니다. 특별한 법적 대우를 받지 않고 첨단 모델의 개발 속도를 늦추는 데 정말로 앞장서고 있다면 'AI 속도를 늦추는 것'이 실제 보안 조치로 간주될 가능성이 더 높습니다. 만약 궁극적으로 형성되는 것이 소수의 선두 기업들이 공동으로 규칙을 제정하고 후발 기업의 진입을 제한하는 규제 시스템이라면, '규제 포착'과 '카르텔'에 대한 색스의 우려는 더욱 주목받을 것이다.
AI 모델 기능이 지속적으로 빠르게 향상됨에 따라 '가속 또는 감속'에 대한 논쟁은 분명히 곧 끝나지 않을 것입니다. 이는 향후 몇 년 내에 미국과 글로벌 AI 정책의 핵심 모순 중 하나가 될 가능성이 높습니다.
댓글