요약:
인공지능 업계에서는 '개발 속도를 늦춰야 하는가'를 둘러싼 논쟁이 급속도로 가열되고 있으며, 이 논의의 중심에는 중국이 밀리고 있다. 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO는 최근 공개적으로 전 세계가 인공지능 개발 속도를 제한하려 한다면 가장 큰 현실적 문제는 기술 자체가 아니라 중국 등 경쟁업체가 계속해서 가속화할 가능성을 어떻게 처리할 것인가라고 공개적으로 밝혔다.
아모데이는 언론과의 인터뷰에서 위와 같은 입장을 밝혔다. 얼마 전 그는 보안 연구, 거버넌스 프레임워크 및 위험 제어에 더 많은 시간을 확보하기 위해 인공 지능 업계에 최첨단 모델의 기능 개선 속도를 적극적으로 늦추도록 촉구하는 장문의 기사를 발표하여 광범위한 관심을 끌었습니다. 그는 최근 몇 년간 대규모 모델의 발전이 많은 사람들의 기대를 크게 뛰어넘었다고 믿습니다. 특히 인공지능이 인공지능 연구개발에 참여하는 추세가 등장하고 기술적 능력의 향상이 가속화되고 있는 이후에 더욱 그렇습니다.
그러나 아모데이는 이 아이디어의 실제 타당성에 대해 이야기하면서 전체 계획이 직면한 '가장 어려운 딜레마'가 중국이라고 인정했다. 그는 일부 국가나 기업만 속도를 늦추고 다른 나라는 계속 속도를 늦추면 적극적으로 속도를 늦추는 쪽이 기술 경쟁, 경제적 이익, 심지어 군사적 이점까지 불리할 수 있다고 말했습니다.
아모데이는 장기적으로 국제사회가 협력하여 무질서한 경쟁을 피하고 안전 경계를 빠르게 돌파할 수 있는 기술 역량을 촉진하기 위해 인공지능 개발을 위한 일종의 '속도 제한 메커니즘'을 구축해야 한다고 믿습니다. 하지만 첨단 인공지능 역량을 최초로 확보하는 데 따른 전략적 이점이 크기 때문에 이러한 협력은 극히 어렵다고도 말했습니다. 그는 그러한 글로벌 조정이 실제로 달성될 수 있을지조차 확신할 수 없다고 인정하지만 여전히 이를 위해 노력할 필요가 있다고 믿습니다.
이번 발언은 인공지능 안전성 문제가 지속적으로 주목받고 있는 시점에 나온 것입니다. 최근 Anthropic과 OpenAI의 많은 연구자들은 인공지능 시스템의 개발 속도가 보안 연구의 진행 속도를 앞지르고 있다는 우려를 공개적으로 표명했습니다. 일부 연구자들은 앞으로 몇 년 안에 심각한 통제력 상실의 위험이 대중이 일반적으로 인식하는 것보다 더 높을 수 있다고 경고하기도 했습니다.
Amodei가 경기 둔화 선언을 하기 전에 인류학 연구원인 Jacob Coxon은 이미 퇴임을 선언하고 AI 산업의 현재 발전 궤적을 공개적으로 비판했습니다. 그는 주요 AI 연구소가 너무 높은 위험을 감수하고 있으며 이러한 위험이 인류 사회 전체에 영향을 미칠 수 있다고 믿습니다.
동시에 최근 몇 년간 중국 인공지능 산업의 발전 속도는 미국 기술 업계에서도 큰 관심을 끌었습니다. 지난 몇 달간 다수의 중국 인공지능 기업이 출시한 신모델이 미국 선두 제품과의 격차를 지속적으로 좁혀가고 있으며, 실리콘밸리에서는 글로벌 AI 경쟁 구도 변화에 대한 논의가 더욱 심화되고 있다.
Amodei의 연설과 동시에 중국 지도자들은 BRICS 정상회담에서 합의 기반의 글로벌 인공지능 거버넌스 프레임워크 구축을 촉구하고 인공지능을 위한 오픈소스 협력 시스템 구축을 지지했습니다. 이로 인해 인공지능 거버넌스 문제는 과학기술 분야에서 국제정치, 외교 차원으로 점차 확대됐다.
분석가들은 현재 인공지능 산업이 전례 없는 모순에 직면해 있다고 지적한다. 한편으로는 점점 더 많은 기업과 연구자들이 감독을 강화하고 최첨단 역량의 확장을 늦추도록 요구하고 있습니다. 반면에 국가들은 전략적으로 중요한 것으로 간주되는 이 기술 경쟁에서 경쟁사보다 뒤처지는 것을 꺼려합니다.
동시에 미국 최고의 인공지능 기업 두 곳인 앤트로픽(Anthropic)과 오픈AI(OpenAI)가 상장 준비 단계에 있다. 자본 시장, 정부 규제, 여론의 관심이 계속 높아지면서 인공지능이 계속 전속력으로 발전해야 할지 아니면 선제적으로 속도를 늦춰야 할지에 대한 논쟁은 앞으로 몇 달 동안 더욱 확대될 것으로 예상됩니다.
아모데이에게 문제의 핵심은 기술이 더 강해질 수 있느냐는 것뿐 아니라, 기술이 계속해서 강해지면 인류 사회가 충분히 빠른 속도로 그에 상응하는 규칙을 정립할 수 있느냐다. 그는 모든 현실적인 과제 중에서 중국과 관련된 경쟁을 어떻게 다룰 것인가가 이번 글로벌 인공지능 거버넌스 논의에서 여전히 가장 복잡하고 답하기 어려운 문제라고 믿는다.
관련 기사:
Anthropic은 여러 중국 AI 회사가 대규모 증류를 하고 있다고 비난합니다. Alibaba, Dark Side of the Moon 및 DeepSeek은 수천만 건의 상호 작용으로 기소되었습니다.
댓글