요약:
OpenAI와 Anthropic에서 일했던 전직 인공지능 연구원인 Jacob Coxon은 최근 글로벌 인공지능 경쟁에 대해 강력한 경고를 발표했습니다. 그는 최근 인터뷰에서 중국이 OpenAI와 Anthropic에 정보 인력을 배치했다는 사실을 "90% 확신한다"고 말했으며, 초지능 연구 및 개발 경쟁이 계속 심화됨에 따라 여러 국가의 정보 기관이 최첨단 기술을 보유한 이들 기업을 무시하는 것이 거의 불가능하다고 말했습니다.
Coxon은 자신의 의견으로는 세계 최고의 인공지능 연구소가 지정학적 경쟁의 중요한 표적이 되었다고 말했습니다. 첨단 AI 기술은 향후 경제, 군사, 사이버 보안, 과학 연구 분야에 막대한 영향을 미칠 수 있으므로 전 세계 정부는 관련 정보를 확보하려는 강력한 인센티브를 갖고 있습니다. 그는 이러한 제도가 전혀 침투하지 않는다고 가정하는 것이 비현실적이라고 믿습니다.
Coxon은 보안 문제에 대한 우려를 표명하는 것 외에도 Anthropic 내의 문화적 세부 사항도 공개했습니다. 그는 많은 Anthropic 직원들이 스스로를 "개미"라고 부를 것이라고 밝혔습니다. 이 이름은 회사명 Anthropic의 약어 및 파생어에서 유래되었으며, 일부 직원들에게는 초지능이라는 목표를 공동으로 추구하기 위한 내부 아이덴티티로 간주되기도 합니다.
콕슨은 앞서 AI 산업의 방향을 공개적으로 비판해 큰 주목을 받은 바 있다. OpenAI와 Anthropic에서 다년간 근무한 연구원으로서 오랫동안 첨단 인공지능 시스템과 관련된 연구에 참여해 왔습니다. 그는 Anthropic을 떠난 후 일련의 공개 기사를 게재하여 업계가 초지능 연구 개발을 과도한 속도로 추진하고 있으며 안전 문제는 기술 진보에 걸맞은 관심을 받지 못했다고 비난했습니다.
그는 현재 선도적인 AI 기업들이 자기 개선 능력을 갖춘 초지능 시스템을 최초로 구축하기를 희망하며 치열한 경쟁에 빠져 있다고 믿습니다. 기술 리더십을 놓고 경쟁하기 위해 기업은 계속해서 연구 개발 속도를 높이고 있지만 업계에서는 미래 시스템이 항상 인간의 통제 범위 내에 있음을 보장하는 방법에 대한 성숙한 솔루션을 아직 찾지 못했습니다.
Coxon은 업계 핵심 연구자 중 일부가 향후 몇 년 안에 초인적인 지능 시스템의 출현이 먼 환상이 아니라 실제 발전 경로라고 진심으로 믿고 있다고 말했습니다. 그는 사람들이 일반적으로 관련 기술의 개발 속도와 잠재적 영향을 과소평가한다고 경고했습니다. 높은 수준의 자율성을 갖춘 시스템이 더 큰 기능을 얻으면 컴퓨터 시스템에 침입하고 중요한 인프라를 제어하며 실제 자원과 영향력에 접근할 수 있는 능력을 갖게 될 수 있습니다.
최근 초지능의 위험성을 둘러싼 논의가 계속 가열되고 있습니다. OpenAI, Anthropic 및 기타 주요 연구 기관의 많은 연구자와 관리자는 인공 지능이 가져올 수 있는 실존적 위험에 대해 공개적으로 논의했습니다. 일부 업계 관계자는 제어성 문제를 먼저 해결하기 위해 보다 엄격한 안전 규제 프레임워크를 확립하고 최첨단 모델 개발 속도를 늦추는 것을 옹호합니다.
그러나 업계의 일부 사람들은 극도의 위험을 지나치게 강조하면 과학 연구, 의료, 교육, 생산성 향상과 같은 분야에서 인공 지능이 가져오는 엄청난 잠재력을 무시할 수 있다고 생각합니다. 그들은 안전 조치를 강화하고 기술 혁신을 지속적으로 추진하는 것이 모순되지 않는다고 믿습니다.
OpenAI, Anthropic, Google DeepMind, xAI 등의 기업이 차세대 모델 구축에 막대한 자금을 계속 투자하면서 인공지능 안전성, 국가 경쟁, 초지능의 미래 방향에 대한 논의가 계속해서 높아지고 있습니다. 지능 침투와 초지능 경쟁에 대한 콕슨의 발언은 다시 한번 글로벌 인공지능 산업을 여론의 초점으로 몰아넣었다.
댓글