요약:
최근 한 행사에서 머스크는 "AI가 군사 시스템을 통제하고 핵폭탄을 발사할 수 있다면 안타깝다"고 경고했다.
현장 교류 중 누군가는 대부분의 군사 시설이 물리적으로 고립되어 있고 인터넷에 연결되어 있지 않아 AI의 침입 가능성이 낮다고 제안했다.
그러나 머스크는 이러한 견해에 동의하지 않습니다. 그는 시스템이 네트워크에서 물리적으로 분리되더라도 장비는 정기적인 소프트웨어 업데이트를 받게 될 것이라고 말했습니다. 이 프로세스는 보안 허점을 남기고 AI가 주요 군사 시스템에 개입할 수 있는 기회를 제공할 수 있습니다. AI가 핵무기 운용 권한을 갖게 되면 인류 전체에 재앙적인 결과를 가져올 것이다.
인공지능에 대해 걱정하는 사람은 머스크뿐만이 아닙니다.
인트로픽(Anthropic)에서 막 사임한 AI 연구원 제이콥 콕슨(Jacob Coxon)은 AI 기업의 최전선에 있는 많은 실무자들이 현실적 불안으로 가득 차 있다고 밝혔다. 그들은 마음 속 깊은 곳에서부터 공포감을 느끼며 앞으로 2년 안에 인류가 직면하게 될 예측할 수 없는 운명에 대해 매우 걱정하고 있습니다.
Anthropic의 CEO는 또한 최첨단 AI 모델의 연구 및 개발 속도를 적절하게 늦추어야 할 필요성을 공개적으로 촉구했습니다. 고위험 AI 발전을 억제하기 위해 독립적인 감독 실시, 업계 규범 확립, 글로벌 규제 합의 촉진 등의 방향도 제시했다. OpenAI 담당자도 AI 개발에 필요한 통제에 대해 공개적으로 지지를 표명했습니다.
댓글