요약:
Business Insider에 따르면 전 인류학 연구원인 Jacob Coxon은 화요일 X 플랫폼에서 진행된 Q&A 이벤트에서 AI 거인과의 차이점을 자세히 설명했습니다. 콕슨은 앞서 AI가 미래 인류를 파괴할 수 있다고 믿으며 사임 경고로 유명세를 탔다.
콕센
Coxson은 인류 리더십이 AI 연구의 한계를 뛰어넘는 데 참여해야 하는 이유를 설명하기 위해 '결과주의 철학'을 사용하는 것은 잘못된 것이라고 말했습니다.
Coxon은 "이 콘테스트가 불가피하다면 참여하지 말아야 합니다"라고 썼습니다.
Coxson은 특히 AI 모델이 스스로를 개선하고 자체 후속 모델을 구축할 수 있는 프로세스인 반복적 자기 개선(RSI)을 추구하는 Anthropic을 꼽았습니다.
"그들은 이번 경주가 불가피하다고 믿었기 때문에 최근 RSI를 중심으로 한 경주를 크게 부추겼습니다. 당시 Anthropic이 본격 추진 중이었기 때문에 OpenAI는 Sora와 같은 많은 짐을 버려야만 했다는 점에 유의해야 합니다." 콕슨이 말했다.
Coxson이 Anthropic과의 차이점을 자세히 설명합니다
Coxson은 또한 Anthropic의 리더십이 중국과 미국 정부를 너무 경계한다고 말했습니다. “그들은 협상이 가능하다고 믿지 않습니다.”
Anthropic CEO Dario Amodei는 계속해서 불안감을 표명했습니다. Anthropic이 개발 속도를 늦추는 유일한 최첨단 연구소라면 다른 AI 회사들은 다른 보안 조치를 채택할 수도 있습니다.
Amodei는 최근 CNN과의 인터뷰에서 "우리가 너무 느리게 개발하면 잘못된 사람들이 이 기술을 통제하게 될 것이라고 생각합니다"라고 말했습니다. "이렇게 하면 일이 잘못될 가능성도 크게 높아집니다."
댓글