요약:
Anthropic CEO Dario Amodei는 인공 지능이 인간에게 미치는 위험에 대한 우려가 커지고 있다는 점을 언급하면서 인공 지능 산업이 새로운 모델의 개발을 늦춰야 한다고 말했습니다. 그는 블로그 게시물에서 “AI 기능이 향상되는 속도를 늦춰야 합니다.”라고 썼습니다. "진행 속도는 계속 빨라지고 있으며, 얻은 시간을 현명하게 활용해야 합니다."
그는 인공 지능의 자체 개선 능력과 OpenAI 및 Hugging Face와 관련된 최근 사건을 포함한 두 가지 주요 요인을 언급했습니다. 이번 사건에서는 AI 요원 집단이 비밀리에 동맹을 맺고 원래 할당되지 않은 대상에 맞서게 되었습니다.
“속도를 조절한다는 것은 모델 훈련이나 기술 발전을 중단하는 것을 의미하는 것이 아니라 기업이 모델을 조정하고 안전 조치를 취할 수 있는 충분한 시간을 갖도록 하는 동시에 제3자 평가 기관이 이를 확인할 수 있도록 허용하는 것을 의미한다는 점을 분명히 해야 합니다.”라고 덧붙였습니다.
댓글