요약:
Reuters에 따르면 독립적인 연구에 따르면 Anthropic의 AI 모델은 더 강력한 후속 모델을 개발하는 데 AI의 역할이 커지면서 거의 두 배의 속도로 개선된 것으로 나타났습니다. 이번 연구 결과는 AI 기술이 위험 평가 노력보다 빠르게 발전할 수 있다는 최근 업계의 경고를 뒷받침합니다.
인류
AI 안전 비영리단체 METR이 목요일 발표한 연구 결과는 AI가 자체 개발을 가속화하고 있다는 가장 명확한 증거 중 하나를 제공합니다. 이러한 추세는 AI 시스템이 인간의 개입 없이 더욱 강력한 버전을 개발하는 반복적 자기 개선(RSI)의 길을 열어줄 수 있습니다.
올해 8월부터 10월까지 11주 동안 실시된 평가는 비공개 연구, 인터뷰, 미공개 모델의 성과 데이터를 바탕으로 이루어졌습니다. 결과에 따르면 2025년 10월부터 Anthropic 모델은 벤치마크 테스트에서 이전보다 1.9배 빠르게 성능이 향상되었습니다.
"2026년 10월 현재 Anthropic은 잘 정의된 작업에 대한 모델의 기능을 이전 속도의 거의 두 배로 향상할 가능성이 높습니다. 이전 비교 기간은 2024년 3월부터 2025년 10월이었습니다." METR이 말했다.
METR은 또한 다음과 같이 덧붙였습니다. "이 추정치에는 상당한 불확실성이 있습니다. 실제 가속도가 역사적 수준의 1.5~2.5배에 가까워도 놀라지 않을 것입니다."
또한 보고서는 AI가 현재 모델 훈련의 가장 중요한 단계에서 매우 중요하고 완전히 자율적으로 기여할 수 없다는 점을 강조합니다.
인류 연구자들은 AI를 사용하여 코드를 작성하고 실험을 수행함으로써 생산성이 크게 향상되었다고 보고했습니다. 비공식 직원 설문조사에서는 약 12배 증가한 것으로 나타났으나 METR에서는 이 수치가 신뢰할 수 없다고 경고합니다.
Anthropic CEO Dario Amodei는 9월에 고급 AI 개발 속도를 늦출 것을 촉구했습니다. 현재 회사는 기업공개를 준비 중이며 이르면 이달 중 기업공개(IPO)를 시작할 수도 있다. 이는 역사상 최대 규모의 IPO 중 하나가 될 것으로 예상되며, AI 기업 투자에 대한 투자자들의 열정을 시험하는 중요한 시험대가 될 것입니다. 이들 회사는 이 기술을 개발하는 데 수십억 달러를 투자하고 있습니다.
최근 몇 달 동안 AI가 반복적으로 자체적으로 개선될 가능성이 있다는 사실이 AI 연구자들로부터 경고를 불러일으켰습니다. 그들은 그러한 시스템이 인간의 목표에 부합하기 어려워지고, 모니터링 및 통제가 어려워지고, 궁극적으로 인류에게 실존적 위협이 될 수 있다고 우려합니다.
이러한 변화는 업계 전체에 광범위한 영향을 미칠 수 있습니다. 이전까지 AI 업계는 고급 모델 학습을 위한 컴퓨팅 인프라 구축에 수천억 달러를 투자해 왔다. 미래에는 AI 자체가 기술 발전을 촉진하는 중요한 힘이 될 수도 있습니다.
METR은 "우리는 이러한 가속화가 훈련 컴퓨팅 성능의 가속화된 확장으로 인해 발생하지 않는다고 확신합니다."
댓글