요약:
오픈AI(OpenAI) CEO 샘 알트만(Sam Altman)은 자신이 만든 악몽 같은 인공지능 제품 때문에 깊은 고민에 빠져 있고, 편히 잠들기조차 힘든 것 같다. 동부시간 오전 0시 57분쯤 알트만은 X 플랫폼에 "인공지능 발전에는 반드시 피해야 할 두 가지 재앙적인 추세가 있다. 첫째, 우리는 인공지능의 미래에 대한 통제력을 잃을 수 있다. 이것은 용납할 수 없는 일이다. 우리는 확고히 인류 편에 서고 인공지능은 항상 사람에게 봉사해야 한다. 이를 위해 우리는 정렬된 기술과 보안 방법의 개발 속도를 보장하고 모델 역량의 반복에서 앞서 나가야 한다"고 게시했다.
그는 이어서 다음과 같이 썼습니다. "두 번째 위험은 세계의 높은 권력 집중입니다. 특정 사람이나 특정 회사가 극도로 강력한 인공지능을 마스터하고 자신만의 세계관을 모든 사람에게 강요한다면 결과는 극도로 디스토피아적일 것입니다. 위의 두 가지 주요 위협을 피하려면 좁은 중도를 걸어야 합니다. 예를 들어 특정 국가가 너무 많은 권력을 쥐고 있거나 특정 실험실이 너무 많은 발언권을 갖는 것이 모두 그러한 위험입니다."
인트로픽의 CEO 다리오 아모데이(Dario Amodei)와 AI 업계의 두 거대 알트만(Altman)이 단 이틀 만에 자신들이 이끌고 최고 R&D팀을 이끌고 가속화한 이 강력한 기술에 대해 잇달아 경고문을 냈다.
아모데이는 토요일 자신의 블로그를 통해 "지난 몇 달 동안 관련된 위험에 완전히 대응하려면 좀 더 신중하게 행동해야 한다는 확신이 점점 더 커졌다. 위험을 예방하기 위해 자원을 투자할 뿐만 아니라 AI 기능의 반복 속도를 제어하고 위험 예방과 제어를 위해 따라잡을 시간을 남겨야 한다. 인공지능 모델의 기능 향상 속도를 늦춰야 한다. 전반적인 기술은 여전히 빠른 발전을 유지할 것이며, 우리가 사용하는 시간을 잘 활용해야 한다"고 말했다. 이득을 얻습니다."
아모데이가 자신의 메시지를 게시한 후 울트라맨은 즉각 자신의 의견을 밝히며 경쟁사의 관점에 동의했다.
이러한 발언은 두 명의 AI 연구자가 최첨단 AI 모델의 위험성에 대한 우려를 표명한 후에 나온 것입니다.
지난주 초, 제이콥 콕슨(Jacob Coxon)은 앤트로픽(Anthropic)을 떠난다고 발표했습니다. 그는 Anthropic이나 OpenAI 모두 고성능 인공 지능 시스템 개발에 대한 정당한 책임을 맡은 적이 없다고 말했습니다.
그 후 Anthropic의 정렬 과학 책임자인 Evan Harbinger는 Coxon의 게시물에 응답하여 전직 직원의 감정을 지지했습니다. 그는 이 기술이 "모든 인류를 멸종시킬" 확률이 10% 이상이라고 믿습니다.
트럼프 대통령은 일요일 이러한 안보 우려를 일축했습니다. 그는 "우리는 인공지능 분야에서 중국을 선도하고 있다. 우리는 세계에서 가장 기술적으로 진보한 국가이고 솔직히 이 우위를 유지하고 싶다. 인공지능 대회에서 승리하는 사람이 미래를 승리하게 될 것이기 때문"이라고 말했다.
위 언급된 우려에 영향을 받아 월요일 AI 분야 선두주들이 압박을 받았고, 시장은 AI 기술 발전이 장애물에 부딪힐 수 있다는 우려를 나타냈다. SanDisk는 시장 전 거래에서 5% 하락했고, Nvidia는 시장 전 거래에서 3% 하락했습니다.
Yorkville Ives의 창립 파트너인 Dan Ives는 Yahoo Finance에 다음과 같이 말했습니다. "주말 업계 토론과 결합된 Dalio의 기사가 월요일 개장 시 잠시 약화될 것이라고 생각하지만 시장은 곧 반등할 것입니다. 투자자들은 업계의 이러한 여론 폭풍에도 불구하고 향후 5년 동안 5조 달러 규모의 AI 투자에 대한 전반적인 상황이 실질적으로 변하지 않을 것이라는 점을 곧 분명히 알게 될 것입니다."
댓글