요약:
현지 시간 화요일 밤 인터뷰에서 엔비디아 CEO 젠슨 황(Jensen Huang)은 최첨단 AI 모델의 개발을 공동으로 늦추기 위해 고안된 Anthropic의 AI 보안 독점금지 면제 제안을 비판하고 인공지능이 10년 안에 인류를 멸종시킬 수 있다는 주장을 반박했습니다.
황런순(Huang Renxun)은 미국의 유명 금융 앵커인 짐 크레이머(Jim Cramer)와의 인터뷰에서 위와 같은 발언을 했습니다. 앞서 앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)는 지난 토요일 기사를 게재해 인공지능 안전성을 둘러싼 열띤 논의를 촉발했다. Amodei는 선도적인 AI 연구소가 협력하여 "첨단 기술 개발의 속도를 제어"해야 한다고 제안했습니다. 이는 기업이 테스트 및 안전 보호에 더 많은 시간을 할애할 수 있도록 고급 모델의 개발 속도를 의도적으로 늦추는 것을 의미합니다. Amodei는 이 작업을 위해서는 정부의 조정이나 관련 독점 금지 규정의 면제가 필요할 수 있다고 말했습니다.
Huang Renxun은 AI 기업이 보안 문제에 주의를 기울여야 한다는 데 동의하지만 기업이 이러한 문제를 스스로 해결해야 한다고 믿습니다.
Huang Renxun은 다음과 같이 말했습니다. "일부 사람들은 이들 회사가 제품을 출시하기 전에 기본 엔지니어링을 수행하고 연구 개발을 표준화할 수 있도록 새로운 법률, 새로운 독점금지 규정 또는 새로운 규제 규정을 도입해야 한다고 생각합니다. 이는 완전히 불필요합니다. 우리는 이미 제품의 신뢰성과 기능을 보장할 수 있는 충분한 법률 및 규제 조항을 갖추고 있습니다."
기사에서 Amodei는 모델 개발 속도를 늦추기 위한 3단계 계획을 제안했습니다. 첫 번째 단계는 각 AI 연구소에 제3자 보안 평가자를 파견하는 것입니다. 두 번째와 세 번째 단계는 각각 안전 표준을 중심으로 하는 민주적이고 글로벌한 협력과 “무제한 AI 개발 속도에 대한 제한 설정”입니다. "기술 개발 속도를 효과적으로 조절할 수 있는 일부 협력 방법에는 법적 장애물이 있으며 정부 지원이 필요합니다."
주요 AI 연구소가 경쟁사이고 그들이 출시하는 모델이 경쟁 제품이기 때문에 법적 문제가 발생합니다. 미국의 셔먼 독점 금지법은 원칙적으로 경쟁업체가 경쟁을 불합리하게 제한하는 합의에 도달하는 것을 금지하고 있으며 특정 협력 행위(제품 생산량을 제한하는 합의 포함)는 불법일 수 있습니다. 경쟁 AI 개발사가 공동으로 신모델 개발이나 출시 속도에 합의할 경우 잠재적인 법적 리스크가 발생할 수 있다.
황런쉰은 모델 개발자는 제품이 출시되기 전에 제품의 안전성을 확보할 수 있는 능력이 있다고 말했습니다.
"보안은 엔지니어링 문제이고, 테스트도 엔지니어링 문제입니다." Huang Renxun은 "우리는 제품을 만들고 완전히 테스트해야 합니다. 제품이 아직 출시 표준에 도달하지 않았다면 출시를 연기하고 제품이 성숙될 때까지 테스트와 최적화를 계속해야 합니다."라고 말했습니다. NVIDIA는 Anthropic 및 OpenAI의 중요한 공급업체이며 NVIDIA 자체도 Nemotron 시리즈 오픈 소스 중량 모델을 개발했습니다.
AI 열풍은 엔비디아를 세계 최대의 칩 제조업체이자 시장 가치가 가장 높은 회사로 만들었습니다. 고성능 모델의 개발 속도를 늦추려는 관련 제안은 Nvidia의 향후 성장에 위험을 초래할 수 있습니다.
Huang Renxun은 Cramer에게 다음과 같이 말했습니다. "AI 안전은 실제 문제입니다. 전 세계에서 안전하게 사용할 수 있는 제품을 만드는 것은 과소평가될 수 없습니다. 기업은 최대한 빨리 혁신해야 하지만 단지 혁신을 위해 보안 위험이 있는 제품을 출시해서는 안 됩니다."
황은 또한 점점 더 강력해지는 인공 지능 모델이 인류에게 실존적 위협을 가할 것이라는 경고에도 반대했습니다.
그는 "2030년에도 인류는 멸종하지 않을 것이다. 인공지능을 올바르게 개발할 사람은 세상에 너무 많다. 다양한 안전 보호 대책을 마련하고 안전과 보안을 위한 다양한 기술을 발명하겠다"고 말했다.
관련 기사:
Huang Renxun은 업계가 독립적으로 보안을 보장할 수 있는 능력이 있다고 말하면서 AI에 대한 외부 감독을 완화할 것을 촉구했습니다.
댓글