요약:
9월 23일 Bloomberg에 따르면 AI의 선구자인 Li Feifei는 독립 기관과 공공 부문에 AI에 대한 더 많은 감독을 요청했습니다. 그녀는 점점 더 강력해지는 AI 시스템의 보안 평가를 이러한 시스템을 개발하는 회사에 전적으로 맡겨서는 안 된다고 믿습니다.
리 페이페이
스탠퍼드 대학교 교수이자 World Labs의 공동 창립자인 Li Feifei는 화요일 AI 회사의 내부 연구원이 개별 모델의 성능과 안전성을 평가할 수 있지만 이것이 정부, 업계, 학계가 공동으로 개발한 광범위한 표준을 대체할 수는 없다고 말했습니다.
"독립 기관은 물론 학계 등 공공 부문에서 벤치마크를 설정하는 것이 여전히 매우 중요하다고 생각합니다. 동시에 업계와 정부도 책임을 분담해야 합니다." Li Feifei는 Bloomberg TV와의 인터뷰에서 이렇게 말했습니다.
AI 시스템의 성능이 계속 향상되면서 잠재적인 위험에 대한 우려도 커지고 있습니다. 실리콘 밸리의 일부 리더들은 기술이 너무 빠르게 발전하여 결국 인간의 통제를 넘어설 수 있다고 경고했습니다. 최근 몇 주 동안 Anthropic CEO Dario Amodei와 OpenAI CEO Sam Altman은 모두 최첨단 모델 개발 속도를 늦출 것을 촉구했습니다. 두 사람은 수요일 유엔 안전보장이사회에서 AI 안전을 논의할 예정이다.
Li Feifei는 AI가 가져올 수 있는 실존적 위험은 궁극적으로 인간이 이 기술을 개발, 관리 및 사용하는 방식에 달려 있다고 말했습니다. 그녀는 이 원칙이 AI 이외의 전기, 증기 엔진부터 현대 교통에 이르기까지 기술에도 적용된다고 말했습니다. 인간 사회는 또한 기술이 가져올 수 있는 이점과 개인의 안전 사이에서 균형을 찾아야 합니다.
그녀는 인류가 "기술의 힘을 마음껏 쓸 수 있다"고 말했습니다. "우리가 통제해야 합니다. AI는 AI에 관한 것이 아니라 인간에 관한 것입니다. 그것은 우리의 공통적이고 개인적인 존엄성과 자율성에 관한 것이며, 또한 우리의 책임에 관한 것입니다." 리 페이페이(Li Feifei)가 말했습니다.
Li Feifei의 발언은 정책 입안자와 AI 업계 리더 사이에서 점점 더 뜨거워지는 논쟁에 새로운 목소리를 더해줍니다. 논쟁은 기술의 가장 극단적인 위험에 대한 경고를 얼마나 심각하게 받아들여야 하는지에 중점을 두고 있습니다. 앞서 도널드 트럼프 미국 대통령은 지난 화요일 뉴욕에서 열린 유엔 총회 연설에서 AI의 실존적 위협에 대한 우려를 일축하고 AI를 '사기'라고 부르며 기술을 최고 속도로 계속 개발해야 한다고 강조했습니다.
Li Feifei는 AI 시스템의 동작에 대한 논의가 현재 AI 열풍을 주도하는 소위 최첨단 모델을 넘어섰다고 말했습니다. 그녀가 설립한 회사인 World Labs는 3차원 환경을 생성하고 재구성할 수 있는 소위 "세계 모델"을 개발하고 있습니다. 그녀는 이 기술을 사용하여 로봇을 훈련 및 평가하고 디자인, 의료 및 기타 산업에 응용할 수 있다고 말했습니다.
이러한 시스템이 실제 애플리케이션으로 전환됨에 따라 업계는 점점 더 강력해지는 AI를 평가하고 예상대로 작동하는지 판단하는 방법이라는 동일한 근본적인 질문에 직면했다고 말했습니다.
댓글