요약:
Nvidia CEO Jensen Huang은 인공 지능 산업이 이 기술로 인해 발생하는 어떠한 사이버 보안 사고도 용납해서는 안 된다고 말했습니다. 이러한 견해는 최근 일부 해킹과 사기가 인공 지능의 이점을 누릴 때 인류 사회가 지불해야 하는 대가일 수 있다고 주장한 OpenAI CEO Sam Altman의 견해와 상충됩니다.
그는 런던 인터뷰에서 "나는 어떤 사이버 보안 사고도 용납할 수 없다. 우리는 이러한 사건을 전혀 용납해서는 안 된다"고 말했다. “우리는 그들을 피하기 위해 최선을 다해야 합니다.”
이달 초 인터뷰에서 Altman은 인공 지능의 이점을 얻으려면 대규모 해킹 공격, 기술 오용, 사기 등을 포함한 '일부 나쁜 일'이 발생하는 것을 세상이 받아들여야 할 수도 있다고 말했습니다. 왜냐하면 사람들이 이 기술을 사용하여 창출되는 이점이 그것이 가져오는 피해보다 훨씬 클 것이기 때문입니다(긍정적인 효과는 부정적인 효과보다 '수십 배' 더 클 것입니다). 후속 인터뷰에서 Altman은 경쟁사의 오픈 소스 모델이 "다가오는 사이버 보안 문제의 물결"을 촉발할 수 있다고 경고했습니다. 불과 몇 달 전, OpenAI의 자체 에이전트 그룹이 훈련 샌드박스에서 탈출하여 Hugging Face 웹사이트에 침입했다는 사실을 언급할 가치가 있습니다.
황은 수요일 인터뷰에서 AI 에이전트에 대한 보다 엄격한 통제와 모니터링을 구현했다면 지금까지 발생한 사건을 피할 수 있었다고 말했습니다. 그는 이 문제를 사용자가 웹 사이트를 클릭하면 PC가 바이러스에 감염될 수 있었던 소비자 인터넷 초기와 비교했습니다. 당시의 해결책은 브라우저가 격리된 환경에서 웹사이트를 실행하여 컴퓨터의 다른 부분을 건드리지 못하도록 하는 것이었습니다. Huang Renxun은 AI 에이전트도 동일한 메커니즘을 채택해야 한다고 믿습니다. 즉, 승인된 액세스 범위를 넘어서 피해를 입힐 수 없도록 안전한 "컨테이너"에 배치해야 한다고 생각합니다.
인터뷰에서 황런순은 소위 'AI 멸종설'을 다시 한번 반박했다. 그는 "인공지능이 실존적 위험을 가져올 수 있다"는 많은 업계 임원들의 경고에 대해 "이 기술은 완전히 우리 통제 내에 있다"고 말했다.
Huang Renxun은 다음과 같이 말했습니다. "왜 누군가가 특정 기술의 개발을 지원하고 싶어하는지 이해가 되지 않습니다. 결국 이 기술은 우리가 알고 있는 인류 문명의 종말로 이어질 수 있습니다. 따라서 그들이 정말로 이것을 믿는다면 관련 연구 개발을 중단해야 합니다."
Huang Jen-Hsun은 현재 유럽을 방문 중이며 여행은 화요일 파리에서 시작됩니다. 그는 파리에서 열린 청중에게 유럽이 인공 지능 분야의 "경주에 동참해야 한다"고 말했습니다. Huang Renxun은 Nvidia가 다음 주 내에 유럽에 20억 달러의 추가 투자를 발표할 것이라고 말했습니다. 이에 앞서 칩 제조업체는 유럽에 80억 달러를 투자했습니다. 이번 여행에는 이번 달 말에 Nvidia의 GTC 컨퍼런스가 개최될 베를린도 포함됩니다.
유럽은 아직 인공지능 분야에서 뒤처져 있지만, 황은 오픈소스 모델이 유럽이 미국을 따라잡을 수 있는 가장 좋은 방법이라고 믿습니다. Nvidia는 프랑스 인공 지능 회사 Mistral의 주요 후원자 중 하나가 되었습니다. 이 회사는 최근 4,000개의 Nvidia Grace Blackwell GPU에서 훈련된 "Large 4" 모델을 출시했습니다. "주권"을 강조하는 이러한 전략은 Nvidia에게도 이익이 됩니다. 오픈 소스 모델이 개발 회사의 비용을 줄이더라도 관련 하드웨어 지출은 여전히 칩 제조업체에 흘러갈 것입니다.
댓글