요약:
인공지능(AI) 업계의 거물급 인사들이 스코틀랜드에 모였으며, 국왕은 기술에 대한 통제권을 잃지 않도록 하라고 촉구했습니다. 찰스 3세 국왕은 증가하는 AI 위험에 초점을 맞추기 위해 기술 업계 지도자 및 기타 영향력 있는 인사들과 정상회담을 소집했습니다. 이번 주에는 이 주제가 전 세계의 초점이 되었습니다. 회의에 참석한 경영진은 공개적으로 어떤 변화도 약속하지 않았지만 일부는 안전 문제에 대해 직접적으로 반응했습니다.
Nvidia CEO Jensen Huang은 목요일 왕실 행사에서 "AI를 개발하는 사람들은 시스템을 엄격하게 테스트해야 합니다"라고 간략하게 말했습니다. "제품이 충분히 안전하지 않다면 출시를 보류해야 합니다."
또한 Jen-Hsun Huang과 함께 스코틀랜드 정상회담에는 OpenAI의 CFO인 Sarah Friar와 Google DeepMind의 공동 창립자인 Demis Hassabis도 참석했습니다. Anthropic PBC의 공보 이사인 Tino Cuéllar도 Dumfries Estate에서 열린 AI 포럼에 참여했습니다. 다른 참석자에는 칭화대학교를 포함한 기술 회사, 비영리 단체 및 교육 기관의 대표가 포함되었습니다.
“인류와 인류의 중요한 도덕적 가치를 소중히 여기는 이 세상의 우리들은 여러분의 확신, 즉 우리가 자신의 운명에 대한 통제력을 잃지 않을 것이라는 확신을 간절히 구하고 있습니다.”라고 찰스 3세가 개회 연설에서 말했습니다. 버킹엄궁은 성명을 통해 이번 행사는 기술이 사회와 자연계에 어떻게 도움이 될 수 있는지 논의하기 위한 것이라고 밝혔다.
9월 17일 스코틀랜드 컴녹의 덤프리스 에스테이트에서 찰스 3세 영국 국왕(왼쪽), 구글 딥마인드(가운데), 엔비디아 CEO 젠슨 황.
이번 정상회담은 적절한 시기에 이루어졌습니다. Anthropic CEO인 Dario Amodei는 지난 주말 최첨단 모델의 개발 속도를 늦추도록 요구하는 기사를 발표했으며, 이로 인해 AI의 위험 증가에 대한 세계적인 논의가 촉발되었습니다.
Hassabis는 정상회담에서 “최근 이 기술의 치명적인 위험을 둘러싸고 많은 열띤 논쟁이 있었습니다.”라고 말했습니다. 영국 과학자는 최근 Google의 AI 사업 관리 역할에서 물러났습니다. 그는 강력한 AI에 대해 두 가지 주요 우려 사항이 있다고 말했습니다. 하나는 자율 시스템이 통제 불능이라는 것이고, 다른 하나는 "악의적인 행위자"가 AI를 사용하여 악을 행한다는 것입니다. 그러나 그는 업계가 이러한 문제를 해결할 수 있다고 믿습니다. “나는 인간의 독창성을 전적으로 믿습니다.”라고 그는 말했습니다.
찰스 3세는 정상회담에서 두 가지 주요 질문을 제기했습니다. "첫째, 안보를 보장하면서 AI의 이점을 최대한 활용하려면 어떻게 해야 할까요? 둘째, 이 목표를 달성하기 위해 어떻게 국제 협력과 합의를 구축하여 어떤 국가도 소외되지 않도록 하고 인류의 미래를 보호해야 할까요?
행사에서 배포된 일정에 따르면, 정상회담 기간 동안 Charles III는 Huang Jen-Hsun, Hassabis, Cuéllar, Friar 및 기타 5명의 손님과 비공개 회담도 가졌습니다.
댓글