요약:
'AI의 대부'이자 노벨상 수상자로 알려진 제프리 힌튼(Jeffrey Hinton)이 가디언과의 인터뷰에서 엄중 경고했다.
올해나 내년에는 AI 분야에서 체르노빌 규모의 대형 사고가 일어날 수도 있다고 본다
.
Hinton은 올여름 OpenAI 에이전트가 Hugging Face 플랫폼에 침입한 사건을 원자력 안전 역사상 쓰리마일섬 사고에 비유했습니다. 위험한 조기 경보 신호였지만 실제 재앙은 아니었습니다.
AI 세계에서 소위 '체르노빌'이라고 불리는 것은 공상과학 영화에서 AI가 자율적으로 반란을 일으키고 인류를 멸망시키는 것이 아니라 해커가 AI를 이용해 중요 인프라에 대한 사이버 공격을 감행한다는 것이다. 가장 대표적인 시나리오는 대규모·장기 정전 사태를 일으키거나, 글로벌 금융 시스템을 일주일 동안 마비시켜 국민 생활 질서에 직접적인 영향을 미치는 것이다.
.인터뷰에서 힌튼은 선도적인 AI 기업 경영진의 위험 태도에 대해 낙관적이지 않다고 직설적으로 밝혔으며 OpenAI의 Altman, Meta의 Zuckerberg, Musk 등을 비판했습니다.
힌튼은 AI 뒤에 숨겨진 엄청난 위험을 알고 있었지만 비즈니스 경쟁과 이해관계에 직면해 충분히 주의를 기울이지 않았다고 말했습니다. 각 회사는 모델 역량 경쟁과 시장 선점에만 집중했습니다.
힌튼은 AI에 반대하지 않는다는 점을 지적해야 합니다.
그는 AI가 양날의 검이라고 믿습니다. 그는 그것이 매우 긍정적인 가치를 갖고 있으며 인류에게 밝은 미래를 가져올 수 있다는 것을 인식하고 있습니다. 하지만 큰 사고가 발생하면 사람들은 애초에 이 기술을 발명하지 말았어야 했다는 후회를 하게 될 수도 있습니다
.그는 향후 10년이 인류에게 중요한 기간이 될 것이라고 생각합니다. 인류는 결국 AI의 위험을 통제할 수 있는지 검증하게 될 것이다.
그렇다면 위험을 예방하는 방법은 무엇일까요? Hinton이 제시하는 솔루션도 매우 명확합니다.
최첨단 대형 모델의 경우 필수 안전 테스트와 제3자 독립적 평가를 구현하여 모든 국가에서 통일된 AI 안전 표준 확립을 촉진하고 규제 제약 조건을 활용하여 난폭하게 실행해야 합니다.
.
댓글