5월 13일, 비즈니스 인사이더는 OpenAI 연구원 출신이자 현 AI 미래 프로젝트 책임자인 다니엘 코코타일로(Daniel Kokotajlo)가 AI 업계가 각 기업이 아직 완전히 이해하거나 통제하지 못하는 시스템 구축을 위해 경쟁하고 있다고 말했다고 보도했다.
캡션: 코코테일로
코코테일로는 지난해 5월 '비즈니스 인사이더' 기자와의 인터뷰에서 AI 기업이 직면한 핵심 문제는 '정렬' 문제, 즉 미래 AI 시스템이 많은 분야에서 인간을 능가하더라도 인간의 지시와 가치를 안정적으로 따를 수 있도록 노력하는 것이라고 설명했다.
그는 현재 연구자들은 고급 AI 모델이 내부적으로 어떻게 결정을 내리는지 완전히 이해하지 못하고 있으며, 이러한 불확실성으로 인해 미래 시스템이 진정으로 "정렬"되고 인간이 달성하고자 하는 목표를 안정적으로 수행하는지 확인하기가 어렵다고 말했습니다.
그는 AI 정렬 구현에 대해 "일종의 공개된 비밀이지만 아직 실제로 실행 가능한 솔루션이 없다"고 말했다.
Kokotailo는 2022년부터 2024년까지 OpenAI에서 예측 연구를 수행하고 AI 시스템이 얼마나 빨리 발전할 수 있는지, 기업이 보다 강력한 모델을 구축함에 따라 어떤 경제적, 정치적, 보안 위험이 발생할 수 있는지 연구한 후 회사를 떠났습니다.
현재 그는 비영리 연구 조직인 AI 프로젝트의 미래(Future of AI Project)를 통해 유사한 주제에 초점을 맞춰 AI 시스템이 얼마나 빨리 발전할 수 있는지, 기업이 계속해서 속도와 경쟁을 우선시할 경우 어떤 위험이 발생할지 분석하는 데 중점을 두고 있습니다.
코코테일로는 “일단 초지능이 만들어지면 인간은 더 이상 이 행성의 리더가 될 수 없으며, 적어도 기본 리더는 아닐 것”이라고 말했다.
Cocotailo는 토론이 종종 공상과학 소설처럼 들리기 때문에 많은 사람들이 여전히 AI 개발 속도를 과소평가한다고 말했습니다. 그의 경고는 AI 회사들이 더욱 강력한 모델과 대규모 데이터 센터에 계속해서 수십억 달러를 투자하는 가운데 나온 것입니다.