요약:
2018년 튜링상 수상자이자 AMI Labs의 창립자이자 회장인 Yann LeCun은 10월 12일 서울에서 인공지능의 다음 단계 혁신은 단순히 대규모 언어 모델의 규모를 확장하는 것이 아니라 물리적 세계를 이해하고 예측하고 행동할 수 있는 시스템에서 나올 것이라고 말했습니다.
그는 '월드 모델'이 AI 발전을 촉진하는 중요한 기술적 방향이 될 것이라고 믿습니다. 인공지능의 향상된 자율성으로 인해 발생하는 보안 문제에 대해 Yang Likun은 최근 AI 에이전트와 관련된 네트워크 보안 사고는 주로 기존 보안 보호 시스템의 결함을 노출했으며 관련 위험은 시스템 아키텍처 및 보안 엔지니어링을 개선하여 제어할 수 있다고 말했습니다.
Yang Likun: 대규모 언어 모델에는 실제 세계의 인과 관계에 대한 확실한 이해가 부족합니다.
양리쿤은 월요일 서울에서 열린 산업 인공지능 심포지엄에서 현재의 대형 언어 모델이 텍스트, 이미지, 비디오로부터 지식을 효과적으로 학습할 수 있지만 물리적 세계의 원인과 결과에 대한 확실한 이해가 여전히 부족하다고 말했습니다.
그는 인공지능이 이미 수학적 정리를 증명하고 전문 시험을 통과할 수 있지만, 10세 어린이가 훈련 없이도 마스터할 수 있는 많은 일상적인 집안일을 로봇이 여전히 수행하기 어렵다고 지적했습니다. 이러한 역량 격차는 현재 AI 시스템이 물리적 환경 이해, 행동 계획 및 실제 상호 작용에 여전히 명백한 한계를 가지고 있음을 반영합니다.
양리쿤은 다음 단계 AI 기술의 중요한 발전 방향은 세계 모델, 즉 특정 행동에 따라 물리적 환경이 어떻게 변할지 예측할 수 있는 인공지능 시스템이라고 믿는다. 다음 단어를 예측하거나 인간이 생성한 데이터의 패턴을 학습하여 주로 작업을 수행하는 언어 모델과 달리, 세계 모델은 AI가 행동과 결과 간의 관계를 이해하고 목표에 따라 일련의 행동을 계획할 수 있도록 설계되었습니다. 예를 들어, 로봇은 현실 세계에서 복잡한 작업을 안정적으로 완료하기 위해 물체를 이동하거나 잡은 후 환경이 어떻게 변할지 예측할 수 있어야 합니다.
Yang Likun이 설립한 AMI Labs는 JEPA(Joint-Embedding Predictive Architecture)를 통해 이 기술 경로를 발전시키고 환경 예측 및 행동 계획 기능에서 인공 지능을 더욱 안정적으로 만드는 방법을 탐구하고 있습니다.
AI 기술이 지식 처리, 콘텐츠 생성에서 로봇공학, 산업 자동화 등의 분야로 점차 확장됨에 따라 양리쿤은 세계 모델을 물리적 세계에서 지능을 구현하기 위한 중요한 기술 기반으로 간주합니다. 그러나 관련 기술은 여전히 개발 중이며 복잡한 실제 환경에서 신뢰할 수 있는 예측, 독립적인 계획 및 대규모 배포를 달성할 수 있는지 여부는 추가 검증이 필요합니다.
Yang Likun은 AI가 통제 불능이라는 우려를 반박합니다. 최근 보안 사고로 인해 엔지니어링 보호 결함이 노출되었습니다.
AI 자율 행동 능력의 발전 전망을 논의할 때 Yang Likun은 최근 인공 지능 에이전트와 관련된 사이버 보안 사고에 대해서도 대응했으며 이러한 사고를 AI가 통제 불가능해지고 있다고 해석하는 데 반대했습니다.
최근 한국 금융업계에서 발생한 AI 관련 사이버 공격과 관련하여 양리쿤은 AI 에이전트를 배치하는 기업의 네트워크 보안 전문 역량이 부족하고 소프트웨어 동작을 제한하는 데 사용되는 샌드박스 시스템의 보안 취약점이 주로 문제의 원인이라고 생각합니다. 그는 현재의 대규모 언어 모델이 실제로 탈옥 공격을 받을 수 있으며 특정 프롬프트 단어를 통해 확립된 보안 제한을 우회할 수 있으며 모델 미세 조정에만 의존하여 해당 동작을 완전히 제한하기는 어렵다고 지적했습니다.
그러나 Yang Likun은 미래의 목표 지향 AI 시스템이 작업을 수행하기 전에 안전 제약 조건을 적극적으로 평가하여 행동 제어에 대한 기존 모델의 단점을 개선할 것으로 기대한다고 믿습니다. 모델 교육 단계에서 설정된 보안 규칙에만 의존하는 대신 이러한 시스템은 작업 계획 및 실행 중에 추가 보안 검사를 통합할 수 있습니다.
그는 이 능력을 달성하는 것이 단순한 기술적인 작업이 아니라는 점을 인정했지만, 관련 문제는 여전히 엔지니어링 설계의 범위 내에 있음을 강조했습니다. 장기적으로 AI는 사이버 방어자에게 이점을 제공할 수도 있습니다. 국방 기관은 일반적으로 더 많은 리소스를 보유하고 보안 정보 및 방어 경험을 보다 공개적으로 공유할 수 있기 때문입니다.
이러한 판단은 첨단 AI 시스템의 통제력 상실 위험을 강조하는 일부 견해와 다릅니다. Yang Likun은 또한 시스템 아키텍처 설계, 실행 권한 제한 및 보안 보호 메커니즘을 통해 자율 AI 시스템의 동작이 제어 가능한 범위 내에 있도록 보장해야 한다고 강조했습니다.
그의 기술적 비전에 따르면 미래의 인공지능은 점차 실제 환경을 이해하고 행동의 결과를 예측하며 자율적으로 작업을 완료하는 능력을 갖추게 될 것입니다. 신뢰할 수 있는 안전 제약 조건을 설정하면서 이러한 기능을 향상시키는 방법은 세계 모델 및 관련 자율 시스템 개발에서 해결해야 할 중요한 문제가 될 것입니다.
댓글