요약:
필즈상 수상자이자 유명한 수학자 테렌스 타오(Terence Tao)는 최근 인류의 인공 지능에 대한 의존도가 증가하고 있다는 경고를 발표했습니다. 그는 사람들이 점차 사고와 문제 해결 과정을 AI에 넘겨주면서 문제 자체와 해결책에 대한 이해를 잃어가고 있으며, 이러한 추세가 머지않아 현실 세계에 심각한 결과를 초래할 수 있다고 걱정합니다.
이러한 발언은 지난 10월 16일 로스앤젤레스 캘리포니아대학교에서 열린 사이언스 x AI 서밋에서 테렌스 타오가 한 연설에서 나온 것이다. 과학인공지능연구재단(SAIR)은 최근 유튜브에 'Math 2.0'이라는 제목의 연설 완결 영상을 공개했고, 이후 해외 소셜 플랫폼 X에서도 관련 영상이 화제를 모았다.
"우리는 AI에 우리의 생각을 맡기고 AI가 우리를 위해 문제를 해결하도록 하고 있습니다. 하지만 동시에 보장도 잃게 됩니다. AI가 제공하는 솔루션이 실제로 우리가 원하는 솔루션인지 확신할 수 없습니다." 타오저쉬안은 "현실 세계에서 곧 이런 결과를 보게 될까봐 정말 걱정된다. 이는 사실 수학 분야 밖에서도 갖고 있는 걱정이다"라고 말했다.
Tao Zhexuan은 수학 분야에서 인공지능의 발전이 인간의 전통적인 문제 해결 방식을 변화시키고 있다고 지적했습니다. 과거 수학자들은 복잡한 문제를 해결하기 위해 관련 이론을 오랫동안 연구하고 이해하며, 그 과정에서 새로운 지식을 축적해야 했습니다. 하지만 요즘은 AI가 빠르게 답을 줄 수 있지만, 인간은 답 뒤에 숨겨진 추론 과정을 이해하지 못할 수도 있습니다.
그는 수학적 증명은 일반적으로 공식적인 도구를 통해 검증할 수 있기 때문에 순수 수학 분야에서는 그러한 변화의 위험을 상대적으로 제어할 수 있다고 믿습니다. 그러나 현실 세계에서 동일한 접근 방식을 사용하면 상황은 훨씬 더 복잡해집니다.
Tao Zhexuan은 전력망, 항공 교통 관제, 약물 연구 개발, 칩 설계 분야를 구체적으로 언급했습니다. 그는 미래에는 사람들이 처리를 위해 복잡한 문제를 AI에 직접 넘겨주지만 기본 모델과 실제 제약 조건에 대한 완전한 이해가 부족할 수 있다고 우려합니다.
이 경우 AI가 제시하는 솔루션은 수학적 모델에서는 완전히 확립될 수 있지만 현실 세계의 실제 요구를 충족하지는 않습니다. AI는 인간이 원래 달성하고자 했던 목표에서 벗어나면서 모델에서 허점이나 경계 조건을 찾아 피상적인 지표를 충족할 수도 있습니다.
타오저쉬안은 문제는 AI 기술 자체에 있는 것이 아니라 인간이 AI를 어떻게 활용하느냐에 있다고 강조했다. 그는 AI가 인간의 문제 해결을 도울 뿐만 아니라 문제에 대한 인간의 이해를 높이고 연구자들이 모델의 한계와 잠재적 위험을 식별하는 데 도움이 될 수 있도록 소위 "수학 2.0" 시대로 수학적 연구를 촉진할 것을 옹호합니다.
10월 22일 테렌스 타오(Terence Tao)도 네이처(Nature)지에 기사를 게재하여 수학계에 AI 시대의 연구 목표를 재검토할 것을 촉구했습니다. 그는 AI가 인간이 이러한 결과를 이해하고 소화할 수 있는 것보다 더 빠르게 수학적 증명을 생성하기 때문에 수학 연구가 새로운 도전에 직면하고 있다고 지적했습니다.
Tao Zhexuan은 AI 도구가 인간의 이해를 향상시킬 수 있는 잠재력을 가지고 있다고 믿지만 이를 위해서는 연구 방법과 인센티브 메커니즘의 변화가 필요합니다. AI 시대에 정말 갖춰야 할 것은 정답을 얻는 능력뿐만 아니라, 답을 이해하고 테스트하고 판단하는 인간의 능력이기도 하다.
댓글