요약:
OpenAI는 최근 인공지능과 수학적 연구의 관계에 대해 OpenAI 및 기타 AI 기업에 조언을 제공하기 위해 최고의 수학자들로 구성된 독립적인 자문 그룹을 설립했다고 발표했습니다. AGMAI(수학 및 인공지능 자문 그룹)라는 새로운 조직은 AI가 생성한 수학적 결과를 어떻게 검토, 출판 및 전파해야 하는지, 그리고 AI 회사가 수학 연구 분야에서 오랫동안 지속되어 온 학문적, 전문적 규범을 어떻게 따라야 하는지에 중점을 둘 것입니다.
이러한 움직임은 OpenAI가 최근 다수의 주요 수학 결과를 발표한 이후에 발생했습니다. 지난 몇 달 동안 OpenAI의 AI 모델은 수학 분야에서 일련의 눈길을 끄는 발전을 이루었습니다. 그러나 관련 결과가 출판되는 방식과 기존 수학 연구의 인용 및 귀속 문제도 수학계에서 광범위한 논란을 불러일으켰습니다. 일부 수학자들은 OpenAI가 수학 연구의 작동 방식을 완전히 이해하고 있는지, AI 회사가 수학 커뮤니티에서 오랫동안 확립된 귀속, 우선 순위 및 학문적 의사 소통 규범을 존중하는지 여부에 대해 의문을 제기합니다.
AGMAI에는 스탠포드 대학교, 하버드 대학교, 옥스퍼드 대학교, 케임브리지 대학교 및 기타 기관 출신의 총 9명의 회원이 있으며, 여기에는 수학 분야의 최고 학자, 필즈상 수상자 및 맥아더의 '천재 보조금' 수상자도 포함됩니다. 이 조직은 미국 뉴저지 주 프린스턴에 있는 고등연구소(Institute for Advanced Study)에서 주최할 예정입니다. 이곳은 한때 알베르트 아인슈타인(Albert Einstein), 존 폰 노이만(John von Neumann), J. 로버트 오펜하이머(J. Robert Oppenheimer)와 같은 유명한 과학자들의 연구 장소였습니다. 또한 현대 수학 연구 분야에서 가장 영향력 있는 학술 기관 중 하나입니다.
OpenAI는 관련 제안이 OpenAI에서 적극적으로 제안되지 않더라도 이 조직이 독립적으로 유지되며 OpenAI에 적극적으로 제안을 제공할 수 있는 권한을 갖는다고 밝혔습니다. 자문 그룹은 또한 AI가 수학 분야에 미치는 영향을 공개적으로 논의하고 자체 재량에 따라 권장 사항을 공개할지 여부를 결정할 수 있습니다. OpenAI는 자문단 구성원은 OpenAI로부터 보상을 받지 않으며 스스로 구성원 구성을 조정할 수 있다고 밝혔습니다.
OpenAI에 따르면 자문단은 회사가 AI로 생성된 새로운 수학적 결과가 얼마나 중요한지 판단하는 데 도움을 주고, 이러한 결과 공개를 조정하는 방법과 수학 연구에 대한 학문적, 직업적 규범을 준수하는 방법에 대한 의견을 제공할 것입니다. 또한 그룹은 OpenAI의 AI 도구가 어떻게 수학 연구 및 수학 교육을 더 잘 지원할 수 있는지 논의할 것입니다.
OpenAI는 구성원들이 독립적인 판단을 내리고 회사에 질문을 던질 수 있는지 여부가 이 조직의 진정한 가치에 달려 있음을 강조합니다. 즉, 자문단은 단순히 OpenAI의 연구 결과를 지지하는 것이 아니라, 결과가 발표되기 전에 수학계의 독립적인 의견을 제공하기를 희망합니다.
그러나 이번 합의가 발표된 후에도 수학계에는 여전히 의문점이 많습니다. 첫 번째는 이 9명의 멤버가 정확히 어떻게 선발됐는가이다. 취리히 소재 스위스연방공과대학 연구원인 사이먼 마차도(Simon Machado)는 전체 과정에 아직 불투명한 측면이 많다고 생각합니다. AGMAI 공식 웹사이트의 소개에 따르면 OpenAI는 처음에 외부 자문위원회를 구성하기 위해 일부 수학자에게 연락했습니다. OpenAI와의 논의 끝에 이들 수학자들은 마침내 독립 조직을 설립하기로 결정하고 다른 구성원들도 합류하도록 초대했습니다. 하지만 처음에 OpenAI로부터 연락을 받은 사람이 누구인지, 나머지 구성원이 어떻게 식별되었는지는 완전히 공개되지 않았습니다.
자문 그룹의 일원인 마틴 헤어러(Martin Hairer)는 나중에 이 조직의 형성 과정을 둘러싼 많은 의혹을 설명하는 기사를 발표했습니다. 그는 인공지능이 수학 연구에 지대한 영향을 미쳤으며 결과의 귀속, 연구 우선순위, AI가 생성한 수학적 아이디어를 인간이 진정으로 이해하는지 여부 등 일련의 문제를 야기했다고 말했습니다. 따라서 수학계가 AI 연구실과 완전히 비접촉식 접근 방식을 취하고 이들 기업을 단순히 무시하는 것은 비현실적일 것입니다.
헤어러는 특히 자문단의 설립이 OpenAI와의 접촉에서 비롯되었지만 9명의 구성원 모두가 OpenAI와 직접 접촉한 것은 아니며, 최종적으로 설립된 조직은 OpenAI 및 기타 첨단 AI 기업과 독립적이라는 점을 강조했습니다. 일반적인 기밀 유지 요구 사항 외에 회원은 공개 의견 표현을 제한하는 계약에 서명하지 않으며 OpenAI로부터 금전적 보상을 받지 않습니다. 이 조직은 기술 및 조직 지원을 위해 프린스턴 고등연구소에 주로 의존하고 있습니다.
헤어러는 자문단의 가장 중요한 목표는 수학계 전체의 이익을 최대한 대변하는 것이라고 말했습니다. 그는 또한 9명의 수학자들이 전체 수학계를 완전히 대표하는 것은 당연히 불가능하다는 점을 인정했지만, 모든 구성원이 이 책임을 매우 진지하게 받아들이고 선의와 독립적인 판단으로 참여할 것이라고 믿었습니다.
자문단의 규모가 작다는 점도 또 다른 우려를 불러일으킵니다. 현대 수학은 고도로 전문화되었으며, 서로 다른 분야 간에는 매우 명백한 지식 장벽이 있는 경우가 많습니다. 세계 최고의 수학자라도 고도로 전문화된 다른 분야에서는 AI 결과를 판단하지 못할 수도 있습니다. 따라서 일부 수학자들은 AI가 수반할 수 있는 전체 수학 연구 분야를 9명의 최고 학자들만이 다룰 수 있을지 걱정하고 있습니다.
스코틀랜드 헤리엇-와트 대학교의 수학과 신임 교수인 프란체스코 푸르니에 파시오(Francesco Fournier-Facio)는 자문 그룹에 대해 엇갈린 태도를 갖고 있다고 말했습니다. 한편으로 그는 AI 기업이 수학자들과 더 많이 소통할 수 있도록 허용하면 현 상태를 개선하는 데 분명히 도움이 될 것이라고 믿습니다. 한편, 그는 소수의 최고 학자들로 구성된 이 조직이 AI의 급속한 발전으로 인해 영향을 받고 있는 수많은 수학 연구자들을 진정으로 대표할 수 있는지 의문을 제기합니다. 그는 현재 조직이 최고 학계 인사들로 구성된 "상아탑"에 더 가깝다고 믿습니다.
자문단이 향후 수학 커뮤니티의 신뢰를 얻을 수 있을지 여부는 OpenAI에 실제로 얼마나 많은 영향을 미칠 수 있는지에 달려 있습니다. 특히 OpenAI가 자문 그룹 설립을 발표했을 때 놀라운 소식도 공개했다는 점은 주목할 가치가 있습니다. 회사가 개발 중이지만 아직 공식적으로 출시되지 않은 새로운 모델은 이전에 Navier-Stokes Millennium Prize 문제를 해결했다고 주장되었으며 현재 100개 이상의 장기 미해결 수학 문제를 해결했으며 이러한 문제는 다양한 수학 분야에 분산되어 있습니다.
OpenAI는 이전에 이 모델이 또 다른 밀레니엄 상 문제에 도전하고 있다고 발표했습니다. AI 모델이 계속해서 새로운 수학적 결과를 만들어내면서, 수많은 연구 결과를 어떻게 단기간에 검토, 검증, 정리, 출판할지가 현실적 문제가 됐다. AGMAI는 공식 웹사이트를 통해 현재 직면한 첫 번째 작업 중 하나는 OpenAI가 내부 AI 모델에서 생성된 수많은 주요 수학적 결과의 공개를 조정하도록 돕는 것이라고 밝혔습니다.
이것이 바로 이 자문단이 이때 설립된 이유이기도 합니다. 지난 몇 달 동안 수학 분야에서 OpenAI의 지속적인 혁신은 인공지능 역량의 향상을 보여주는 중요한 증거였어야 했지만, 관련 사건에는 일련의 논란이 뒤따랐습니다. 일부 수학자들은 OpenAI가 결과를 발표했을 때 AI 결과에 대한 이전 인간 연구의 기여를 완전히 설명하지 않았으며 항상 수학 커뮤니티에 익숙한 방식으로 인용 및 우선순위 문제를 처리하지 않았다고 믿습니다. 일부 연구자들은 OpenAI가 자신의 연구 결과를 적절한 신용 없이 활용하고 있다고 비난하기도 했습니다.
이러한 논란으로 인해 일부 수학자들은 OpenAI가 수학 연구 커뮤니티의 운영 방식을 진정으로 이해하고 있는지 의문을 갖게 되었습니다.
Imperial College London의 수학 교수인 Kevin Buzzard는 다음과 같이 질문했습니다. 지난 몇 달 동안 수학계에서 많은 공개 토론이 있었기 때문에 AI가 수학 연구에 참여해야 한다는 수학자들의 요구가 명확하게 표현되었는데, OpenAI가 이러한 문제를 이해하기 위해 세계 최고의 수학자들로 구성된 위원회가 필요한 이유는 무엇입니까? 그의 견해로는 수학계에 어려운 정리를 풀 수 있는 사람이 부족한 것이 문제가 아니라 AI 기업이 수학의 학문과 수학 연구계 자체의 규칙을 더 잘 이해해야 한다는 것이다.
AGMAI는 현재 다른 수학자와의 교환, 공개 피드백 양식, Proofs 및 Prompts와 같은 토론 플랫폼을 통해 수학 커뮤니티로부터 의견을 수집하고 있습니다. 이러한 플랫폼은 최근 수학 커뮤니티에서 인공 지능이 미치는 영향을 논의하는 중요한 장소가 되었습니다.
동시에 OpenAI가 직면한 문제는 몇 편의 논문을 출판하는 방법을 훨씬 뛰어 넘었습니다. AI가 오랫동안 풀리지 않았던 수학적 결과를 독립적으로 산출하기 시작하면서 “누가 무엇을 먼저 발견했는지”, “누가 서명을 받아야 하는지”, “어떤 인간의 연구가 최종 결과의 기초를 제공했는지” 등 수학 연구의 가장 기본적인 질문이 모두 재정의될 필요가 있다.
이것은 현재 AI가 수학 연구 분야에 진입하면서 가져온 핵심 변화이기도 합니다. 전통적인 수학 연구는 일반적으로 연구자들이 논문을 공개적으로 출판하고, 이전 연구를 인용하고, 동료 검토를 거치고, 기존 결과를 지속적으로 구축하는 방식에 의존합니다. AI는 매우 짧은 시간에 방대한 양의 기존 지식을 읽고 처리하며 새로운 수학적 파생물을 생성할 수 있습니다. AI가 결과를 얻는 경로를 인간이 완전히 추적할 수 없으면 전통적인 결과 귀속 및 우선순위 판단 방법이 더욱 복잡해집니다.
나비에-스토크스 문제에 대한 OpenAI의 솔루션을 둘러싼 최근 논란은 특히 이 문제를 부각시켰습니다. OpenAI는 관련 논란을 조사한 결과 Codex를 사용하여 수학자가 제출한 프롬프트 단어가 문제에 대한 최종 시스템의 솔루션에 영향을 미칠 가능성이 낮다고 밝혔습니다. 그러나 이러한 사건은 여전히 일부 수학자들을 걱정시키고 있습니다. 앞으로는 AI가 만들어내는 수학적 결과가 어떤 종류의 인간 연구에 기초하고 있는지 정확하게 판단하는 것이 점점 더 어려워질 수 있습니다.
AGMAI 회원인 헤어러(Hairer)도 자문단은 AI 기업이 자신들의 홍보 필요에 따라 자문단의 의견을 해석하거나 사용할 수 있다는 점을 주의해야 한다고 인정했습니다. 하지만 AI가 필연적으로 수학 연구에 들어간 이후에는 AI 기업과의 소통을 완전히 거부해도 문제가 해결되지 않는다고 그는 믿는다. 수학 커뮤니티를 AI 산업과 분리하기보다는 양측이 모두 수용할 수 있는 일련의 기본 규칙을 확립하도록 노력해야 합니다.
OpenAI의 경우 이 자문단의 설립은 회사가 이전에 익숙하지 않았던 현실에 직면했다는 것을 의미하기도 합니다. 인공지능은 수학적 연구를 위한 보조 도구에서 새로운 수학적 결과를 직접 생성할 수 있는 연구 참여자로 점차 변모하고 있으며, 전통적인 수학 커뮤니티는 이러한 변화에 대한 기성 규칙을 확립하지 못했습니다.
미래에 AGMAI는 다음 OpenAI 수학 결과를 언제 어떻게 공개해야 하는지 뿐만 아니라 AI가 생성한 수학 결과를 어떻게 서명해야 하는지, 인간 연구를 인용하는 방법, 결과의 독립성을 어떻게 확인하는지, 수학자와 AI 시스템 간에 어떤 종류의 협력 관계를 구축해야 하는지 등을 해결해야 할 수도 있습니다. OpenAI는 자사의 새로운 모델이 오랫동안 해결되지 않은 100개 이상의 수학 문제를 해결했다고 주장하면서 이러한 문제는 이론적 논의에서 직면해야 하는 실제 문제로 빠르게 이동하고 있습니다.
댓글