요약:
OpenAI와 수학 커뮤니티 사이의 긴장이 다시 고조되었습니다. 필즈상 수상자 테렌스 타오(Terence Tao)는 최근 인간 수학 협회(AHM)가 발표한 성명을 자신의 개인 블로그에 다시 게시하여 OpenAI가 수학 커뮤니티의 연구 규범을 무시하고 수학자에게 협력을 중단할 것을 촉구했다고 비난했습니다. 논란은 OpenAI가 출판한 일련의 수학 연구 원고에서 비롯되었습니다. 내부 모델은 약 4,000개의 수학적 문제를 해결하려고 시도했으며 최종적으로 372개의 결과 세트가 포함된 연구 자료를 편집하고 일부 Lean 공식 증명 코드를 공개했습니다.
그러나 그 결과의 규모는 학계에서 만장일치로 인정받지 못했습니다. 수학자들이 관심을 갖는 것은 증명이 올바른지 여부뿐만 아니라, 파생 내용을 이해할 수 있는지, 이전 작업이 완전히 인용되었는지, 동료 토론을 통해 새로운 방법이 기존 지식 시스템에 통합될 수 있는지 여부입니다.
정식 검증은 논리적 도출을 확인할 수 있지만 명제 의미, 연구 기여도, 학문적 배경에 대한 수동 검토를 자동으로 대체할 수는 없습니다. 성명서는 “700개 이상의 문서를 한 번에 공개하는 것은 학문적 연구가 아니라 힘을 보여주는 것”이라고 밝혔다.
오랫동안 독특한 게임 추측에 깊이 관여해 온 이론 컴퓨터 과학자 다나 모시코비츠(Dana Moshkovitz)는 OpenAI가 발표한 관련 논문을 즉시 연구한 결과, 그 논문은 이해할 수 없는 구조, 불분명한 추론 단계, 혼란스러운 문헌 참조로 가득 차 있다고 말했습니다. 텍사스 대학교 오스틴 캠퍼스의 이론 컴퓨터 과학자인 스콧 애런슨(Scott Aaronson)은 OpenAI의 출시일을 “수학의 종말”이라고 묘사했습니다.
일부 네티즌들은 테렌스 타오의 견해가 너무 극단적이며 모두에게 이익이 될 수 있는 기술 개발을 방해해서는 안 된다고 생각합니다. 노스웨스턴 대학의 수학자 브리나 크라(Bryna Kra)는 AI가 연구자들이 과거에 해결하기 어려웠던 문제를 탐구하는 데 도움이 될 것으로 기대하지만 기업은 동료들이 연구를 확인하고 이해하고 계속할 수 있도록 학문적 표준에 보다 일관된 방식으로 결과를 게시해야 한다고 믿습니다.
양당 갈등의 핵심은 AI가 결과를 만들어내는 속도와 인간의 이해 사이의 격차이다. 전통적인 수학 연구에서는 논문, 세미나, 동료 교류를 통해 점진적인 증명 설명과 방법 개선이 필요합니다. 상업 실험실에서 수백 개의 복잡한 원고를 한 번에 출판하면 후속 검증, 수정 및 지식 통합 비용이 학계에 이전될 수 있습니다. 따라서 연구 의제, 출판 주기 및 모델 리소스는 소수의 기술 회사에 의해 점점 더 많은 영향을 받고 있습니다.
이번 논란은 갑자기 발생한 것이 아닙니다. 테렌스 타오(Terence Tao)는 이전에 다른 필즈상 수상자 24명과 성명서에 서명하여 AI 회사에 수학 문제를 모델 역량의 벤치마크로 사용하는 것은 기술 경쟁이 수학 연구에 대한 이해와 통찰력을 추구하려는 원래 의도에서 벗어날 수 있다고 경고했습니다.
9월 29일, 수학 및 인공 지능 자문 그룹(AGMAI)은 어려운 수학 문제를 테스트하기 위해 외부 세계가 접근할 수 없는 내부 모델을 사용하는 첨단 AI 실험실에 대해 명백히 반대하는 권고안을 발표했습니다.
OpenAI는 이번 릴리스가 AGMAI의 권장 사항을 기반으로 한다고 밝혔습니다. AHM은 회사가 권장 사항의 핵심 전제를 무시했기 때문에 수학자에게 OpenAI와의 협력을 중단할 것을 요청했다고 믿었습니다. 또한 AGMAI는 실험실이 모델 홍보를 위한 마케팅 도구로 수학적 결과 공개를 사용하지 않도록 요구합니다. 관련 릴리스에서는 모델명, 프롬프트 단어, 컴퓨팅 전력 비용, 오류 기록 등의 정보를 공개해야 합니다.
AI가 과학 연구 결과 역량을 지속적으로 향상함에 따라 수학계는 더 이상 기계가 정리를 증명할 수 있는지 여부뿐 아니라 연구 방향을 누가 결정하고, 검증 비용을 누가 부담하며, 기술 발전이 여전히 지식 축적에 도움이 되도록 보장하는 방법에 대한 문제에 직면하게 되었습니다.
댓글