요약:
OpenAI는 개인적으로 전체 수학 커뮤니티의 분노를 불러일으키고 있습니다! 얼마 전 뉴욕대 수학자 트리스탄 벅마스터(Tristan Buckmaster)는 'NS 방정식' 소유권을 두고 OpenAI와 치열한 갈등을 겪었다. 한 성명에서는 OpenAI가 수학자들에게 전화로 압력을 가하고 결과를 강제로 빼앗았다는 사실도 밝혀졌습니다. 의외로 이 파도는 가라앉지 않았는데, 또 다른 파도가 일어났다.
바로 오늘, 그룹 이론 분야의 리더이자 드레스덴 공과 대학의 수학자인 안드레아스 톰(Andreas Thom)은 소셜 네트워크에 이메일을 통해 '반박할 수 없는 증거'를 게시했습니다.
그는 OpenAI의 신세대 Astra가 자신이 20년 동안 연구해 온 분야, 즉 비소픽 그룹을 표절했다고 비난했습니다.
OpenAI는 이를 강력히 부인했습니다.
단 몇 시간 만에 이 소식은 곧바로 인기 목록에 올랐습니다.
모두가 또 놀랐습니다. 일부 네티즌들은 수학자들이 칠판, 펜, 종이의 시대로 완전히 돌아가는 것이 최선일 것이라고 말했다.
100년 된 추측이 풀렸다고?
아스트라가 미공개 결과를 훔쳤습니다
이 사건의 원인은 8월 초 OpenAI의 세간의 이목을 끄는 공식 발표로 거슬러 올라갑니다——
Astra는 '필즈 메달 수준' 문제 10개를 모두 성공적으로 해결했습니다.
그 중 하나는 27년 동안 집단이론 분야를 괴롭혔던 '그로모프의 인성 추측'이다.
아스트라는 비부드러움 그룹이 존재한다는 증거를 발견했습니다.
이 소식이 나오자마자 AI 커뮤니티 전체는 "AGI가 순수한 수학적 발견의 문을 열었다"고 환호했습니다.
그러나 업계 최고 전문가들은 이것이 점점 더 이상하다는 것을 알게 되었습니다.
20년 넘게 이 분야에서 일해온 선도적인 학자로서 Andreas Thom과 그의 장기 협력자 Gábor Kun은 다음을 예리하게 발견했습니다.
Astra의 증명 프로세스에서 핵심적이고 가장 정교한 키 파생 단계는 두 회사가 발전하고 있는 기술 경로와 매우 일치합니다.
더 이상한 점은 톰 자신의 말에 따르면——
쿤과 나의 방식은 유연성이 없는 집단을 공략하기 위한 주류 방향은 아니었습니다. 당시 학계는 양자 게임과 같은 다른 접근 방식에 대해 더 낙관적이었습니다.
OpenAI의 모델은 어떻게 매우 인기가 없고 세심한 기술을 정확하게 포착하고 마스터합니까?
미스터리의 답은 곧 밝혀졌고, 진실은 소름끼칠 뿐이었습니다.
OpenAI가 공식적으로 결과를 발표하기 몇 달 전, Thom과 그의 동료들은 ChatGPT를 자주 사용하여 "확장 일치 문제"에 대해 논의했으며 대화 상자에 추측에 대한 수많은 미공개 핵심 파생 항목과 최신 증명 세부 정보를 입력했습니다.
20년의 노력과 몇 달 간의 벤치 앉아 있는 시간은 세계를 충격에 빠뜨린 OpenAI의 새 모델의 '독립적인 성과'로 나타났습니다.
이 숨은 누구도 삼킬 수 없을 것입니다.
OpenAI: 전혀 발생하지 않음
안드레아스 톰은 이상 현상을 발견한 후 즉시 공격을 선택하지 않았습니다.
그는 학자에게 기대되는 자제심을 유지하고 OpenAI의 두 핵심 연구원인 Mark Sellke와 Sébastien Bubeck에게 공식 이메일을 보냈습니다.
편지에서 Thom은 매우 정확하고 논리적인 두 가지 질문을 제기했습니다.
1. 지난 몇 달 동안 게시되지 않은 결과를 논의했던 ChatGPT의 대화 기록이 모델의 학습 데이터에 포함되어 있나요?
2. 모델 문제 해결 및 추론 중에 이러한 기록을 직접 검색하고 액세스할 수 있습니까?
이에 대해 Mark Sellke 연구원은 냉정한 문장 하나만 포함된 매우 짧은 이메일로 응답했습니다.
ChatGPT와의 대화에 관해: 그런 일은 일어나지 않았습니다.
데이터 감사에 대한 설명이나 개인 정보 보호 메커니즘에 대한 설명, 형식화된 진부한 표현조차 없고 오만하고 오만한 단정적인 거부가 있을 뿐입니다.
Thom은 또한 모델 훈련 옵션을 끈 날짜인 6월 29일을 공개했습니다.
그러나 그는 끄는 스위치는 미래만을 위한 것이라고 믿으며 이전 대화에서 무슨 일이 일어났는지 대답할 수 없으며 파생 데이터가 훈련 프로세스에 선택되었는지 설명할 수도 없습니다.
사용자는 설정을 볼 수 있지만 백그라운드에서 데이터 흐름은 볼 수 없습니다.
Thom은 나중에 OpenAI의 반응이 무례할 뿐만 아니라 궤변으로 가득 차 있었다고 회상했습니다.
그는 "훈련 세트에 들어가기"와 "온라인 통화"를 명확하게 구분했지만 Sellke는 모든 실질적인 문제를 직접적으로 없애기 위해 모호한 "절대 일어나지 않은 일"을 사용했습니다.
그러나 오만함의 대가는 금방 찾아옵니다.
불과 몇 주 후 OpenAI는 Navier-Stokes 방정식으로 알려진 밀레니엄 퍼즐을 둘러싼 논쟁에 휘말렸습니다.
Tristan Buckmaster와 Levent Alpöge의 압박에 직면한 OpenAI의 공식 홍보 입장은 갑자기 바뀌었습니다.
특정 계정의 개인 데이터는 검색되지 않았다고 주장했지만 그는 인정했습니다.——
"모델 개선을 위해 고객 제품의 익명화된 데이터를 사용하는 것을 배제할 수 없습니다."
부메랑이 그의 목을 정확하게 관통했다.
전에 톰을 대면했을 때 "절대 그런 일은 없었다"고 다짐했지만, 그는 눈 깜짝할 사이에 모델 개선을 위해 비식별화된 데이터가 사용됐다는 사실을 인정했습니다.
수학자 이름만 지워지면 공개적으로 공개되지 않은 인류의 전복적인 지혜가 실리콘밸리 거대 기업의 서버에서 공개적으로 '비식별화 및 회백화'되어 AI의 자율적 지혜로 변신할 수 있다? !
최신 장편 기사에서 Andreas Thom은 이 단어 게임을 무자비하게 파쇄했습니다.
비식별화는 학자의 이름을 삭제할 수는 있지만 수학적 아이디어의 지적 핵심을 삭제할 수는 없습니다.
수학 역사상 가장 큰 지적 강도는 무엇일까요?
Tristan Buckmaster부터 Andreas Thom까지 이제 일어섰습니다.
첫 번째는 '우연'이라고 할 수 있고, 두 번째는 '오해'라고 설명했다. 그러다가 최고 학자들의 일련의 집단적 배신과 비난이 OpenAI가 세심하게 엮은 "AGI 과학 신화"를 완전히 깨뜨렸습니다.
Valerio Capraro가 긴 기사에서 요구한 것처럼 이것은 더 이상 고립된 학문적 논쟁이 아닙니다.
이 일련의 비난이 사실로 입증된다면, 우리가 목격하고 있는 것은 과학 역사상 최대 규모의 지적 강도 스캔들 중 하나입니다.
그렇다면 다음에는 어떤 과학자가 감히 심연으로 이어지는 이 대화 상자를 열까요?
오늘날 OpenAI는 글로벌 수학 커뮤니티에 실질적인 설명을 제공하고 있습니다.
댓글