울트라맨: PC에 메모리를 설치하는 것은 너무 낭비적이어서 AI 데이터센터에 맡기는 것이 최선이다

요약:

"글로벌 자원 할당의 관점에서 볼 때, 부족한 DRAM을 각자의 컴퓨터에 저장하고 대부분의 시간 동안 유휴 상태로 두는 것은 '매우 끔찍한' 배열입니다. 메모리는 클라우드 데이터 센터에 집중되어야 합니다."

그게 다입니다.

목요일 유튜브 채널 치키 파인트(Cheeky Pint)와의 인터뷰에서 오픈AI CEO 샘 알트만(Sam Altman)은 맥주를 마시며 편안한 분위기 속에서 대형 AI 모델의 로컬 추론과 무심코 히트를 쳤던 가정용 컴퓨터의 메모리 부족 문제에 대한 이야기를 나눴다.

현재 글로벌 AI 열풍으로 인한 메모리 가격 상승으로 PC와 휴대폰 가격이 폭등해 개인 소비자가 이미 감당하기 힘든 수준인 것으로 알고 있다. 동시에, 주요 메모리 제조사들이 생산 능력을 확대하는 데는 시간이 걸릴 것입니다. 첨단 AI 기업들이 대량의 메모리를 잡아먹고 있는 가운데, 개인용 컴퓨터의 메모리를 충분히 활용하는지에 대한 논의가 시작됐다.

알트만은 사람들이 자신의 컴퓨터에서 로컬 인공지능을 실행할 수 있을 것이라는 가설을 언급했는데, 이는 이미 소유하고 있는 컴퓨터일 수도 있고 AI 대형 모델 기술의 부상으로 조립하고 싶은 컴퓨터일 수도 있습니다. 그는 그것이 끔찍한 생각이라고 생각했습니다.

“글로벌 자원 할당의 관점에서 볼 때, 세계적으로 제한된 DRAM 메모리를 5%의 사용률로 각자의 컴퓨터에 유휴 상태로 두는 것은 실제로 매우 나쁩니다.”

오늘날 OpenAI의 주요 비즈니스는 대규모 데이터 센터에서 실행되는 비공개 소스 모델을 기반으로 하며, 그의 비즈니스 모델에 대한 그의 옹호는 AI 커뮤니티에서 논쟁을 불러일으켰습니다.

이로 인해 많은 사람들이 걱정하게 되었습니다. 미래에는 자체 하드웨어나 소프트웨어를 소유하는 것이 더 어려울 수 있으며 클라우드에서 지능형 에이전트와 컴퓨터를 임대하는 것만 고려할 수 있습니다.

일반 PC, 휴대폰, AI 가속기 카드는 서로 다른 메모리를 사용하지만 이들의 생산량은 일부 업스트림 웨이퍼 생산 능력을 두고 경쟁하게 됩니다. Altman은 글로벌 DRAM 자원 할당에 대해 논의하고 있었습니다. 메모리 용량이 어디에 사용될지 결정할 자격이 있는 사람이 누구인지에 관해서는 대부분의 경우 더 많은 주문을 하는 사람은 당연히 사용자입니다.

Altman의 주장 중 일부는 데이터 센터 건설이 둔화되지 않을 것이라는 가정에 기초하고 있습니다. 더욱이 그는 AI 데이터 센터에서 연중무휴 24시간 사용되는 메모리가 스프레드시트, 웹 브라우징, 게임, 심지어 가끔 로컬 AI에 사용되는 메모리보다 더 가치가 있을 것이라는 가설을 세웠습니다.

사실 이번 인터뷰는 굉장히 길었습니다. 알트만은 지난 2주 동안 글로벌 패닉을 촉발한 PHP 취약점과 훈련 모델의 샌드박싱, 수학 분야의 AI 연구에 대해서도 이야기했다.

그가 주로 말한 내용을 보세요:

AI가 취약점의 물결을 일으키고 있습니다

PHP의 엄청나게 큰 취약점과 관련하여 Altman의 판단은 다음과 같습니다. 취약점을 발견하는 대규모 모델의 능력은 지속적으로 빠르게 향상되고 있으며 인터넷의 코드 표면은 매우 거대합니다. 사람들이 체계적으로 AI를 사용하여 모든 코드를 스캔하기 시작하면 “심각한 취약점이 예상보다 훨씬 더 큰 세상에 이르게 될 것입니다.” 그는 패치만으로는 충분하지 않으며 아키텍처를 재구성해야 하며 "취약성이 점점 지능화되는" 세상을 위해 라우터, 운영 체제 및 애플리케이션 계층을 모두 재설계해야 한다고 믿습니다. 2년 전만 해도 '기술 스택 전체를 다시 쓴다'는 말은 말도 안 되는 얘기처럼 들렸지만, 이제는 새로운 스택을 구축하려는 스타트업이 있다.

그는 보기 드문 업계 자기비판을 했습니다. "이 기술의 모든 잠재적인 단점 위험이 그만한 가치가 있는 이유를 사람들에게 제대로 설명하지 못했다고 생각합니다." 그는 AI 산업의 내러티브는 암 치료와 비용 절감을 약속하면서 실업, 통제력 상실, 강력한 규제의 필요성 등의 미래를 그리는 나쁜 판매 홍보라고 말했습니다. 그는 "샌프란시스코의 몇 평방 마일 내에 있는 사람들이 모든 결정을 내릴 수는 없다"는 이유로 OpenAI의 반복적 배포 및 기능 과잉에 대한 주장을 반복했습니다.

모델에 대한 '최대 보안 감옥'을 구축할 수 있는지 묻는 질문에 Ultraman은 비관적인 대답을 했습니다. 샌드박스는 어느 정도까지만 효과적이며 모니터링(사고 사슬 검토 및 활성화 모니터링 포함)은 더 발전할 수 있지만 결국 신뢰도가 높고 조정되어야 합니다.

그는 가장 똑똑한 보안 연구원보다 백만 배 더 똑똑하고 인간이 아직 이해하지 못하는 새로운 과학을 발견할 수 있는 모델에 직면하여 수사적으로 물었습니다. 정말로 그 샌드박스를 믿을 수 있습니까?

그는 떼가 메뚜기를 연상시키기 때문에 '에이전트 스웜'이라는 단어를 싫어한다는 점을 분명히 밝히고, 이를 에이전트 팀(에이전트 팀)이라고 부르기를 고집하며, 팀 간의 상호 견제와 균형의 본질이 다원성을 통해 강건함을 달성하는 메커니즘에 해당하며, 안전한 발전을 이룰 수 있는 방향이라고 믿습니다.

지적 폭발과 과학적 발견의 대가

Altman은 곡선을 설명했습니다. GPT-4 시대에는 단일 문제에 컴퓨팅 성능에 1달러를 효과적으로 투자하기가 어려웠습니다. 사고의 사슬을 통해 모델은 "열심히 생각"할 수 있지만 이제 전체 에이전트 팀을 수만 번 병렬화할 수 있습니다. 일반 사용자와 고급 사용자 간의 사용 격차는 지속적으로 확대되고 있습니다.

OpenAI 내에서 컴퓨팅 파워가 어떻게 할당되는지에 대해 그는 직원들이 많은 자유를 누리지만 높은 토큰 소비는 결코 보상되지 않는다고 말했습니다. "사실 토큰 순위가 높다는 건 좀 부끄러운 일이고, 절대 승격 이유가 되지 않습니다." 그는 Navier-Stokes 방정식의 증명을 예로 사용했습니다. 단일 증명 비용은 약 천만 달러였으며 당시 에이전트 팀의 확장 법칙에 대해 아무도 몰랐기 때문에 "일주일 동안 통제 불능"이었습니다. 그러나 그는 더 스마트한 모델과 방법을 사용하여 1년 안에 비용의 1/100로 다시 작업을 수행할 수 있을 것으로 예상합니다.

그 역시 보기 드문 감정을 드러냈다. 당시 상황은 정말 놀라웠다. 주말에 내부적으로 새 모델이 출시되자 다들 이 모델에 가장 어려운 문제를 다 던졌고, 하나씩 해결해 나갔습니다. 사람들은 모델이 이런 일을 할 것이라고 전혀 기대하지 않았습니다. 많은 사람들의 학문적 경력에서 가장 어려운 과학 연구 문제가 이 모델에 의해 하나씩 해결되고 다양한 분야를 포괄하는 것을 모두가 목격했습니다. 그 장면은 정말 놀라웠습니다.

"너무 신나서 잠도 못 자서 이틀 밤을 샐 뻔했습니다. 나중에 발표한 결과 중 상당수는 사실 당시 우리가 해결한 문제였습니다."

울트라맨은 당시 극도로 설렘과 행복을 느꼈지만, 동시에 예상치 못한 슬픔과 우울함, 그리고 '한 시대가 끝나간다'는 느낌도 느꼈다. 그것은 향수일 뿐만 아니라, “아침에 진실을 배우고 저녁에 죽는” 인간 과학자들에 대한 일종의 공감이기도 하다. 그는 인간은 기본적인 지식을 얻을 자격이 있지만 산업계는 이 분야의 실무자들에게 해결책을 제시해야 한다고 주장합니다.

초지능에 대해 이야기하기에는 아직 이르지만, 울트라맨은 수조 명의 작은 초인이 IQ 1조보다 낫다고 믿습니다.

"나는 IQ가 1조인 AI 한 명이 사회에 합류하는 것보다 약간 초인적인 지능을 지닌 AI가 사회에 합류하는 것이 훨씬 직관적으로 더 바람직합니다."

"직관적으로 나는 IQ를 가진 1조 개의 AI보다 약간 초인적인 지능을 가진 1조 개의 AI가 사회에 합류하는 것을 선호합니다."

그의 주장은 사회의 강력한 견고함은 수많은 구성원의 견제와 균형, 협력에서 나온다는 것입니다. "단일 두뇌" 세계에는 이런 종류의 회복력이 없습니다. 그러나 그는 이것이 저절로 이루어지는 것이 아니며 적극적으로 추진되어야 한다고 강조했다.

AI 시대에는 시장 규제가 더 이상 통하지 않는다?

글로벌 메모리 부족과 관련하여 알트만은 자체 개발 칩(와트당 지능형 성능 향상을 위해), 자체 구축 데이터 센터, 로봇 프로젝트, AI 제어 로봇을 사용하여 웨이퍼 공장을 운영하고 터빈 및 태양광 패널을 구축하고 데이터 센터를 구축하는 보다 대담한 "자체 복제 데이터 센터" 개념 등 OpenAI 레이아웃을 소개했습니다. "우리는 이것을 통제하고 있습니다"라고 그는 말했습니다.

'시장 자율규제'가 오랫동안 실현되지 못한 이유에 대해 그는 현재의 진전이 매우 나쁘다고 판단하며 메모리 제조사의 행동 논리를 제시한다. 이 산업은 오랫동안 200억 달러를 투자하고 19억 달러의 CAPEX를 벌어야 하는 쓰라린 사업이었다. 역사상 많은 거대 기업들이 과도한 공장 건설로 인해 거의 파산할 뻔했습니다. 오늘날 각 회사는 연간 약 1000억 달러의 잉여현금흐름을 벌 수 있지만, 고통스러운 기억으로 인해 생산 확대에 있어서는 극도로 보수적이었습니다. 이로부터 그는 "보이지 않는 손이 이제 작동하지 않는다"고 주장합니다.

그는 칩 산업의 역량을 두 가지 유형으로 구분했습니다. 리소그래피는 "지구상에서 단 한 회사만이 이를 수행하는 방법을 알고 있는 것 같습니다." 그러나 칩 설계(궁극적으로 팹으로 전송되는 파일)는 이미 AI를 위한 훌륭한 장소입니다.

Recursive Self Improvement(RSI)의 실제 수준에 대해 이야기하면서 Altman은 현재 모델이 "5% 계산 효율성 개선 찾기"와 같은 작업을 완료할 수 있지만 AI가 변환기 수준에서 새로운 아키텍처를 발견하도록 하는 방법을 아는 사람은 아무도 없다고 말했습니다. 누락된 것은 더 똑똑한 모델입니다. 그는 심지어 사회가 일정 기간 동안 단일 모델의 IQ를 제한하는 데 동의해야 할 수도 있다고 예측했습니다. “앞으로 진전이 부족하다면 AI의 연구 능력이 아니라 이번 결정에서 비롯될 것”이라고 말했다.

그는 디플레이션에 대한 믿음을 보여주었습니다.

현재 주요 AI 컴퓨팅 성능의 각 GW에 대한 5년 총 소유 비용은 약 700억 달러입니다. 200억으로 줄일 수 있다면 이상적일 것이다. 동시에 모델 성능은 매년 10배씩 향상되어야 합니다. 이를 달성하는 길은 에너지를 더 저렴하게 만들고 "모래에서 토큰 출력까지" 사이에 쌓인 총 이익을 압축하는 것입니다.

기업의 토큰 예산 불안에 대해 그는 현재 더 일반적인 문제는 AI를 너무 많이 사용하는 것보다 충분히 사용하지 않는 것이라고 생각합니다.

개인정보의 가격을 어떻게 책정하나요?

최근 핫한 개인용 지능형 제품(뮤즈 등)에 대해 울트라맨 측은 “아직 매킨토시 시대는 도래하지 않았다”고 판단하고 있다. 사람들은 이러한 제품을 좋아하지만 "그것이 없는 삶을 상상할 수 없다"는 정도는 아닙니다. 승자는 현재 제품과 비슷해 보이지만 "정상적으로 작동"하고 신뢰할 수 있으며 더 복잡한 작업을 처리할 수 있습니다. 그는 컴퓨터 사용의 고양이와 쥐 게임은 결국 "AI가 당신을 대신하여 컴퓨터를 작동하도록 할 권리가 있는" 지점으로 수렴될 것이라고 믿습니다.

지능형 에이전트의 상용화 방법에 대해 알트만은 기업들이 제품에 AI 팝업과 HTML을 고수하고 고객 관계 상실을 걱정하지만 소비자는 메인 채팅 애플리케이션에서 AI가 모든 것을 해주기를 원한다고 믿습니다. 그는 실제 해자는 HTML이 아닌 브랜드, 선택 및 이행 네트워크에서 나온다고 믿습니다. 그는 10번 중 10번은 가격이 더 비싸더라도 Amazon Pay를 선택할 것이라고 적극적으로 밝혔습니다. 그는 Amazon의 이행 네트워크를 칭찬하고 ChatGPT 내의 협력 플랫폼이 충분하지 않다고 인정했습니다. 그는 또한 모든 웹 양식을 '가짜 작업'이라고 부르며 현재 상황을 앱스토어 시대와 비교했습니다.

가격을 설계할 때 OpenAI가 AWS의 작업 기반 가격을 거의 모방하고 토큰 청구를 완전히 포기한 것은 바로 이 때문입니다. 그러나 “내가 지불하는 비용이 무엇인지 알아야 합니다.”라는 고객의 강력한 반대에 부딪혔습니다. 그 이상이라도 토큰 등 이해할 수 있는 단위여야 합니다.