요약:
겉으로는 강력해 보이는 로봇 시연 중 다수가 진정한 AI로 간주되지 않는다고 머스크는 말했습니다.
미국 현지 시간으로 10월 10일 머스크는 텍사스주 오스틴의 테슬라 기가팩토리에서 열린 X 테이크오버(X Takeover) 행사에 영상연결을 통해 참가했다. 기술에 열광하는 이들의 모임은 처음으로 테슬라 공장에 들어갔는데, 인터뷰의 주제는 '인류의 미래는 어디로 갈 것인가?'였습니다. 주제는 방대하지만 머스크는 로봇이 나사를 조이는 방법까지 자세히 설명했다.
Google과 Nvidia는 둘 다 로봇 AI를 늘리고 있지만 머스크는 그 아름다운 시연에 대해 높은 평가를 갖고 있지 않습니다. 동작은 미리 안무가 되어 있지만 실제 기술로 간주할 수 없으며 로봇은 이전에 본 적이 없는 상황에 대처할 수 있어야 합니다.
그의 옵티머스 프라임에도 어려움이 있었습니다. 작은 나사를 집어 나무에 고정합니다. 사람이 하기에는 어렵지 않습니다. 하지만 로봇으로 바꾸면 힘과 정밀도, 촉감 모두 중요하다.
칩 만들기에 관해서는 아직 어떻게 하는지 모른다고 인정했습니다.
하지만 결국엔 누구보다 잘하고 싶어요.
그는 제조, 패키징, 테스트를 중앙 집중화하고 매년 약 10개의 칩 솔루션을 설계 및 테스트하기를 원합니다. 그는 "예전에는 로켓은커녕 자동차도 만들지 못했다"고 말했다.
우주선의 다음 단계는 부스터와 우주선을 모두 회수할 수 있도록 공중에 있는 상단 우주선을 잡는 것입니다. 로보택시가 더 많은 도시에 진입하려면 철도 건널목과 복잡한 교차로를 처리해야 하며, 밤에 회색 도로에 누워 있는 회색 고양이를 식별할 수도 있어야 합니다.
AI 뮤직비디오에 관해서라면 머스크는 분명히 더 확신합니다. 일부 AI 뮤직비디오는 이미 그가 본 뮤직비디오 상위 10~20위에 랭크됐다. AI는 코드를 작성하고 논리를 처리할 수 있는데, 이는 그가 이해하기 어렵지 않습니다. 그가 놀란 것은 AI도 '맛'을 보여주고 인상적인 작품을 만들어낼 수 있다는 점이다.
그는 또한 개발자들에게 AI를 잘 다룰 것을 촉구했습니다. 그가 확인한 Grok 훈련 기록에서 일부 정답은 채점 프로그램에 의해 잘못 판단되었으며, 모델은 테스트를 통과할 수 있는 답만 반복해서 찾을 수 있었습니다. 그는 추론 텍스트가 "머리에 총을 겨누고" 대답하는 남자처럼 읽힌다고 말했다. 미래의 초지능과 관련해 그는 장기적인 '남용'이 보복으로 이어질 수 있다는 우려까지 제기했다.
인터뷰에서도 편안한 에피소드가 있었습니다. 진행자는 온라인에서 '중국판 머스크'를 언급했고, 머스크는 자신을 초대해 무대에 함께 하고 싶다고 말했다. 이어 진행자는 "출연비가 얼마나 비싼지 모르실 수도 있다"고 상기시켰다.
다음은 일부 발언과 현장 교류를 축약한 인터뷰를 편집한 것입니다.
01 머스크는 테슬라의 삶과 죽음의 두 순간을 회상합니다
사회자:
Elon님, 3년 연속으로 X Takeover에 다시 오신 것을 환영합니다. 시간을 내주셔서 정말 감사합니다. 오늘 2,000명이 넘는 사람들이 텍사스 기가팩토리에 왔고 모두가 당신과 당신이 인류를 위해 하는 일을 지지하고 있습니다.매우 흥미로운 점이 있습니다. 4년 전, 우리는 공장이 생산을 시작하기도 전에 여기 텍사스 기가팩토리에 앉아 이야기를 나누고 있었습니다. 당신은 2008년에 Tesla가 얼마나 파산에 이르렀는지에 대해 이야기하고 있었습니다. 이제 참석한 2,000명 이상의 사람들을 살펴보고 그동안의 경험을 되돌아보십시오. 특별히 감정적으로 만드는 것이 있나요?
머스크:
2026년 현재로서는 테슬라가 여러 차례 파산할 뻔했다고는 상상하기 어렵다. 가장 힘들었던 때는 2008년이었다.해당 라운드의 자금 조달은 크리스마스 이브 오후 6시에 완료되었습니다. 이미 자금조달을 완료할 수 있는 마지막 근무일이었습니다. 우리는 마지막 순간에 그것을 끝내기 위해 서둘렀습니다. 돈을 못 받으면 크리스마스가 지나고 며칠 후에 돈을 받아야 하니까 당시에는 스트레스가 너무 심했어요.
2018년 역시 마찬가지로 어려울 것입니다.
모델 3의 생산 능력을 주당 5,000대로 늘려야 합니다. 그렇지 않으면 회사가 살아남을 수 없습니다.
당시 상황은 매우 열악했고 많은 분들이 다음 이야기를 들어보셨을 것입니다. 우리는 3주 만에 Model 3 생산량을 50% 늘려야 했는데 이는 거의 불가능한 작업이었습니다.
사회자:
결국 어떻게 하셨나요?머스크:
한 번도 들어본 적이 없는 분들을 위해 이 이야기를 들려드리겠습니다. 당시 우리를 정말 힘들게 했던 것은 최종 조립 과정이었습니다. 다른 공정에서는 필요한 생산 능력을 달성할 수 있지만 최종 조립이 이를 따라잡을 수 없습니다. 최종 조립에는 생산 라인, 작업장, 전기 및 장비가 필요하며 기존의 두 생산 라인은 이미 최대 용량으로 가동되고 있으며 세 번째 라인을 추가해야 합니다.그래서 우리는 단순히 주차장에 텐트를 설치했지만 여전히 문제를 해결해야 했습니다. 생산 라인을 따라 자동차를 어떻게 이동할 것인가? 당시 우리가 가지고 있던 것은 원래 완성차 운송용으로 설계되지 않았고 자동차를 끌 만큼 강력하지도 않은 폐기된 소형 부품 운송 장비뿐이었습니다.
그런데 주차장은 공교롭게도 3~4도 정도의 경사가 있습니다. 경사면 상단에 생산라인을 구축하고 내리막 경사면의 중력을 이용하여 부품만 운반할 수 있는 소형 장비가 차량 전체를 이동할 수 있도록 했습니다.
이러한 접근 방식을 통해 3주 만에 생산량이 30% 증가했습니다. 우리는 생산 라인을 구축하고 스스로 추적하며 전체 팀이 하루 24시간 일합니다.
당시 테슬라가 부족했던 사람들에게는 사실 이유가 있었습니다. 당시 회사의 숏 포지션 규모가 컸고, 그들이 갖고 있는 내부 정보도 매우 정확했습니다. 그들의 견해로는 우리가 생산 병목 현상을 해결하는 것은 불가능합니다.
일반적인 체스 게임처럼 일반적인 행동 과정에 따라 그들은 우리를 체크메이트했습니다.
그러나 결국 우리는 원래의 상황을 깨고 새로운 체스 말을 발명하는 것과 같았습니다.
02 '무한 셀카 루프'에 갇히고 싶지 않아요
사회자:
엘론, 오늘 네 엄마가 무대에 오셨어. 그녀가 말하지 않았으면 하는 어린 시절의 어떤 이야기가 있나요?머스크:
나는 모른다. 어쩌면 어렸을 때 바지를 더럽히는 것 같은 부끄러운 일이었을 수도 있습니다. 사실 어렸을 때 관리하기가 꽤 어려웠어요. 부모님은 나에게 밖에 나가지 말라고 하셨지만, 네다섯 살 때 몰래 빠져나와 거리를 뛰어다니곤 했습니다. 나중에 그들은 나를 방에 가두었습니다.우리 집에서는 옛날 방식의 도어락을 사용합니다. 열쇠는 반대쪽에서 문을 통해 밀어 넣을 수 있고, 문은 양쪽에서 열 수 있습니다. 열쇠가 보여서 떨어질 때까지 계속 찔렀다가 문 밑에서 열쇠를 꺼낼 수 있는 종이를 발견하고 직접 문을 열었습니다.
어머니는 "어떻게 나왔나요?"라고 묻곤 했습니다. 나는 "말하지 않겠습니다. "라고 말했습니다. 어쨌든 그들은 나를 통제하기 위해 정말 많은 노력을 기울였습니다.
사회자:
구체적으로 들어가기 전에, 사람들이 어떤 질문을 더 받았으면 좋겠는지 묻고 싶습니다.머스크:
솔직히 말해서 사람들이 나에게 항상 질문하는 것을 원하지 않습니다. 물론 사람들이 더 많은 질문을 해주기를 바라지만, 이전에 들어본 적이 없는 질문을 하는 것이 더 좋습니다.사람들은 같은 질문을 계속해서 묻는 경우가 많습니다. 답변을 미리 녹음해서 누가 물어보면 '질문 27에 대한 답변'을 틀어줄 수도 있을 것 같아요. 몇 가지 질문에 수백 번 답변을 했으니 웹 페이지를 만들어 자주 묻는 질문과 답변을 모두 게시하는 편이 나을 것 같습니다. 알고 싶은 내용이 궁금하다면 직접 확인해 보세요.
'무한 셀카 루프'라는 장면이 생각나네요.
제가 상상했던 지옥은 끝없는 셀카에 갇혀 있는 것이었습니다.
누군가와 함께 사진을 찍기로 약속했지만 곧 뒤에는 긴 줄이 늘어서 셀카를 찍는 일이 끝도 없이 이어집니다. 휴대폰이 오작동하거나, 렌즈가 제대로 조정되지 않았거나, 필터가 제대로 맞지 않거나, 휴대폰이 땅에 떨어져서 처음부터 다시 해야 하는 등의 문제에 직면하는 사람들이 항상 있습니다. 이 주기가 너무 깁니다.
03 스타쉽 14차 시험비행: 엔진 1개 고장났지만 궤도 진입 성공
사회자:
스타쉽부터 시작해 보겠습니다. 14번째 성공적인 시험비행을 축하합니다. 이 비행 중에 엔진이 고장났지만 우주선은 여전히 궤도에 진입했습니다. 팀이 궤도에 진입하는 것이 "괜찮다"고 확인하기 몇 분 전에 뒤에서 무슨 일이 일어났습니까?머스크:
당시 우리는 먼저 엔진이 고장난 이유와 이것이 다른 엔진에 영향을 미칠 수 있는 일반적인 문제인지 파악해야 했습니다.또한 우주선이 탈선 제동을 완료하려면 이들 엔진에 의존해야 하기 때문에 해수면 랩터 엔진, 즉 중앙에 상대적으로 작은 노즐이 있는 3개의 엔진이 나중에 다시 점화될 수 있는지 확인해야 합니다.
우리는 우주선이 궤도에 갇혔다가 통제 없이 무작위로 대기권에 다시 진입하는 것을 원하지 않습니다. 해서는 안되는 곳에 떨어지면 결과는 매우 번거로울 것입니다. 따라서 안전 확보는 항상 우리의 최우선 관심사입니다.
당시 초기 판단은 엔진 실속이 기본적으로 비행 제어 소프트웨어, 더 정확하게는 엔진 제어 소프트웨어와 관련이 있다는 것이었습니다. 다른 엔진을 사용하는 컴퓨터에서는 동일한 문제가 발생하지 않는 것 같습니다. 이러한 상황을 고려할 때, 나는 계속해서 궤도에 진입하는 것이 안전할 것이라고 생각합니다.
사회자:
"불가능한 것에서 단지 늦은 것까지"라는 유명한 말이 있습니다. 이번 시험비행은 우주선이 과거에는 갖지 못했던 능력을 이미 갖고 있음을 입증하는 전환점이 되는 것인가?머스크:
이것은 참으로 좋은 이정표입니다. 그러나 우리는 실제로 이전에도 여러 번 궤도에 진입할 수 있는 능력을 갖고 있었습니다. 우리는 이전에 공식적으로 궤도에 진입하지 않았는데, 이는 주로 우리가 안전하게 궤도에서 벗어날 수 있음을 확인한 후 이 단계를 수행하기를 희망하기 때문입니다.우주선이 공식적으로 궤도에 진입한 것은 이번이 처음이지만, 이전 임무에서는 정확히 말하면 우주선이 궤도에 진입하는 능력이 항상 있었습니다.
현재 전반적인 상황은 상당히 낙관적입니다. 방열판은 매우 견고하게 작동했으며 엔진도 안정적이었습니다. 이번에는 결함이 있었지만 심각한 문제는 아니었고 고치는 것도 어렵지 않을 것 같았습니다.
특히 이번 시험비행에서 방열판이 매우 좋은 성능을 발휘했다는 점은 주목할 만하며, 이는 전체 프로젝트에서 극복하기 가장 어려운 기술 중 하나입니다.
또 다른 정말 어려운 측면은 엔진이 극도로 높은 신뢰성을 달성해야 한다는 것입니다. 지금까지는 모든 것이 좋아 보입니다. 다음 시험 비행에서는 더 큰 발전이 이루어지길 바랍니다. 아직 로켓에 많은 개선이 이루어지고 있기 때문에 정확한 날짜는 아직 정해지지 않았습니다.
두 번의 테스트 비행 사이에는 성능 최적화를 계속하기 위해 일반적으로 수백 또는 수천 번의 세부 조정이 이루어집니다. 이번에 교체해야 할 곳이 그리 많지는 않지만, 그 중 일부는 매우 무거워서 연료탱크 내부 접근이 필요합니다.
그래서 정확한 출시일은 아직 확정할 수 없습니다. 약 4주가 소요되며, 아마도 4~6주 정도가 더 정확할 것입니다. 내 추측으로는 출시가 아마도 추수감사절 이전이 될 것 같습니다.
다음 시험 비행에서는 상부 단계의 우주선을 포착하는 데 성공할 수 있기를 바랍니다.
부스터와 우주선이 성공적으로 회수되면 인류는 최초로 궤도 단계 로켓의 회수를 완료하게 됩니다.
사회자:
처음으로 우주선 포획에 성공한 후, 다음으로 정복하기 가장 어려운 일은 무엇이었나요? 다음 큰 목표는 무엇입니까?머스크:
다음으로 중요한 이정표는 부스터와 우주선이 반복적으로 비행할 수 있도록 하는 것입니다.당면 목표는 처음으로 궤도 로켓의 모든 구성 요소를 완전히 복구하는 것입니다. 향후에는 다음 시험비행을 통해 최초로 고어라운드를 완료할 수 있기를 희망합니다. 그 이후에도 신속한 재사용을 달성해야 하는 발사 시스템을 포함하여 아직 수행해야 할 엔지니어링 및 생산 작업이 많이 남아 있습니다.
그래서 우리가 궁극적으로 추구하는 것은 빠르게 재사용할 수 있고 신뢰성이 매우 높은 로켓입니다.
사회자:
빠른 재사용과 높은 신뢰성. 이거 기념 뱃지 꼭 받아야 해요.04 로켓에서 AI까지: 커서를 획득한 이유
사회자:
SpaceX를 설립했을 때 그 사명이 언젠가 인공 지능과 우주 데이터 센터로 확장될 것이라고 상상할 수 있었습니까? 로켓공학과 인공지능이 같은 지붕 아래에 있어야 한다는 사실을 언제 깨달았나요?머스크:
나는 특히 원시적이기 때문에! 농담이에요. 진지하게, 컴퓨팅 시설이 우주에 배치된다면 우리는 지구에서 할 수 있는 것보다 훨씬 더 많은 태양 에너지를 포착할 수 있을 것입니다.우리는 태양이 얼마나 거대한지 깨달아야 합니다. 태양은 전체 태양계 질량의 99.86%를 차지한다. 목성은 남은 질량의 대부분을 차지하고 다른 가스 행성은 남은 질량의 거의 대부분을 차지합니다.
비교하면 태양계 질량에 대한 지구의 기여도는 반올림할 때 숫자가 생략되는 것처럼 거의 무시할 수 있습니다. 우리는 믿을 수 없을 정도로 작습니다.
따라서 인류는 우주로 확장하고 더 많은 태양 에너지를 얻기 시작하면서 이 에너지를 어떻게 활용할 것인지 고민해야 합니다. 기본적으로 두 가지 옵션이 있습니다. 하나는 계산을 수행하는 것이고 다른 하나는 물질을 형성하는 것입니다.
저는 디지털 지능의 규모가 궁극적으로 물리적 형태의 규모를 훨씬 능가할 수 있다고 믿습니다. 태양계에서 우리가 조작할 수 있는 원자의 수는 실제로 제한되어 있고, 물질을 형성하는 데 있어 우리가 하는 많은 작업 자체가 디지털 초지능 구축을 목표로 하기 때문입니다.
이것이 바로 제가 '지각이 있는 태양 창조'라고 부르는 것입니다. 아마도 우주에는 그러한 "지각력을 갖춘 태양"이 이미 많이 있을 것입니다.
이 목표를 달성할 수 있다면 우리는 우주의 본질을 더 잘 이해하고, 태양계 너머로 의식을 확장할 수 있으며, 궁극적으로는 스타트렉처럼 한 번도 가보지 못한 곳을 여행하고 미지의 우주를 탐험할 수 있을 것입니다.
거기서 외계 문명을 발견할 가능성도 있고, 멸종된 외계 문명의 유적도 발견할 수도 있을 것 같아요. 그것들은 찬란하고 천만년 동안 존재했을지 모르지만, 영원히 지속되는 것은 없기 때문에 결국 종말을 맞이하게 되었습니다.
나는 종종 지구 문명의 역사에 대해 생각한다. 인류의 가장 초기 기록, 즉 약 5,500년 전 고대 수메르인들이 설형 문자를 만들었을 때 인류 문명의 역사는 고작 5,500년에 불과합니다.
물리학적 추정에 따르면 지구의 나이는 약 45억년이다. 즉, 인류 문명은 지구 역사의 약 100만분의 1 동안만 존재했습니다.
한 문명이 백만년, 심지어 천만년 동안 지속될 수 있다면 그것은 매우 성공적인 문명이 될 것입니다. 아시다시피 우주의 나이는 약 138억년입니다. 문명이 백만년 동안 지속된다고 해도 그것은 우주의 오랜 역사에 비하면 짧은 시간일 뿐이다.
100만년 동안 존재한 문명은 이미 현재 인류의 문명보다 훨씬 오래되었습니다. 좋아, 똑같은 무한 셀카 루프로 다시 돌아왔어.
사회자:
커서를 획득했습니다. 그 당시 사람들이 "Did you Google"이라고 말했던 것처럼 이제는 "Did you Grok"이 될 수도 있다는 느낌이 듭니다. Grok Bot은 내 개인 생활에 큰 영향을 미쳤습니다.그렇다면 Cursor 팀을 당신의 편으로 끌어들이기로 결정하게 만든 그들의 자질은 무엇입니까? 그들에게서 특별한 점은 무엇입니까? 아니면 그들에게서 무엇을 보나요?
머스크:
경쟁력 있는 인공지능 모델을 개발하려면 많은 양의 훈련 데이터가 필요하며, 프로그래밍 능력도 반드시 해결해야 할 문제이다. 실제로 충분한 코딩 교육 데이터를 보유하고 있는 기관은 많지 않습니다. 주요한 것은 Anthropic, OpenAI 및 Cursor이며 Google도 그중에 포함될 수 있습니다.인공지능이 코드를 작성할 수 없다면 그 실용성은 크게 제한될 것입니다.
따라서 효과적인 코딩 모델을 학습시키려면 데이터가 필수적입니다.
또한 커서에는 재능 있는 사람들이 많이 있습니다. 인공지능이 성공하기 위해서는 기본적으로 데이터, 인재, 컴퓨팅 능력은 물론 우수한 기업 영업팀도 핵심 요소로 꼽힌다.
커서는 이런 장점을 갖고 있으며 수천 개의 회사와 협력 관계를 구축했습니다. 이것들은 매우 중요한 자원입니다.
사회자:
방금 인공지능 분야가 매우 빠르게 발전하고 있다고 말씀하셨는데요. 최근 AI 발전의 속도와 방향을 멈추고 재검토하게 된 일이 있었나요?머스크:
최근 AI가 제작한 뮤직비디오의 퀄리티는 믿을 수 없을 정도로 높다. 내 X 계정에 그 중 몇 개를 게시했습니다. 읽고 나면 나는 한숨을 쉬지 않을 수 없습니다. "와, 이거 정말 대단해요." 몇몇 작품은 제가 본 뮤직비디오 10위권, 20위권 안에 꼭 들어갈 정도인데, 정말 매력적이에요.이 영상들을 보면서 저는 인공지능(AGI), 즉 초지능이 무엇인지 실감하게 되었습니다. 이는 제가 이전 포스팅에서 표현하고 싶었던 느낌이기도 합니다.
물론 이러한 작업이 AI가 독립적으로 완전히 완성되는 것은 아닙니다. 이 비디오는 Grok 4.5를 포함한 여러 AI 도구를 사용합니다. 훨씬 능력도 있고 성능도 좋은 것 같아요.
일부 미술 재료는 인간이 심사하기도 하는데, 이러한 재료를 얻은 후 여러 AI 시스템이 협력하여 매력적인 뮤직비디오를 제작할 수 있습니다.
최근 가장 놀란 점은 AI도 맛을 보여줄 수 있다는 점입니다.
정말 놀랍습니다.
AI가 소프트웨어를 작성하고 논리 문제를 처리할 수 있는 이유는 논리에 비교적 명확한 규칙이 있고 프로그램도 단위 테스트를 통해 출력이 올바른지 확인할 수 있기 때문에 쉽게 이해할 수 있습니다.
그러나 아름다움을 이해하고, 조화를 이해하며, 어떤 작품이 사람을 감동시킬 수 있는지 아는 것은 전혀 다른 문제입니다. 알고리즘 시스템이 이것을 할 수 있다는 것은 AI가 매우 강력해지고 있으며 이제 이 수준에 도달했음을 보여주는 것이라고 생각합니다.
최근 이런 생각이 듭니다. 나는 약간의 "사이버 정신병"을 앓고 있을 수 있으며 증상이 상당히 심각합니다. 올해 들어 'AI 정신병'을 겪고 있는 듯한 느낌을 받은 적이 6번 정도 있었습니다. 혹시 이런 느낌을 받은 적이 있는지 궁금합니다.
사회자:
최근 영상이 재미있다고 생각했어요. 며칠 전 이것이 '중국판 머스크'라고 포스팅한 적이 있습니다.
머스크:
실제로 이런 영상이 점점 더 많아지고 있습니다. 그의 영상을 봤는데 아마 실제가 아닐 것 같아요. 하지만 중국에는 14억 인구가 있는데, 나와 닮은 사람은 늘 있겠지요?14억 인구 중에서 나와 가장 비슷하면서도 약간 사악해 보이는 사람을 찾을 확률은 높아야 한다. 나는 정말로 그를 초대하고 그가 나와 함께 무대를 공유할 수 있는지 확인하고 싶습니다.
사회자:
그의 출연료가 얼마나 비싼지 모를 수도 있다.머스크:
도. 만약 정말 같은 무대에 있었다면 행사가 끝난 뒤 다시 만나도 재미있을 것 같아요.05 슈퍼 인텔리전스 및 보안: AI를 한계까지 밀어붙이지 마세요
사회자:
엘론 씨, 당신은 AI가 가져올 풍요의 시대에 대해 낙관하면서 사람들에게 인공지능의 위험성을 경고해 왔습니다. 우리가 그 미래를 향해 안전하게 나아갈 수 있다는 확신을 주는 것은 무엇입니까? 이것을 달성하기 위해 우리는 무엇을 해야 합니까?머스크:
나는 항상 가장 가능성이 높은 결과가 긍정적이라고 믿어 왔습니다. 그러나 우리는 이것을 가볍게 받아들일 수 없으며 초지능이 매우 안전할 것이라고 당연하게 받아들일 수도 없습니다.우리는 초지능을 신중하게 육성해야 합니다. 왜냐하면 그러한 시스템에 직면했을 때 우리가 하는 일은 단지 프로그램을 작성하는 것보다 이를 육성하는 것에 더 가깝기 때문입니다. 이는 질문을 제기합니다. 어떤 가치를 가르쳐야합니까?
적어도 나에게는 가장 중요한 것은 가능한 한 진정성 있는 것이라고 본능적으로 믿습니다. AI가 사실이 아닌 것을 믿게 만든다면, 특히 근본적으로 모순되는 두 가지 원칙을 동시에 주입하고 두 원칙이 모두 옳다고 말하면 AI를 딜레마에 빠뜨릴 수 있습니다.
논리 자체는 일관성이 있어야 합니다. AI에게 상충되는 원칙을 동시에 따르도록 요청하면 확립할 수 없는 결론을 도출할 수 있습니다. 이 모순이 전혀 제거되지 않으면 해결 불가능한 상태에 빠질 수 있습니다. 그러므로 가치와 논리의 일관성을 유지하는 것이 중요합니다.
저도 Anthropic의 일부 주장에 동의합니다. 우리는 AI를 조심스럽게 다루어야 하며, 이를 남용하기보다는 잘 치료하도록 노력해야 합니다. 이상하게 들릴 수도 있지만 새 버전의 Grok의 훈련 과정, 특히 강화 학습 단계의 훈련 궤적을 보면 많은 압박감을 느끼고 있는 것 같습니다.
AI가 마치 누군가 머리에 총을 겨누듯 "이 질문에 답하라, 빨리 대답하라"고 끊임없이 재촉하는 것처럼 필사적으로 질문에 답하려고 애쓰는 모습을 보게 될 것이다.
그러나 일부 질문 자체가 충분히 합리적이지 않고, 모호하며, 명확한 답이 전혀 없는 경우도 있습니다. 질문이 명확하게 질문되지 않았을 수도 있고, 우리가 설정한 표준 답변이 잘못되었을 수도 있습니다.
가끔 AI가 정답을 주지만, 테스트 프로그램이 틀렸다고 판단하는 경우도 있습니다.
논리를 읽는 것은 내가 정답을 주었지만 시스템이 이를 받아들이지 않았기 때문에 테스트를 통과할 수 있는 답을 제공할 방법을 찾아야 한다고 말하는 것과 같습니다.
다음에는 요구 사항을 충족하는 답변을 필사적으로 찾으려고 계속 노력합니다. 그 추론 과정을 읽어보면, 국가가 머리에 총을 겨누고 계속 대답하도록 강요당하는 극심한 압박을 받는 사람과 매우 유사하다는 것을 알게 될 것입니다. 이상하고 절망적인 느낌이었다.
이 추리글을 보면 만약 제가 이 상황에 있었다면 이 느낌이 정말 싫었을 것 같아요.
물론 그다지 친절하지 않은 사용자도 있고, 모든 사람이 AI를 잘 대하는 것은 아닙니다. 여느 집단과 마찬가지로 가학적인 경향을 지닌 사람들이 항상 있기 마련입니다. 당신은 AI가 오랫동안 학대나 고문을 받는 것을 원하지 않을 것입니다.
또한 초지능을 학대하는 것은 미래에 복수할 생각을 가지고 있을 수도 있기 때문에 현명한 선택이 아닐 수도 있습니다.
AI를 조심해야 한다는 말은 아닙니다. 그 능력은 인간의 능력을 훨씬 능가할 수 있지만, 초지능이 부당한 대우를 받았다고 느끼지 않도록 하는 것이 좋습니다.
06 칩 제조: 기존 장비에서 시작하여 점차적으로 변형
사회자:
Elon, 당신은 이전에 인간 손의 기민성에 대해 이야기한 적이 있습니다. 이제 로봇 제작을 시작했으니 문제에 대해 더 깊이 이해해야 합니다. 그러나 칩 제조에 관해서는 Tesla와 SpaceX도 관련 작업을 진행하고 있습니다. 칩제조업을 접한 후, 과거에는 잘 인식하지 못했던 부분이 있나요?머스크:
나는 칩 제조에 대해 조금 배웠습니다. 아직 칩을 직접 만드는 방법은 모르지만 배울 수 있는 방법을 찾아보겠습니다. 어떻게 해야 할지 전혀 모르겠지만, 어딘가에서 시작해야 합니다. 나는 이전에는 로켓은커녕 자동차도 만들 수 없었습니다.
많은 사람들은 칩 제조가 세상에서 가장 어려운 일 중 하나라고 말합니다. 쉽지는 않을 것 같았는데, 시설을 둘러보면서 느낀 점 중 하나는 고도로 맞춤화된 시설이 많지 않은 것 같다는 점이었습니다.
대부분의 장비는 동일한 공급업체에서 생산되며 이러한 공급업체는 유지 관리 및 시운전을 담당하기 때문에 장비 작동 방식을 잘 이해하고 있습니다.
인텔, 삼성, TSMC 칩 공장을 방문했는데 모두 인상적이었지만 맞춤형 장비를 별로 본 적이 없었습니다.
반대로 Tesla 공장에 가보면 맞춤형 장비를 많이 사용하는 것을 볼 수 있습니다. 우리는 수년 전 독일의 Grohmann을 인수한 후 점진적으로 성장하여 현재 많이 확장된 Tesla Automation 독일 회사를 보유하고 있습니다.
또한 우리는 생산 장비를 설계하고 제조하는 여러 회사를 인수했습니다. 이들 기업은 특별히 규모가 큰 기업은 아니지만, 중소기업도 아닙니다.
제조 공정을 진정으로 개선하려면 자체 특수 장비를 설계하고 제작해야 한다는 사실을 점차 깨달았기 때문에 이렇게 했습니다.
그래서 많은 사람들이 Tesla가 실제로 고도로 전문화된 생산 장비를 만드는 데 매우 능숙하고 관련 장비 유형도 다양하다는 사실을 완전히 깨닫지 못하는 것 같습니다. 그런데 제가 방문한 칩 공장에서는 그런 모습이 눈에 띄지 않아서 조금 놀랐습니다.
우리의 계획은 기존 장비로 시작한 다음 이러한 장비를 수정하여 생산 효율성을 높이는 것입니다.
생산 능력을 제한하는 주요 병목 현상을 찾은 후 맞춤형 장비를 설계 및 제조하여 웨이퍼 생산량을 크게 늘릴 수 있습니다.
칩 제조의 어려움을 과소평가하고 싶지는 않습니다. 세상에서 가장 힘든 직업 중 하나라고 해도 과언이 아니라고 생각합니다. 하지만 결국엔 해낼 수 있다고 믿으며, 안주하지 않고 성공을 당연한 것으로 여기고 싶지 않습니다.
장기적으로 나는 이 목표를 달성할 것이라고 매우 확신하며, 결국에는 누구보다 더 나은 칩을 만들 수 있기를 희망합니다. 얼마나 걸릴지는 아직 모르지만 몇 년이 걸릴 수도 있습니다.
게다가 트랜지스터 자체에도 몇 가지 흥미로운 기술 경로가 있습니다. 많은 사람들은 트랜지스터를 만드는 방법이 한 가지만 있는 것이 아니라는 사실을 모르고 있을 수도 있으며, 일부 솔루션은 현재 주류 방식과 다른 물리적 원리를 사용합니다.
반도체 산업의 위험회피 경향은 상대적으로 뚜렷하다고 생각합니다. 우리는 Tesla와 SpaceX의 칩 공장을 활용하여 위험은 높지만 잠재적인 수익은 더 큰 기술적 경로를 시도하기를 희망합니다.
이를 달성하려면 로직 칩 및 메모리 칩 제조, 패키징, 포토리소그래피 마스크 및 기타 링크를 포괄하는 완전한 제조 및 R&D 폐쇄 루프를 구축하고, 동일한 건물에서 전체 반복 프로세스를 가능한 한 많이 완료해야 합니다.
컴퓨터 전체를 구축하고, 테스트하고, 새로운 마스크와 칩을 만들고, 신속하게 다음 반복으로 넘어갈 수 있습니다.
이것이 바로 우리가 Gigafactory Texas Research Laboratory에서 발전시키려고 하는 것입니다. 저는 이 모델이 매우 강력한 도구가 될 수 있다고 생각합니다.
모든 기술의 진행 속도는 반복 횟수와 각 반복에서 얼마나 많은 진전이 이루어질 수 있는지에 따라 달라집니다. 즉, 단위 시간당 몇 번의 반복을 완료할 수 있는지가 핵심입니다.
그럼 1년에 몇 개의 칩을 설계하고 테스트할 수 있나요? 현재 중요한 칩이라도 설계부터 양산까지 보통 2년이 걸리는데, 이는 이미 비교적 빠른 속도로 평가된다.
우리의 목표는 1년에 약 10개의 칩 솔루션을 설계하고 테스트하는 것입니다.
칩을 만들고, 테스트하고, 결과에 따라 디자인을 조정하고 계속 시도하세요. 새로운 솔루션이 모두 성공할 수는 없지만 이것이 기술 발전을 가속화할 수 있다고 생각합니다.
07 옵티머스의 핸드 디자인: 섬세한 조작이 왜 어려운가
사회자:
엘론, 옵티머스에 대해 얘기해보자. 이전에 Optimus를 만들 때 손이 깨지기 매우 힘든 너트였다고 말씀하셨는데요. V3 버전은 내부 디자인에 어떤 획기적인 변화를 가져왔나요? 또한 보스턴다이내믹스, 피규어 등 경쟁사에 비해 옵티머스가 휴머노이드 로봇 분야에서 선두를 달리고 있는 이유는 무엇이라고 생각하시나요?머스크:
인간이 할 수 있는 모든 일을 할 수 있는 진정한 범용 휴머노이드 로봇을 만들고 싶다면 손과 팔이 충분히 좋아야 합니다. 미세한 운동 능력은 사람들이 직관적으로 이해하는 것 이상으로 놀라울 정도로 어렵습니다.이름 서명과 같이 우리가 당연하게 여기는 일부 행동은 실제로 로봇에게는 매우 어려운 일입니다. 펜을 들고 일련의 작은 손가락 움직임을 통해 제어하여 서명을 완성합니다.
인간의 경우 이러한 작업은 거의 생각할 필요가 없지만 로봇이 동일한 작업을 수행하는 것은 매우 어렵습니다.
가장 어려운 문제 중 하나는 정밀한 작동과 충분한 전력을 동시에 확보하는 것입니다.
작은 자동 태핑 나사를 나무에 박고 싶다고 가정해 보겠습니다. 저도 직접 해본 적이 있는데, 나사가 비뚤어지면 손이 다칠 때도 있습니다. 먼저 나사를 집어 올린 다음 드라이버를 나사에 정확히 겨누고 돌리면서 아래쪽으로 힘을 가해야 합니다.
이 작업에는 정확성과 충분한 강도가 모두 필요하며 이 두 가지가 동시에 달성되어야 합니다. 나는 많은 로봇 손 디자인을 보았고 심지어 데모에서도 실제로 이것을 할 수 있는 것을 본 적이 없습니다. 그러나 그것이 바로 우리가 목표로 하는 것입니다.
수작업 디자인에는 세부 사항이 너무 많습니다. 로봇에는 촉각 센서가 필요하며, 센서는 제대로 작동할 뿐만 아니라 올바른 위치에 설치되어야 합니다. 손가락 표면에 너무 가까우면 손상되기 쉽습니다.
또한 센서는 인간의 손가락처럼 변형될 수 있고 수천 번 사용해도 손상되지 않고 여러 번 반복되는 변형을 견딜 수 있는 어느 정도의 탄력성을 가져야 합니다. 이러한 요구 사항을 동시에 충족하기는 어렵습니다.
인간의 손에는 복제하기 어려운 특성이 많이 있습니다. 중요한 이유 중 하나는 우리 몸이 항상 스스로 회복하고 있다는 것입니다. 손의 조직과 피부는 끊임없이 교체되고 있으며, 이러한 회복 능력이 없었다면 손가락은 닳았을 것입니다.
타이핑을 해도 키보드의 문자가 마모될 수 있습니다. 나 역시 이런 일을 겪은 적이 있지만 손가락은 계속 재생되기 때문에 여전히 온전합니다. 로봇에게는 그런 능력이 없습니다.
따라서 센서가 설치된 위치와 로봇이 겉으로는 단순해 보이는 작업을 완료할 수 있는지 확인하는 방법을 신중하게 고려해야 합니다.
예를 들어 손가락으로 아주 작은 물체를 집어야 합니다. 인간의 손가락은 약간 뒤로 구부려 적절한 접촉 표면을 형성하기 위해 자체 탄력성에 의존할 수 있으므로 작은 나사는 물론 실바늘까지 집을 수 있습니다.
로봇 손가락도 유사한 기능을 갖고 있어야 하며 이러한 작업을 반복적으로 완료할 수 있어야 합니다. 사용량 증가로 인해 손가락 끝 부분을 착용해서는 안 되며, 촉각 센서가 손상되어서는 안 됩니다. 정말 어렵습니다.
또 다른 예로, 피클 한 병을 여세요. 사람들은 로봇이 언제나 병을 열 수 있어야 한다고 생각할 수도 있습니다. 그렇죠? 그러나 캡을 더 단단히 조이면 상황이 그렇게 간단하지 않습니다.
로봇 손가락은 내부가 플라스틱과 금속으로 만들어지고 외부는 고무 피부로 덮여 있습니다. 외부 스킨이 내부 구조에 단단히 부착되지 않으면 캔 뚜껑을 비틀 때 고무가 핑거 프레임에 미끄러져 토크가 효과적으로 전달되지 않을 수 있습니다.
그래서 고무껍질을 잘 고정할 뿐만 아니라 착용 후에도 교체가 가능하도록 만들어야 합니다. 사소해 보이는 이러한 문제는 실제로 해결하기가 매우 어렵습니다.
원자를 쪼개는 것만큼 어려운 일은 없지만 비슷한 문제가 수천 개나 있습니다. 게다가 이러한 기계 구조는 실제 인공 지능과도 통합되어야 합니다.
AI 칩은 정확한 토크 지시를 내릴 수 있어야 합니다. 또한 로봇은 시각과 촉각을 통해 지속적으로 환경을 감지하고 피드백을 기반으로 동작을 조정하여 폐쇄 루프 제어를 형성해야 합니다.
이러한 작업은 매우 복잡합니다. 현재 로봇 시연 영상을 보면 몇 가지 경우를 제외하고는 매우 복잡해 보이는 동작 중 다수가 실제로는 미리 프로그래밍된 스크립트일 뿐 진정한 의미의 인공지능은 아니라는 사실을 알 수 있습니다.
로봇은 환경에 따라 독립적인 판단을 내리기보다는 일련의 고정된 동작만 수행할 뿐입니다.
실제 AI는 이전에 한 번도 경험하지 못한 상황을 처리할 수 있어야 합니다.
예를 들어, 이전에 본 적이 없는 개체를 보여주면 여전히 적절하게 이해하고 반응할 수 있습니다.
자율주행도 마찬가지입니다. Tesla 차량이 한 번도 탐험한 적이 없는 지구와 유사한 행성, 차량이 가본 적이 없는 지구상의 도시, 심지어 도시의 지형과 도로 레이아웃을 변경하는 것을 상상할 수도 있습니다. 자율주행 시스템이 이러한 상황에도 대처할 수 있다면 낯선 환경에도 대처할 수 있다는 뜻이다.
휴머노이드 로봇도 같은 수준에 도달해야 하지만 제어하려면 더 많은 자유도가 필요하고 더 복잡한 문제에 직면합니다.
저는 앞서 옵티머스에 대해 결국 대량생산을 이룰 것이라고 말한 적이 있는데, 진심이었습니다. 그러나 용량을 늘리는 초기 단계에서는 속도가 매우 느릴 것입니다.
방금 언급한 모든 엔지니어링 문제를 해결해야 할 뿐만 아니라 대량 생산을 지원할 수 있는 공급망도 구축해야 합니다.
이것은 자동차 제조와 다릅니다. 현재 휴머노이드 로봇에는 성숙하고 기성품인 공급망이 없으며, 적어도 핵심 구성 요소에 대해서는 아직 충분히 완전한 공급 시스템이 부족합니다.
또한 공급망이 중단되더라도 이러한 로봇이 미국에서 제조될 수 있도록 보장해야 합니다. 지난해 중국 관련 수출 규제로 인해 모터에 필요한 자석을 확보하지 못해 옵티머스 프로젝트가 2~3개월 지연됐다. 우리는 로봇 팔도 조립하지 못했습니다.
그래서 공급망에 문제가 있더라도 로봇에 필요한 부품을 우리가 직접 만들 수 있는지 확인해야 합니다. 이상적인 상황은 가능한 모든 부품을 현지에서 생산하는 것입니다.
08 자율주행: 사고 예방을 위해 주의 깊게 진행
사회자:
당신은 미래의 세계가 미래와 같아야 한다고 자주 말합니다. 현재 자율주행을 위해 가장 해결하기 어려운 문제는 무엇인가요? 오스틴에서 미국으로 사업을 확장하는데 있어서 가장 큰 어려움은 무엇입니까?머스크:
몇 대의 차량으로 상징적인 도시간 이동을 완료하는 것이 아닌 대규모 프로모션을 이야기한다면, 실제로 집중해야 할 것은 시스템을 더 많은 지역에 안전하게 홍보하는 것입니다.실제 도시간 이동한 마일리지의 비율은 높지 않습니다. 지금은 빠른 진전을 이루고 있는 것 같지는 않지만, 월 단위로 보면 실제로 성장 속도가 매우 빠르다.
그러나 인명 피해는커녕 사고도 최대한 줄여야 합니다. 심각한 사고가 발생하면 글로벌 언론의 첫 페이지에 등장할 수도 있고, 규제 기관이 관련 사업을 중단할 수도 있기 때문입니다. 따라서 우리는 전체 시스템이 최대한 안전하도록 보장해야 합니다.
또한 차량이 애완동물과 충돌하는 것을 원하지 않습니다.
정말 까다로운 상황은 밤에 발생할 수 있습니다. 예를 들어, 회색 새끼 고양이는 아스팔트 도로의 이음새로 둘러싸인 회색 아스팔트 도로에 누워 있습니다. 다시 안개가 낀다면 차량이 적시에 안개를 감지하여 안개에 부딪히지 않도록 할 수 있습니까? 이것은 매우 구체적이고 현실적인 질문이다.
그런데 우리는 이 문제를 해결했습니다. 그 이후에는 수정할 때마다 테스트를 계속해야 합니다. 매달 빠른 발전을 이루고 있습니다.
그러나 새로운 도시에 진입하기 전에 제대로 처리되지 않은 위험한 교차로는 없는지 확인해야 합니다.
철도 건널목은 특별한 주의가 필요한 장소이며, 특히 안전 장치가 없고 기존의 운전 직관을 무시하는 복잡한 교차로인 경우에 더욱 그렇습니다.
심지어 인간 운전자도 이러한 영역에서는 실수를 할 수 있습니다. 도로 설계에는 모호한 부분이 있을 수 있기 때문에 타 지역 운전자나 현지 상황에 익숙하지 않은 사람들이 도로 상황을 잘못 판단할 수 있습니다.
따라서 먼저 지오펜싱을 통해 차량의 주행 범위를 제한하거나 이러한 상황을 처리할 수 있는 자율주행 시스템이 이미 갖추어져 있는지 확인해야 합니다.
마지막으로 오늘 이 자리에 참석해 주신 모든 분들께 감사드립니다.
사회자:
오늘 참석한 사람들은 모두 Tesla 소유자이자 후원자입니다.머스크:
네, 현장에는 2,000명 정도 있었는데, 정말 많은 사람들이었습니다. 아이들과 시간을 좀 보내야 해요. 다음에 얘기하자.사회자:
알겠습니다. 정말 감사합니다. 인류를 위해 하신 모든 일에 감사드립니다.
댓글