3월 30일, X 플랫폼에 올라온 영상에 댓글이 폭발했다. @malmesburyman 사용자는 Anthropic CEO Dario Amodei와의 인터뷰 클립을 다음과 같은 캡션과 함께 리트윗했습니다. 트루먼이 오펜하이머를 그토록 역겹다고 생각한 이유를 이 사람에게서 정말 느낄 수 있습니다.


영상에서 Amodei는 다음과 같은 익숙한 수사를 반복하고 있습니다.

우리의 모델은 이미 인간 지능 수준에 매우 가깝지만 사회는 다가오는 위험에 대한 광범위한 인식이 부족합니다.


이 댓글은 양극화를 촉발했습니다. 지지자들은 오펜하이머가 원자폭탄을 만든 후 "그의 손은 피로 가득하다"고 말한 것처럼 아모데이가 강력한 AI를 개발하면서 성자인 척하고 있다고 믿습니다.

반대자들은 이러한 비유가 전혀 근거가 없다고 말합니다. 오펜하이머는 원자폭탄이 수십만 명의 목숨을 앗아간 후에야 죄책감을 표명한 반면, 아모데이는 기술이 재앙을 일으키기 전의 위험에 대해 경고했습니다.

그러나 더 깊은 질문은 첨단 AI를 개발하는 모든 리더가 어떻게 수행하든 동기에 대해 의문을 제기하는 이유는 무엇입니까?

Amodei의 딜레마: 한계선을 고수하고 공급망 위협이 됩니까?

아모데이가 AI 위험성을 경고했다는 이유로 질책을 받은 것은 이번이 처음이 아니다.

2월에 그는 Anthropic의 두 가지 제한선을 주장하면서 국방부의 "모든 합법적인 사용" 조항을 거부했습니다.


이에 피트 헤그세스 국방장관은 앤트로픽을 '공급망 보안 위협'으로 선언했고, 트럼프는 모든 연방 기관에 클로드를 6개월 이내에 비활성화하라고 명령했다.

일반적으로 외국의 적에게 사용되는 라벨은 미국 회사에 적용된 적이 없습니다.

Amodei는 유출된 내부 메모에서 국방부와 트럼프 행정부가 Anthropic을 좋아하지 않는 진짜 이유는 다음과 같다고 솔직하게 밝혔습니다.

우리는 트럼프에게 기부하지 않았고, 트럼프의 독재적 칭찬을 하지 않았으며, AI 규제(그들의 의제에 어긋나는)를 지지했고, AI 정책 문제(예: 일자리 대체)에 대해 솔직하게 이야기했으며, 실제로 "보안 드라마"를 연출하기 위해 그들과 공모하는 대신 레드라인을 고수했습니다.

일주일 뒤 아모데이는 "내가 고려한 견해를 반영하지 않았다"며 메모의 어조에 대해 사과했다.

원칙을 고수하면 적으로 취급됩니다.

위험을 경고하고 협조를 거부하면 권력을 추구하거나 도덕적 우위를 점한다는 의혹을 받게 될 것입니다.

알트만의 딜레마: 레드라인을 지지하지만 기회주의라는 비난을 받는다

아모데이가 레드라인을 고수했다는 이유로 탄압을 받았다면, 알트만은 이를 지지하더라도 혼날 것이라고 말했다.

2월 28일, Anthropic과 국방부 간의 회담이 결렬된 지 몇 시간 만에 Altman은 OpenAI가 국방부와 합의에 도달했다고 발표했습니다.

그는 Anthropic과 마찬가지로 OpenAI도 대량 감시와 완전 자율 무기를 금지한다고 말했습니다.


외부 세계는 OpenAI가 결정적인 순간에 Anthropic의 입지를 약화시켰다고 비난하며 폭발했습니다.

이들 기업이 정말로 보안 약속을 진지하게 생각했다면 정부가 서로를 시장 경쟁자로 착취하도록 허용하는 대신 국방부에 맞서기 위해 함께 뭉쳤어야 했습니다.

더욱 당혹스러운 점은 OpenAI의 직원들이 지난 주에 Anthropic을 지지하고 국방부에 반대하는 공개 서한에 서명했다는 것입니다.

이제 사장은 돌아서서 계약서에 서명했고, 직원들은 배신감을 느꼈다.

Altman은 월요일에 다음과 같이 인정했습니다.

금요일에 이 합의문을 발표하기 위해 서두르면 안 됩니다. 우리는 진심으로 상황을 완화하고 더 나쁜 결과를 피하고 싶었지만 그것은 기회주의적이고 성급한 것처럼 보였습니다.

그러나 OpenAI가 계약 조건을 변경하더라도 법률 전문가와 관찰자들은 여전히 ​​제한 사항이 실제로 구속력이 있는지 의문을 제기합니다.

Altman은 내부 회의에서 직원들에게 국방부가 OpenAI가 "전투 의사 결정에 참여할 수 없다"는 점과 회사는 기술 전문 지식과 조언만 제공할 수 있지만 군사 작전의 질에 대해서는 의견을 표명할 수 없다는 점을 분명히 했다고 직원들에게 말했습니다.

허사비스의 딜레마: 10년 후, 세상은 변했다

시간은 당신의 약속을 포함하여 모든 것을 변화시킵니다.

구글은 2014년 딥마인드(DeepMind)를 인수했을 때 딥마인드의 기술이 결코 군사적 또는 무기 목적으로 사용되지 않을 것이라고 약속했습니다.

2018년 허사비스와 딥마인드 공동 창업자는 "치명적인 자율 무기에 대한 강력한 국제 규범, 규정 및 법률" 제정을 촉구하는 공개 서한에 서명했습니다.

그러나 2025년까지 구글은 AI 원칙을 개정하고 군사기술을 개발하지 않겠다는 약속을 삭제했다.

DeepMind의 기술은 이제 Google Cloud 소프트웨어에 번들로 포함되어 미국과 이스라엘을 포함한 많은 국가의 군대에 판매됩니다.


TIME은 "AGI의 목표를 달성하기 위해 타협했는가"라고 물었다. 허사비스의 대답은 이랬다.

나는 그렇게 생각하지 않습니다. 우리는 최근 글로벌 지정학적 불확실성이 크게 증가함에 따라 일부 정책을 업데이트했습니다.

불행하게도 세상은 더욱 위험한 곳이 되었습니다. 나는 우리가 더 이상 민주적 가치가 승리할 것이라고 당연하게 받아들일 수 없다고 생각합니다. 이는 단순히 명확하지 않습니다. 그래서 정부와 협력해야 한다고 생각해요.

올해 5월에는 약 200명의 DeepMind 직원이 회사에 군사 계약을 포기할 것을 촉구하는 내부 서한에 서명했습니다.

6월 내부 회의에서 COO인 Lila Ibrahim은 DeepMind가 무기나 대량 감시를 위한 AI 애플리케이션을 설계하거나 배포하지 않을 것이며 Google Cloud 고객은 해당 조건을 준수해야 한다고 답했습니다.


딜레마에 대한 해결책은 없지만 경고는 멈출 수 없다

아모데이, 알트만, 하사비스 세 사람은 서로 다른 길을 갔으나 모두 혼났다.

빨간 선을 지키시겠습니까? 당신은 도덕적 우위와 규제적 이점을 추구하고 있습니다.

타협과 협력? 당신은 위선자이며 당신의 말과 행동이 일치하지 않습니다.

입장을 바꾸시겠어요? 당신은 돈을 위해 당신의 영혼을 파는 것입니다.

당신이 개발자이자 보안 옹호자인 경우, 당신이 하는 모든 경고는 "당신은 당신의 회사에 호의를 베푸는 것"으로 해석됩니다.

이러한 예측은 맞을 수도 있고 틀릴 수도 있습니다.

하지만 한 가지는 확실합니다. Amodei, Altman 또는 Hassabis가 무엇이든, 어떤 말이나 행동을 하든 일부 사람들은 자신의 동기에 의문을 제기할 것입니다.

하지만 어쩌면 재앙이 일어나기를 기다렸다가 “내가 경고했다”고 말하는 것보다, 논란이 일어나는 동안에도 계속 경고하는 것이 더 책임감 있는 선택일지도 모른다.