요약:
OpenAI CEO 샘 알트만(Sam Altman)은 인공지능 규제 문제에 관해 OpenAI와 경쟁사인 Anthropic의 근본적인 세계관 사이에는 여전히 근본적인 차이가 있다고 말했습니다. 인터뷰에서 그는 이 기술이 가져오는 엄청난 가치는 사회의 위험 부분을 감당할 가치가 있다고 제안했습니다. AI 기술은 계속해서 대중에게 널리 공개되어야 합니다.
OpenAI CEO Sam Altman은 인터뷰에서 AI가 가져오는 이점은 사회가 일부 위험을 수용하기에 충분하다고 말했습니다. 위험
Altman은 "철학에는 큰 격차가 있습니다."라고 말했습니다. Anthropic 및 Anthropic CEO Dario Amodai와의 핵심 차이점에 대한 질문에 Altman은 다음과 같이 말했습니다. "우리는 이 기술의 이점을 누리고 사람들이 이를 자율적으로 사용할 권리를 갖도록 보장하려면 세상이 나쁜 일이 발생한다는 사실을 받아들여야 한다고 믿습니다."
Anthropic은 오랫동안 업계에서 AI 규제를 가장 강력하게 옹호해 왔습니다. 얼마 전까지만 해도 이러한 입장은 OpenAI의 조명 규제 추진과 상충되었을 것입니다. 그러나 최근 몇 달 동안 두 선두 AI 기업 간의 정책 차이가 줄어들었다. 일련의 세간의 이목을 끄는 해킹과 불규칙한 모델 동작 이후 OpenAI는 보다 엄격한 규제 규칙을 지원하기 위해 방향을 틀었습니다.
울트라맨은 지난달 최첨단 대형 모델 개발 속도를 늦추겠다는 Amodai의 주장에 동의했습니다. OpenAI는 또한 Anthropic의 선례를 따르고 이전에 ChatGPT 개발자가 지원한 표준보다 더 엄격한 보안 요구 사항을 설정하기 위해 미국 일부 주에서 새로운 법안의 도입을 지원했습니다. 이는 주 차원의 규제 전략에 미묘한 변화가 있음을 나타냅니다. OpenAI의 정책 로비스트들은 최근 선도적인 AI 기업들이 외부 보안 평가자를 데려오도록 요구하는 양당의 하원 법안을 지지했습니다.
양측의 입장이 비슷한 경향이 있음에도 불구하고 Altman은 여전히 두 회사의 규제적 사고 사이에 명확한 선을 긋기 위해 노력했습니다. 그는 트럼프 대통령과 가까운 기술 고문들이 규제 포획에 대해 Anthropic을 비난했다고 언급했습니다.
“나는 이 견해에 동의하지 않지만 일부 사람들의 견해는 이해합니다. 이 기술은 매우 강력하고 위험해질 것이므로 나쁜 일이 일어나지 않도록 샌프란시스코에 있는 실험실에서 마스터해야 하며 그런 다음 실험실에서 기술 배당금을 분배하는 방법을 결정해야 합니다.” Altman은 이러한 절충안은 완전히 용납할 수 없으며 OpenAI가 지원하는 가벼운 규제 접근 방식에 위배된다고 말했습니다.
“나는 대규모 해킹 공격, 기술 남용, 사기 및 발생할 수 있는 모든 종류의 나쁜 일이 없을 것이라고 보장하는 거래를 받아들이지 않을 것입니다. 왜냐하면 인간이 AI를 사용하여 이룰 수 있는 선행이 AI가 가져오는 피해보다 훨씬 클 것이라고 믿기 때문입니다.”
OpenAI CEO는 나중에 AI가 통제할 수 없는 심각한 상황을 일으킬 수 있는 가능성을 포함하여 진정한 재앙적인 위험을 받아들이지 않는다고 덧붙였습니다.
의견을 요청받았을 때 Anthropic 대변인은 회사의 규제 제안이 최첨단 모델에만 적용될 것이라고 말했습니다. 회사는 또한 Amodai가 규제 포착에 대한 비판과 중소기업에 대한 규제 정책의 영향에 대해 8월에 소셜 미디어에서 투자 관리자와 나눈 대화를 인용했습니다.
Amodai는 당시 다음과 같이 말했습니다. "Anthropic은 정책 제안을 공식화할 때 항상 매우 신중했습니다. 우리는 최첨단 AI 거대 기업을 제지하는 동시에 소규모 경쟁업체에 유리한 조건을 조성하는 솔루션을 설계하기 위해 많은 노력을 기울였습니다."
Altman의 인터뷰에서는 또한 여러 가지 주제를 다뤘습니다. 트럼프가 선도적인 기술 기업과 맺은 새로운 AI 계약, '초지능'을 창출하기 위한 그의 브랜드 변경 계획; OpenAI 모델로 인한 다수의 자율해킹 사건과 회사가 법적 책임을 져야 하는지 여부 AI 산업의 막대한 자금 유입이 미국 정치에 미치는 영향; OpenAI 내에서 소위 효과적인 이타주의자들의 영향력; 그리고 Emmanuel Macron 프랑스 대통령과 Gavin Newsom 캘리포니아 주지사와 같은 주요 정치인에 대한 그의 견해.
댓글