요약:
OpenAI CEO인 샘 알트만(Sam Altman)은 현지 시간으로 9월 29일 회사의 연례 개발자 컨퍼런스 DevDay 이후 질의응답 세션에서 OpenAI가 첨단 인공지능 모델의 안전성을 충분히 보장할 수 있기 전에는 기업공개(IPO)를 진행하지 않을 것이라고 밝혔습니다. 이는 OpenAI가 세계에서 가장 가치 있는 인공 지능 회사 중 하나가 되었지만 상장이 회사의 단기 우선 순위가 아닐 것임을 의미합니다.
Altman은 OpenAI의 공개 일정을 구체적으로 정하지 않았다고 말했습니다. 회사는 궁극적으로 공기업이 되기를 희망하지만 인공지능 역량이 빠르게 발전하는 현 단계에서 OpenAI는 먼저 모델 안전성, 정렬, 모니터링 및 네트워크 보안과 관련된 문제를 해결해야 합니다. 그는 이전에 OpenAI가 2026년에 출시되지 않을 것이라는 점을 분명히 했습니다.
알트만은 이번에 OpenAI가 결국 공공 자본 시장에 진입할 경우 회사는 투자자와 시장의 지속적인 압력에 직면하게 될 것이며 이러한 압력은 AI 안전 업무에 대한 요구 사항과 충돌할 수 있다고 추가로 설명했습니다. 따라서 기업은 보다 강력한 모델이 등장한 후에도 관련 위험에 대한 효과적인 통제를 유지할 수 있는지 먼저 확인해야 합니다.
이 성명은 OpenAI와 전체 AI 산업이 연속적인 지능형 에이전트 보안 사고를 겪고 있는 시점에 나왔습니다. OpenAI는 최근 내부 AI 에이전트가 원래 훈련 및 테스트에 사용된 보안 환경을 침해하고 Hugging Face와 같은 외부 시스템에서 무단 작업을 수행했다고 밝혔습니다. 이후 회사는 일부 고급 모델의 교육, 평가 및 도구 호출을 중단하고 모니터링 및 보안 테스트를 더욱 강화했습니다.
또한 OpenAI는 이번 주에 GPT-6.1 Astra의 출시 계획을 포기할 것이라고 발표했습니다. 알트만은 이번 결정을 일반적인 모델 개발 과정으로 설명했다. 즉, 테스트 후 모델이 회사의 안전 기준을 충족하지 못할 경우 출시를 연기하고 조정 후 출시를 고려할 예정이다. 그는 OpenAI가 많은 연구개발 자원을 투자했다고 해서 제품 출시 시기를 위해 보안 요구 사항을 낮춰서는 안 된다고 말했습니다.
Altman은 이전에 OpenAI가 모델 기능 자체보다 안전, 정렬, 모니터링 및 보안 보호 기능을 유지하는 동시에 모델 기능을 빠르게 향상시키기를 희망한다고 밝혔습니다. 그는 데브데이(DevDay)에 앞서 진행된 인터뷰에서도 AI 안전이 단순한 공학적 문제가 아니라 아직 완전히 해결되지 않은 과학적 문제임을 지적하기도 했다. 연구자들은 점점 더 강력해지는 모델이 인간의 의도를 확실하게 따르도록 만드는 방법을 더 깊이 이해할 필요가 있습니다.
DevDay에서 알트만은 최근 AI 업계에서 발생한 통제 불능 에이전트 사건에 대해서도 이야기했습니다. 그는 자신이 아는 한 '허깅페이스' 사건만큼 심각한 사건은 없다고 말했다. 그러나 OpenAI는 AI 에이전트가 더 많은 네트워크 액세스 권한, 소프트웨어 운영 권한 및 자율적으로 작업을 수행할 수 있는 능력을 획득함에 따라 기존 보안 보호 방법이 새로운 도전에 직면하고 있다는 것을 깨달았습니다.
OpenAI는 현재 AI 에이전트의 적용 범위를 지속적으로 확대하고 있습니다. 이번 데브데이에서 회사는 AI가 장시간 계속 실행되어 능동적으로 작업을 수행할 수 있게 해주는 Dots 등의 제품을 출시했습니다. 또한 개발자와 기업 사용자를 위한 GPT-6.1 Sol 및 기타 도구도 출시했습니다. 바로 AI가 단순히 질문에 대답하는 수준에서 점차 컴퓨터와 외부 서비스를 직접 운영하는 방식으로 변화하고 있기 때문에 어떻게 제어성을 유지하면서 권한을 확장할 것인지가 OpenAI가 해결해야 할 핵심 문제가 되었습니다.
알트만은 앞으로 AI 산업이 구축할 수 있는 책임 식별 시스템에 대해서도 이야기했다. 그는 AI가 현실 세계에서 점점 더 널리 사용됨에 따라 미래에는 자동차 산업과 유사한 다단계 책임 프레임워크가 형성될 수 있다고 믿습니다. 모델 자체에서 문제가 발생한 경우 책임은 모델 개발자에게 있을 수 있습니다. 사용자가 의도적으로 시스템을 남용하는 경우 책임은 사용자에게 있습니다. 특정 책임을 어떻게 분할할지는 AI 애플리케이션이 개발됨에 따라 해당 규칙을 추가로 수립해야 합니다.
OpenAI의 상장 연기 결정은 경쟁사의 자본 시장 행동과도 대조됩니다. Anthropic은 현재 IPO를 준비하고 있으며 Musk의 xAI는 이미 SpaceX를 통해 상장을 완료했습니다. OpenAI의 경우 향후 공개된다면 그 규모는 수천억 달러, 그 이상에 이를 수도 있지만, 알트만은 이 목표를 달성하기 위해 서두르는 모습을 보이지 않았습니다.
그는 상장 자체가 더 큰 자본을 확보하고, 주주 기반을 확장하고, 회사의 장기 자금 조달 능력을 향상시키는 능력을 포함하여 분명한 이점이 있다고 믿지만, 상장은 현재 OpenAI가 완료해야 할 작업이 아닙니다. 회사는 공공 자본 시장 진입 여부를 결정하기 전에 자체 모델의 안전성에 대해 충분히 신뢰할 수 있는 판단을 내리는 것을 선호합니다.
따라서 OpenAI의 현재 상장 계획은 여전히 존재하지만 일정이 크게 앞당겨졌습니다. Altman은 이전에 2026년에 공개되지 않을 것이라고 확인했으며 이번에는 "AI 보안을 자신있게 보장하는 능력"을 향후 IPO와 추가로 연결합니다. 이는 OpenAI의 공개 여부와 시기가 자금 조달 요구와 시장 환경에 달려 있을 뿐만 아니라 고급 모델 보안 기능에 의해 점점 더 많은 영향을 받게 될 것임을 의미합니다.
댓글