요약:
오픈AI(OpenAI), 앤트로픽(Anthropic) 등 미국 인공지능 기업들이 중국 기업들이 '모델 증류'를 통해 첨단 기술을 모방하고 있다고 계속 비난하는 가운데, 미국 유명 스타트업 액셀러레이터인 와이콤비네이터(Y Combinator)의 게리 탄 CEO는 전혀 다른 견해를 공개적으로 밝혔다. 그는 자신에게 달려 있다면 증류 문제에 대해 "아무것도 할 수 없을 것"이라고 말했으며 현재 규제 초점이 증류에 맞서는 데 있어서는 안 된다고 믿었습니다.
Garry Tan은 Y Combinator의 연례 데모 데이 행사 중 인터뷰에서 위와 같은 진술을 했습니다. 지난 몇 달 동안 모델 증류는 글로벌 AI 업계에서 가장 논란이 많은 주제 중 하나가 되었습니다. 증류란 더 강력한 인공 지능 모델에서 생성된 출력을 사용하여 더 작거나 성능이 떨어지는 모델을 훈련하는 것을 의미합니다. 경우에 따라 이 프로세스는 원래 모델 개발자의 승인을 받지 않을 수 있으므로 일부 주요 AI 기업에서는 이를 지적 재산권 및 상업적 이익에 대한 위협으로 간주합니다.
현재 Anthropic은 Dark Side of the Moon, DeepSeek 및 MiniMax와 같은 중국 회사가 자사 모델을 증류 훈련에 사용하고 있다고 공개적으로 비난했습니다. OpenAI는 DeepSeek의 모델 아키텍처 중 일부가 GPT-4 및 GPT-4o 시리즈 모델의 출력 결과에서 차용하거나 유래할 수 있다고 믿습니다. 동시에 미국 국가안보국(National Security Agency), 사이버보안 및 인프라 보안국(Cybersecurity and Infrastructure Security Agency), FBI는 최근 공동으로 사이버보안 경고를 발령하여 관련 행위를 집중이 필요한 보안 위험으로 분류했습니다.
그러나 Garry Tan은 증류에 대한 더 엄격한 제한을 선호하지 않습니다. 그는 규제 당국이 실제로 집중해야 할 것은 단순히 증류 관행을 금지하거나 단속하는 것이 아니라 개방형 모델과 최첨단 비공개 소스 모델 간의 건전한 균형을 구축하는 방법이라고 믿습니다. 그는 선두 모델이 비즈니스 모델을 계속 운영할 수 있을 만큼 충분한 성능 이점과 가격 프리미엄을 유지할 수 있는 한 개방형 모델의 존재는 기술 대중화와 혁신 확산에 도움이 될 것이라고 생각합니다.
그는 개방형 모델이 더 많은 개발자와 기업에 자유와 사용 기회를 제공하는 동시에 최첨단 모델이 기술 리더십을 통해 상업적 가치를 유지하는 것이 이상적인 상태라고 말했습니다. 이 균형은 매우 취약하고 "줄타기"만큼 어렵지만 여전히 업계가 추구할 수 있는 가장 가치 있는 발전 경로입니다.
증류 논란의 또 다른 배경은 인공지능 업계의 오랜 저작권 문제에서 비롯된다. 많은 비평가들은 OpenAI 및 Anthropic과 같은 회사가 자체 모델을 훈련할 때 뉴스 보도, 서적 및 기타 저작권이 있는 콘텐츠의 무단 사용에 대한 질문에 직면했다는 점을 지적합니다. New York Times는 이전에 OpenAI와 Microsoft가 뉴스 콘텐츠를 사용하여 허가 없이 모델을 훈련시켰다고 비난하면서 소송을 제기했습니다. 많은 작가들도 비슷한 문제로 Anthropic을 상대로 소송을 제기했습니다. Garry Tan은 이것이 증류에 대한 업계의 윤리적 입장을 복잡하게 만든다고 믿습니다.
모델 경쟁 문제 외에도 게리 탄은 요즘 떠오르는 'AI 최후의 심판론'에도 여전히 조심스러운 입장이다. 최근 일부 인공지능 연구자들이 첨단 AI의 통제 불능 위험성에 대한 우려를 공개적으로 표명하면서 인공지능의 실존적 위험성에 대한 사회 논의가 크게 늘어났다. 그러나 탄은 업계가 공상과학 재난 시나리오에 빠지기보다는 이미 발생했거나 현실에서 발생하려고 하는 문제에 더 많은 관심을 기울여야 한다고 믿습니다.
그는 네트워크 보안 분야의 위험이 현재 가장 시급한 과제라고 생각합니다. 예를 들어 AI 시스템이 사이버 공격, 인프라 침투 또는 자동화된 범죄에 사용되는 경우 AI가 인류를 멸종시키는 먼 시나리오보다 처리할 자원을 우선적으로 처리할 가치가 훨씬 더 높습니다. 고용 영향이나 경제구조 변화 등의 이슈에 대해서는 이러한 영향이 현실이기는 하지만 단시간에 폭발하기보다는 향후 수십 년에 걸쳐 점진적으로 나타날 가능성이 높다고 본다.
인공지능 안전성과 모델 경쟁을 둘러싼 논란이 고조되고 있음에도 불구하고 Y Combinator가 계속해서 AI 산업에 큰 투자를 하고 있다는 점은 주목할 만합니다. 이번 데모데이에 전시된 196개 스타트업 중 149개가 머신러닝 및 인공지능과 관련돼 전체 프로젝트의 4분의 3 이상을 차지해 향후 인공지능 발전에 대한 기관의 높은 낙관론을 반영했다.
분석가들은 Garry Tan의 발언이 실리콘 밸리 내에서 또 다른 목소리를 대변한다고 믿습니다. 보호 강화와 기술 확산 제한을 주장하는 첨단 모델 개발자와 달리 이 세력은 개방형 생태, 완전 경쟁, 기술 민주화를 강조합니다. AI 산업이 계속해서 빠른 속도로 발전하면서 '증류', 오픈소스 모델, 국가 안보, 지적재산권을 둘러싼 논의는 향후 몇 년간 글로벌 인공지능 분야에서 계속해서 중요한 이슈가 될 것으로 예상된다.
댓글