요약:
블룸버그에 따르면 Harvey는 미화 156억 달러 가치의 미국 법률 기술 스타트업입니다. 사업의 핵심은 OpenAI GPT-4와 같은 AI 모델을 훈련시켜 변호사의 전문 업무를 완성하는 것입니다. 그러나 최근 급증하는 AI 비용으로 인해 회사는 이러한 거대 AI 기업에 대한 의존도를 재고하게 되었습니다.
Harvey는 Kimi K3를 사용하여 자신만의 모델을 구축했습니다.
이 문제에 정통한 소식통에 따르면, 지난 3월 AI 에이전트를 업데이트한 후 Harvey의 고객 사용량이 급증했지만 매출총이익률은 연초 약 50%에서 6월 -50%로 급격히 떨어졌습니다.
오늘날 이 스타트업은 중국의 점점 더 유능한 대안을 포함하여 개방형 가중치 모델을 채택하는 점점 더 많은 소프트웨어 회사에 합류했습니다. 이러한 모델은 종종 미국 AI 개발자의 독점 기술보다 저렴하며 Harvey와 같은 회사는 자체 데이터를 사용하여 맞춤형 모델을 만들 수 있습니다.
Sequoia Capital, General Catalyst 등 투자기관도 이러한 추세를 뒷받침하고 있습니다. 이는 기업의 가장 큰 비용 중 하나를 절약할 뿐만 아니라 OpenAI 및 Anthropic에 아웃소싱하는 대신 자체 기술에 대한 더 많은 제어권을 제공합니다.
OpenAI와 Anthropic 모두 매우 기대되는 IPO를 준비하고 있기 때문에 이러한 움직임은 AI 거대 기업의 수익을 잠식할 수 있습니다. 동시에 최첨단 AI 개발을 늦춰야 한다는 논의가 계속 뜨거워지는 가운데, 일부 스타트업의 경우 개방형 모델을 채택하는 것은 향후 가장 발전된 AI 모델의 개발이 둔화되거나 제한될 경우를 대비하는 방법이기도 합니다.
모델 열기
Harvey는 지난 8월 중국의 Dark Side of the Moon 소유 Kimi K3를 탑재한 자체 모델을 출시했습니다. Kimi K3는 Anthropic의 가장 진보된 모델에 가까운 성능을 발휘하지만 비용은 훨씬 저렴합니다. 이 문제에 정통한 사람들은 Harvey가 AI를 사용하는 방법에 대한 다른 조정과 함께 모델 출시로 인해 회사의 총 이익 마진이 다시 긍정적인 영역으로 바뀌었다고 말했습니다. Harvey는 이 기사의 구체적인 재무 수치에 대한 언급을 거부했습니다.
마찬가지로 의료 기술 스타트업인 Abridge는 최근 NVIDIA의 개방형 모델을 기반으로 임상 시나리오를 위한 맞춤형 기본 모델을 훈련하고 있다고 발표했습니다. AI 고객서비스 스타트업 데카곤은 현재 문의사항의 80%가 자체 모델을 통해 처리되고 있다고 밝혔다. 핀테크 분야에서는 Ramp, Rogo 등의 스타트업이 처음으로 자체 모델 교육을 모색하고 있습니다. 프로그래밍 회사 중에서는 현재 SpaceX의 일부가 된 Cursor와 480억 달러 가치로 평가되는 Cognition이 맞춤형 모델을 출시한 최초의 AI 응용 회사였습니다.
Ramp 공동 CEO인 Karim Atiyeh는 이전에는 Ramp가 자체 제작 모델을 구축하는 데 비용이 너무 많이 들었지만 지난 6월 7억 5천만 달러를 모금한 후 개방형 중량 시스템이 큰 진전을 이루었기 때문에 이를 고려하고 있다고 말했습니다. "1년 전에는 이런 일이 전혀 의미가 없었는데, 이제는 훨씬 더 의미가 생기기 시작했습니다."
Atiye는 컴퓨팅 성능 비용이 상승함에 따라 "이 문제를 고려하고 최적화하지 않는 것은 완전히 무책임하다"고 말했습니다. 그의 회사는 현재 더 많은 자본을 유치하기 위해 협상 중입니다.
그러나 모든 투자자가 이러한 추세에 동의하는 것은 아닙니다. Anthropic의 투자자이자 Menlo Ventures의 파트너인 Matt Kraning은 맞춤형 모델을 개발하는 데는 전문적인 인재가 필요하고 초기 비용이 더 높기 때문에 모든 회사가 맞춤형 모델을 개발하는 데 적합한 것은 아니라고 생각합니다. 일부 회사의 경우 이는 마케팅 전략에 불과하다고 그는 말했습니다.
"자신만의 모델이 있나요? 이 질문 자체가 잘못된 질문입니다. 대부분의 경우 이는 단지 가식일 뿐인 경우가 많습니다." 크라닌이 말했다.
댓글