Anthropic의 국제 사업 책임자: 오픈 소스 모델은 더 위험합니다

요약:

10월 14일 Bloomberg에 따르면

nthropic의 미국 외 시장을 담당하는 최고 영업 임원은 회사의 AI 모델과 비교할 때 개방형 모델이 사이버 보안 사고 또는 기타 위험 측면에서 '더 높은 위험'을 갖고 있다고 말했습니다.

프린슨

Anthropic의 국제 비즈니스 책임자인 Guillaume Princen은 수요일 더블린에서 열린 국제 AI 서밋에서 Bloomberg TV와 인터뷰하여 다음과 같이 말했습니다. "우리는 보안과 관련하여 오픈 소스 모델에 특히 주의해야 합니다. 개방형 모델에 대해 말할 수는 없지만 정의상으로는 더 높은 위험이 있습니다."

Anthropic은 곧 상장될 예정이지만 일부 국가에서는 경쟁이 치열해지고 있습니다. 이들 국가는 미국 AI 기술에 대한 의존도에 대해 점점 더 우려하고 있습니다. 현재 비공개 소스 모델에 대한 인기 있는 대안은 매개변수를 공개하고 사용자가 이를 수정하여 자신의 하드웨어에서 실행할 수 있도록 하는 개방형 AI 모델입니다.

지지자들은 이러한 모델이 Anthropic과 OpenAI에서 제공하는 엄격하게 통제되는 비공개 소스 모델보다 더 저렴하고 국가 주권을 보호하는 데 더 도움이 된다고 말합니다. 프랑스 AI 회사 Mistral AI는 최근 유럽에 주권 모델에 대한 대안을 제공하는 개방형 가중치 모델을 출시했습니다. 동시에 중국 기업이 출시한 일련의 유사한 개방형 모델이 해외 시장에서 점점 더 많은 주목을 받고 있습니다.

Anthropic은 AI 기능에 대한 경고를 늘려 왔습니다.

Prinsen은 또한 스타트업과 '디지털 기반' 비즈니스에 대한 Anthropic의 판매를 감독합니다. 그는 개방형 중량 모델에 대한 우려가 제품을 안전하게 유지하려는 Anthropic 자체의 노력에서 비롯된다고 말했습니다. Anthropic은 여러 차례의 세간의 이목을 끄는 AI 해킹에 이어 자사 모델이 악의적인 목적으로 사용되는 것을 방지하기 위해 추가적인 보안 보호 조치를 추가했다고 밝혔습니다. 회사는 국제 표준이 확립되고 통일된 평가 메커니즘이 형성될 때까지 AI 개발 속도를 늦춰야 한다고 항상 주장해 왔습니다.

Anthropic의 더 비싼 모델에 관해서 Princen은 기업들에게 더 강력한 모델을 구입하는 것이 결국에는 이익이 될 것이라고 말할 것이라고 말했습니다. “지금부터 6개월, 1년, 2년 후에는 이러한 유형의 애플리케이션을 사용하는 데 드는 비용도 낮아지기 때문에 항상 최첨단 기술에 투자하십시오.”라고 그는 말했습니다.

그는 회사의 최신 Claude 모델인 Opus 5.5가 이전 버전보다 40% 저렴하다고 말했습니다. 그는 구체적인 수치를 공개하지 않은 채 Anthropic의 "최첨단" 모델을 구입하는 기업 고객이 회사 사업의 "매우 큰 부분"을 차지하고 있다고 덧붙였습니다.

Prinsen은 Anthropic의 IPO 계획에 대해 언급하거나 회사가 새로운 모델 교육에 얼마나 많은 돈을 투자했는지에 대해 언급을 거부했습니다.