요약:
올해 2월 Perplexity는 Perplexity Computer를 출시했습니다. 클로드 코워크(Claude Cowork)와 유사한 인공지능 에이전트 도구 세트로, 사용자 컴퓨터의 네트워크와 파일, 애플리케이션을 활용해 다양한 작업을 자율적으로 완료할 수 있습니다. 그 이후로 플랫폼은 Mac용 개인용 컴퓨터를 포함하여 여러 제품을 점차적으로 개발했습니다. 오늘 Perplexity는 Hybrid Compute라는 새로운 기능을 발표했습니다.
하이브리드 컴퓨팅을 사용하면 사용자는 공동 처리를 위해 클라우드 최첨단 모델과 로컬 대형 언어 모델 간에 작업을 분할할 수 있습니다. 클라우드 모델은 Opus 5나 GPT-5.6 Sol과 같은 고성능 모델이 될 수 있고, 로컬 모델은 사용자 자신의 컴퓨터에서 실행됩니다. 핵심 아이디어는 로컬 모델이 민감한 정보를 처리하도록 하여 관련 데이터가 항상 장치에 안전하게 유지되도록 하는 것입니다.
Perplexity는 하이브리드 컴퓨팅이 다양한 시나리오에 적합하다고 말했습니다. 예를 들어 변호사는 이를 사용하여 현재 진행 중인 사건을 기존 판례와 비교하는 법적 개요를 작성할 수 있습니다. 이 과정에서 고객 데이터는 로컬에 저장되고 클라우드에 업로드되지 않습니다. 비용을 제어하려는 사용자의 경우 하이브리드 컴퓨팅은 일반적으로 더 비싼 최첨단 모델에서 로컬 모델로 일부 작업을 이동하여 추론 비용을 줄일 수도 있습니다.
"이 기능은 Mac 앱에 직접 통합되어 있습니다. 파일을 업로드하거나 메시지를 보내려고 할 때마다 시스템은 민감한 콘텐츠가 포함되어 있는지 자동으로 확인하고 이 데이터를 클라우드에 공유할 의향이 있는지 확인합니다." Perplexity Mac 제품 책임자인 Jon Staff는 말했습니다. 출시의 일환으로 Perplexity는 사용자가 자신의 컴퓨터에 로컬로 보관해야 하는 파일과 정보를 자동으로 추천할 수 있는 새로운 개인 정보 분류자를 교육했습니다.
하이브리드 컴퓨팅이 다른 모델에 작업 할당을 시작하기 전에 사용자는 먼저 시스템이 로컬에 보관하고 격리하려고 준비 중인 파일을 보고 중요한 콘텐츠가 누락되지 않았는지 확인할 수 있습니다. 사용자는 이 단계에서 어떤 모델이 작업을 완료할지 결정할 수도 있습니다.
현재 로컬 모델 옵션에는 Gemma E4B와 Qwen 3.6 모델의 두 가지 버전이 포함되며 둘 다 350억 개의 매개변수를 갖습니다. 한 버전은 Perplexity에 의해 사후 훈련되었습니다. 회사는 앞으로 더 많은 국내 모델을 출시할 것이라고 밝혔습니다. 사용자가 어떤 모델을 선택하든 설치 과정에서 Mac 터미널을 열 필요가 없으며 Perplexity 앱이 설치 완료를 처리합니다.
시스템이 실행되는 동안 사용자는 로컬 CPU, GPU 및 메모리 사용량에 대한 시각적 정보를 볼 수 있습니다. 옆에 있는 사이드바에는 작업에 사용된 토큰 수가 표시됩니다. 자신의 컴퓨터에서 로컬 모델이 생성한 토큰을 사용하는 사용자에게는 수수료가 없습니다. 시스템이 결과를 생성한 후 사용자는 평소대로 후속 지침을 계속 입력하거나 iPhone을 통해 작업을 대기열에 추가할 수 있습니다.
Perplexity가 클라우드에 전적으로 의존하는 시스템에 대해 하이브리드 컴퓨팅으로 생성된 결과를 벤치마킹했는지 묻는 질문에 Staff는 다음과 같이 말했습니다. "간단히 말하면 원시 제품의 품질만 보면 최첨단 모델을 완전히 사용한 결과가 거의 항상 더 좋습니다. 비용은 더 들지만 기능도 더 많습니다."
그러나 직원은 모든 사용자가 작업을 완료하기 위해 가장 발전되고 강력한 AI 모델이 필요한 것은 아니라고 덧붙였습니다. 이러한 경우 모델 기능보다 데이터 개인 정보 보호 및 비용이 더 중요할 수 있습니다.
"이것은 조정 가능한 척도여야 한다고 생각합니다. 사용자가 달성하려는 특정 작업에 대해 우리는 사용자가 이 척도에서 자신의 위치를 결정하기를 원합니다. 분명히 우리는 상황에 따라 가장 적절한 솔루션을 추천하려고 노력할 것이지만 궁극적으로 어떤 솔루션이 자신의 요구 사항에 가장 적합한지 결정하는 것은 여전히 사용자의 몫입니다." 직원이 말했다.
현재 하이브리드 컴퓨팅은 Apple Silicon 칩이 장착되고 macOS 15를 실행하는 Mac 컴퓨터에서만 사용할 수 있습니다. Perplexity에서는 통합 메모리가 32GB 이상인 기기를 권장합니다. 이 기능은 Pro 및 Max 가입자는 물론 Perplexity의 기업 고객도 사용할 수 있습니다.
댓글