Perplexity Computer는 로컬 및 클라우드 AI 모델 간의 작업 자동 배포를 지원합니다.

Perplexity Computer는 올 여름 중요한 업그레이드를 선보일 예정입니다. 즉, 개인 정보 보호와 컴퓨팅 성능의 균형을 더 잘 맞추는 하이브리드 추론 기능을 달성하기 위해 로컬 및 클라우드 AI 모델 간에 작업을 자동으로 할당하는 지원입니다.

Perplexity는 Perplexity Computer가 복잡한 작업을 처리하기 위해 다양한 모델과 도구의 조정을 자동화하여 "사용자를 위한 실제 작업을 수행"하는 회사의 에이전트 시스템이라고 말합니다. 곧 출시될 새로운 기능을 통해 시스템은 작업 유형과 데이터 민감도에 따라 장치에서 로컬로 실행되는 컴팩트 모델과 클라우드의 보다 강력한 최첨단 모델 사이를 지능적으로 전환할 수 있습니다. 공식 소개에 따르면 이 디자인은 민감한 데이터를 처리할 때 최대한 로컬을 유지하는 동시에 강력한 컴퓨팅 성능이 필요할 때 클라우드 모델을 원활하게 호출하여 보안과 효율성 사이의 균형을 맞추는 것을 목표로 합니다.

보고서에 따르면, 새로운 "하이브리드 에이전트 추론" 모드에서는 금융 기록, 건강 정보, 개인 파일과 같은 민감한 콘텐츠와 관련된 작업이 사용자 장치에서 실행되는 로컬 소형 모델에 의해 우선 순위가 지정되어 로컬 처리를 위해 엄격하게 보관해야 하는 데이터가 결정됩니다. 동시에 높은 개인 정보 보호가 필요하지 않지만 더 강력한 추론과 대규모 컨텍스트 기능이 필요한 작업은 실행을 위해 클라우드의 최첨단 모델에 자동으로 할당됩니다. Perplexity는 대부분의 실제 작업에 민감한 부분과 민감하지 않은 부분이 모두 포함되는 경우가 많으므로 사용자가 미리 "로컬" 또는 "클라우드" 모드 중에서 선택하도록 요구하는 대신 시스템이 자동으로 작업을 여러 하위 작업으로 분할하고 로컬과 클라우드 간의 일정을 조정한다는 점을 강조합니다.

Perplexity는 소셜 플랫폼에 공개된 비디오에서 이 하이브리드 아키텍처의 개념을 더욱 시연했습니다. 공식 소식통에 따르면 하이브리드 AI 오케스트레이션 기능은 7월에 Perplexity Computer 사용자에게 공식적으로 출시될 예정입니다.