Perplexity, Rust 검색 엔진 Photon 출시, p99 지연 시간 800ms에서 65ms로 감소

Techub News 보도에 따르면 AI 검색 회사 Perplexity는 이전에 포크한 오픈소스 엔진을 대체하기 위해 자체 개발한 Rust 기반 검색 및 순위 엔진 Photon을 출시했습니다. Photon은 현재 모든 프로덕션 트래픽을 처리하며 검색 API의 새로운 "빠른 검색" 모드를 지원합니다. Perplexity는 단일 호출 p50 지연 시간이 160밀리초이고 p95 지연 시간이 230밀리초라고 보고했습니다. Photon은 검색 및 순위의 p99 지연 시간을 약 800밀리초에서 약 65밀리초로 줄였으며, 이전 콘텐츠 노드보다 약 20% 적은 서비스 머신을 사용합니다. 이 엔진은 관리형 API로 제공되며, 사용자는 POST /search에서 search_type: "fast"를 설정하여 사용할 수 있으며, 1000회 요청당 비용은 $1이지만 엔진 자체는 오픈소스가 아닙니다. Perplexity는 또한 Photon과 함께 에이전트 워크플로우에 최적화된 "빠른 검색" 모드를 출시했습니다. 6개 벤치마크에서 3554개 작업을 수행한 결과, 이 모드는 예상 모델 및 검색 비용 $59.73로 64.3%의 점수를 달성했으며, 기본 설정 비용은 $187.60으로 전자가 약 68% 더 저렴했습니다.(MarkTechPost)