6m đọc
Perplexity ra mắt Orchestrator API: Hạ tầng định tuyến LLM hợp nhất, giải bài toán Failover và chi phí token
Perplexity chính thức ra mắt Orchestrator API, cổng suy luận tập trung hỗ trợ tự động hoán đổi nhà cung cấp (failover) và định tuyến mô hình thông minh qua một endpoint duy nhất. Giải pháp này giúp các kỹ sư loại bỏ nguy cơ gián đoạn dịch vụ LLM, tối ưu độ trễ thực thi và hợp nhất toàn bộ chi phí sử dụng API đa nền tảng vào một hóa đơn.
Ban Biên Tập TinTứcAIChi tiết
