Not Diamond

非钻石不是代理。它只推荐应使用哪个模型，然后所有对LLM的请求都在客户端进行。您可以通过API、网关或本地调用模型——非钻石对您的请求编排管道没有限制。

非钻石是一个高度专业化的预测模型，优化用于模型路由。训练于大型跨领域评估数据集，它可以准确预测哪个LLM对任何输入的性能最佳。

非钻石旨在与您现有的数据和评估管道无缝协作。您可以上传任何LLM评估数据集，几分钟内便会收到优化为您用例的路由器。

非钻石设计用于开发过程的各个阶段。我们的用户包括从第一天起在我们的API上开发的开发者，到在生产中路由每个请求的复杂企业团队。

非钻石使得利用诸如DSPy和SAMMO等自动提示优化框架变得简单，或者使用您自己为每个LLM开发的手动提示。非钻石将学习最佳模型和提示组合以应对每个查询。

您可以将非钻石视为一个“元模型”，这是所有最强大的LLM的集合，其质量超越了每个单独模型，同时大幅降低了成本和延迟。

非钻石的推理速度在100毫秒以内，通过在可能的情况下路由到更快的LLM，您可以推动LLM调用的净速度提升。为了避免网络延迟并最大化速度，您可以直接将非钻石部署到您的基础设施。

是的，非钻石在RAG和代理工作流中尤为强大。随着高度多样化和未见的提示在工作流中传播，非钻石的路由提高了质量、可靠性、速度和效率。

非钻石通过我们的Python SDK、TypeScript客户端和REST API提供，您可以在任何技术栈中利用模型路由。

非钻石目前正在进行SOC-2合规的过程，并将在2025年完全合规。