跳到主要内容

模型供应商

在外部服务商托管的文本 Embedding 模型或重新排序模型，必须先让该服务商能够对来自你项目的请求进行身份验证，Zilliz Cloud 才能调用该模型。模型服务集成在项目级别存储服务商颁发的凭证，并为 Zilliz Cloud 提供一个可供文本 Embedding 和重新排序功能引用的集成 ID。这样便无需在各个 Function 或 Ranker 配置中分别填写凭证。

说明

创建模型服务集成不会产生费用。外部服务商可能会收取模型推理费用，向服务商发送数据也可能产生数据传输费用。

支持的模型服务提供商​

以下模型服务提供商可与 Zilliz Cloud 集成：

模型服务提供商支持的 Zilliz Cloud 功能所需凭证
OpenAIText Embedding FunctionAPI 密钥。获取方法请参阅 OpenAI API 快速入门。
CohereText Embedding Function 和基于模型的 RankerAPI 密钥。获取方法请参阅 API 密钥和速率限制。
Voyage AIText Embedding Function 和基于模型的 RankerAPI 密钥。获取方法请参阅 API 密钥和 Python 客户端。
说明

从外部服务提供商选择模型时，请确认该服务商当前为所需任务提供此模型。模型可用性、任务支持情况、稳定性、延迟和输出质量取决于服务商及所选模型。在生产环境中使用模型之前，请针对你的工作负载评估这些属性。

开始前​

创建模型服务集成前，请确保：

  • 你对目标 Zilliz Cloud 项目拥有 Organization Owner 或 Project Admin 权限。如果权限不足，请联系你的 Zilliz Cloud Organization Owner。

  • 你已获得所选模型服务提供商要求的凭证。请参阅支持的模型服务提供商。

创建模型供应商集成​

创建模型供应商集成的步骤如下：

1

登录 Zilliz Cloud 控制台。

2

在项目页面中，从左侧导航栏进入集成中心。

3

在模型供应商区域，点击 + 添加配置。

4

在弹出的对话框中完成基础设置：

  • 模型供应商：选择要集成的模型供应商

  • 集成名称：为该集成指定一个唯一名称（例如：test）

  • 集成描述（可选）：填写该集成的说明（例如：用于模型供应商）

5

点击下一步，进入凭证信息配置：

  1. 在 API 密钥字段中输入模型供应商提供的 API Key

  2. 点击校验集成验证连接。当状态变为成功后，继续下一步

6

点击添加完成创建。

管理集成​

集成创建完成后，你可以在集成中心页面中对其进行管理，包括：

  • 获取集成 ID

    在使用 Text Embedding Function 或 Rerank Function 时，需要提供该集成 ID

  • 查看集成详情

  • 编辑集成名称或描述

  • 在不再需要时删除该集成

说明

如果某个集成被移除或变为无效，引用该集成的 Collection 或 Ranker 在执行插入或搜索操作时可能会失败，直到该集成被更新或替换。

下一步​

创建模型服务集成后，你可以：

  • 将其与 Text Embedding Function 配合使用，将文本转换为密集向量。

  • 使用基于模型的 Ranker 对搜索结果重新排序。

有关详细操作说明，请参阅：

Ctrl I