- 挂载内部证书颁发机构 (CA) 系统范围,以为数据库连接和 Playground 模型调用启用 TLS
- 使用 Playground 特定的 TLS 设置为 mTLS 提供客户端证书/密钥与受支持的模型提供商
挂载内部 CA 以进行 TLS
您必须使用 Helm chart 版本 0.11.9 或更高版本才能使用以下配置挂载内部 CA。
- 创建一个文件,其中包含数据库和外部服务的 TLS 所需的所有 CA。如果您的部署直接与
beacon.langchain.com通信而不通过代理,请确保包含公共信任的 CA。所有证书应在此文件中连接在一起,之间有一个空行。 - 创建一个 Kubernetes 密钥,其中包含此文件内容的键。
- 如果对数据库和其他外部服务使用自定义 CA 进行 TLS,请向 LangSmith helm chart 提供以下值:
Helm
- 确保使用支持 TLS 的连接字符串:
- Postgres:在末尾添加
?sslmode=verify-full&sslrootcert=system。 - Redis:使用
rediss://而不是redis://作为前缀。
- Postgres:在末尾添加
为模型提供商使用自定义 TLS 证书
此功能目前仅适用于以下模型提供商:
- Azure OpenAI
- OpenAI
- Custom(我们的自定义模型服务器)。有关更多信息,请参阅自定义模型服务器文档。
LANGSMITH_PLAYGROUND_TLS_MODEL_PROVIDERS:需要自定义 TLS 证书的模型提供商的逗号分隔列表。请注意,azure_openai、openai和custom目前是唯一受支持的模型提供商,但将来会支持更多提供商。- [可选]
LANGSMITH_PLAYGROUND_TLS_KEY:PEM 格式的私钥。这必须是文件路径(用于挂载的卷)。这通常仅对于双向 TLS 身份验证是必需的。 - [可选]
LANGSMITH_PLAYGROUND_TLS_CERT:PEM 格式的证书。这必须是文件路径(用于挂载的卷)。这通常仅对于双向 TLS 身份验证是必需的。 - [可选]
LANGSMITH_PLAYGROUND_TLS_CA:PEM 格式的自定义证书颁发机构 (CA) 证书。这必须是文件路径(用于挂载的卷)。仅当您使用低于0.11.9的 helm 版本时才使用此选项挂载 CA;否则,请使用上面的挂载内部 CA 以进行 TLS 部分。