部署 OpenAI 兼容模型
许多提供商提供 OpenAI 兼容模型或代理服务。其中的一些示例包括: 您可以使用这些提供商部署模型并获得与 OpenAI API 兼容的 API 端点。 查看完整的规范以获取更多信息。在 LangSmith Playground 中使用模型
部署模型服务器后,您可以在 LangSmith Playground 中使用它。 要访问 Prompt Settings 菜单:- 在 Prompts 标题下,选择模型名称旁边的齿轮 图标。
- 在 Model Configuration 选项卡中,在下拉菜单中选择要编辑的模型。
- 对于 Provider 下拉菜单,选择 OpenAI Compatible Endpoint。
-
将您的 OpenAI 兼容端点添加到 Base URL 输入框。

