LangSmith playground 允许您使用任何与 OpenAI API 兼容的模型。您可以通过在 playground 中设置代理提供商来使用您的模型。

部署 OpenAI 兼容模型

许多提供商提供 OpenAI 兼容模型或代理服务。其中的一些示例包括: 您可以使用这些提供商部署模型并获得与 OpenAI API 兼容的 API 端点。 查看完整的规范以获取更多信息。

在 LangSmith Playground 中使用模型

部署模型服务器后,您可以在 LangSmith Playground 中使用它。 要访问 Prompt Settings 菜单:
  1. Prompts 标题下,选择模型名称旁边的齿轮 图标。
  2. Model Configuration 选项卡中,在下拉菜单中选择要编辑的模型。
  3. 对于 Provider 下拉菜单,选择 OpenAI Compatible Endpoint
  4. 将您的 OpenAI 兼容端点添加到 Base URL 输入框。
    Model Configuration window in the LangSmith UI with a model selected and the Provider dropdown with OpenAI Compatible Endpoint selected.
如果一切设置正确,您应该在 playground 中看到模型的响应。您还可以使用此功能调用下游管道。 有关如何存储模型配置的信息,请参阅配置提示设置
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.