- 迭代提示:直接在图节点中或使用 LangSmith playground 修改提示。
- 在数据集上运行实验:在 LangSmith 数据集上执行您的助手以评分和比较结果。
- 调试 LangSmith 追踪:将追踪的运行导入 Studio,并可选择克隆到本地代理。
- 将节点添加到数据集:将线程历史的部分转换为数据集示例以进行评估或进一步分析。
迭代提示
Studio 支持以下方法来修改图中的提示:直接节点编辑
Studio 允许您直接从图界面编辑在单个节点内使用的提示。图配置
定义您的配置,以使用langgraph_nodes 和 langgraph_type 键指定提示字段及其关联节点。
langgraph_nodes
- 描述:指定配置字段与图的哪些节点相关联。
- 值类型:字符串数组,其中每个字符串是图中节点的名称。
- 使用上下文:包含在 Pydantic 模型的
json_schema_extra字典中或 dataclasses 的metadata["json_schema_extra"]字典中。 - 示例:
langgraph_type
- 描述:指定配置字段的类型,这决定了它在 UI 中的处理方式。
- 值类型:字符串
- 支持的值:
"prompt":表示该字段包含应在 UI 中特殊处理的提示文本。
- 使用上下文:包含在 Pydantic 模型的
json_schema_extra字典中或 dataclasses 的metadata["json_schema_extra"]字典中。 - 示例:
Full example configuration
Full example configuration
在 UI 中编辑提示
- 找到具有关联配置字段的节点上的齿轮图标。
- 点击以打开配置模态框。
- 编辑值。
- 保存以更新当前助手版本或创建新版本。
Playground
playground 界面允许在不运行完整图的情况下测试单个 LLM 调用:- 选择一个线程。
- 在节点上点击 View LLM Runs。这会列出节点内进行的所有 LLM 调用(如果有)。
- 选择一个 LLM 运行以在 playground 中打开。
- 修改提示并测试不同的模型和工具设置。
- 将更新的提示复制回您的图。
在数据集上运行实验
Studio 允许您通过在预定义的 LangSmith 数据集上执行助手来运行评估。这使您能够测试各种输入的性能,将输出与参考答案进行比较,并使用配置的评估器对结果进行评分。 以下步骤将演示如何在 Studio 中完成端到端实验。先决条件
在运行实验之前,请确保您具备以下条件:- LangSmith 数据集:您的数据集应包含要测试的输入,以及可选的参考输出用于比较。输入的架构必须与助手所需的输入架构匹配。有关架构的更多信息,请参阅此处。有关创建数据集的更多信息,请参阅如何管理数据集。
- (可选)评估器:您可以在 LangSmith 中将评估器(例如,LLM-as-a-Judge、启发式或自定义函数)附加到您的数据集。这些将在图处理完所有输入后自动运行。
- 正在运行的应用程序:实验可以针对以下对象运行:
- 部署在 LangSmith 上的应用程序。
- 通过 langgraph-cli 启动的本地运行应用程序。
实验设置
- 启动实验。点击 Studio 页面右上角的 Run experiment 按钮。
- 选择您的数据集。在出现的模态框中,选择用于实验的数据集(或特定的数据集分割)并点击 Start。
- 监控进度。数据集中的所有输入现在将针对活动助手运行。通过右上角的徽章监控实验的进度。
- 您可以在实验在后台运行的同时继续在 Studio 中工作。随时点击箭头图标按钮导航到 LangSmith 并查看详细的实验结果。
调试 LangSmith 追踪
本节说明如何在 Studio 中打开 LangSmith 追踪,便于交互式排查与调试。打开已部署的线程
- 打开 LangSmith 追踪,选择根运行。
- 点击 Run in Studio。
使用远程追踪测试本地代理
本节说明如何针对来自 LangSmith 的远程追踪测试本地代理。这使您能够使用生产追踪作为本地测试的输入,允许您在开发环境中调试和验证代理修改。先决条件
- LangSmith 追踪的线程
- 本地运行的代理。
本地代理要求
- langgraph>=0.3.18
- langgraph-api>=0.0.32
- 包含远程追踪中存在的相同节点集
克隆线程
- 打开 LangSmith 追踪,选择根运行。
- 点击 Run in Studio 旁边的下拉菜单。
- 输入您的本地代理 URL。
- 选择 Clone thread locally。
- 如果存在多个图,选择目标图。
将节点添加到数据集
从线程日志中的节点向 LangSmith 数据集 添加示例。这对于评估代理的各个步骤很有用。- 选择一个线程。
- 点击 Add to Dataset。
- 选择要将其输入/输出添加到数据集的节点。
- 对于每个选定的节点,选择要在其中创建示例的目标数据集。默认情况下,将选择特定助手和节点的数据集。如果此数据集尚不存在,将创建它。
- 在将示例添加到数据集之前,根据需要编辑示例的输入/输出。
- 在页面底部选择 Add to dataset 以将所有选定的节点添加到其各自的数据集。