将智能体部署到 LangSmith Deployment 时,您的服务器会自动公开用于创建运行和线程、与长期内存存储交互、管理可配置助手和其他核心功能的路由(查看所有默认 API 端点)。
您可以通过提供自己的 Starlette 应用程序(包括 FastAPI、FastHTML 和其他兼容应用程序)来添加自定义路由。您通过在 langgraph.json 配置文件中提供应用程序的路径来让 LangSmith 知道这一点。
定义自定义应用程序对象允许您添加任何您想要的路由,因此您可以做任何事情,从添加 /login 端点到编写整个全栈 Web 应用程序,所有这些都部署在单个 Agent Server 中。
下面是使用 FastAPI 的示例。
创建应用
从现有的 LangSmith 应用程序开始,将以下自定义路由代码添加到您的 webapp.py 文件中。如果您从头开始,可以使用 CLI 从模板创建新应用。
langgraph new --template=new-langgraph-project-python my_new_project
拥有 LangGraph 项目后,添加以下应用代码:
# ./src/agent/webapp.py
from fastapi import FastAPI
app = FastAPI()
@app.get("/hello")
def read_root():
return {"Hello": "World"}
配置 langgraph.json
将以下内容添加到您的 langgraph.json 配置文件中。确保路径指向您在上面创建的 webapp.py 文件中的 FastAPI 应用程序实例 app。
{
"dependencies": ["."],
"graphs": {
"agent": "./src/agent/graph.py:graph"
},
"env": ".env",
"http": {
"app": "./src/agent/webapp.py:app"
}
// 其他配置选项,如 auth、store 等
}
启动服务器
在本地测试服务器:
langgraph dev --no-browser
如果您在浏览器中导航到 localhost:2024/hello(2024 是默认开发端口),您应该看到 /hello 端点返回 {"Hello": "World"}。
覆盖默认端点
您在应用中创建的路由优先于系统默认值,这意味着您可以覆盖和重新定义任何默认端点的行为。
您可以将此应用按原样部署到 LangSmith 或您的自托管平台。
后续步骤
现在您已将自定义路由添加到部署中,您可以使用相同的技术进一步自定义服务器的行为方式,例如定义自定义自定义中间件和自定义生命周期事件。