将智能体部署到 LangSmith 时，您可以向服务器添加自定义中间件以处理诸如记录请求指标、注入或检查标头以及强制执行安全策略等问题，而无需修改核心服务器逻辑。这与添加自定义路由的工作方式相同。您只需提供自己的 Starlette 应用程序（包括 FastAPI、FastHTML 和其他兼容应用程序）。
添加中间件允许您在部署中全局拦截和修改请求和响应，无论它们是访问您的自定义端点还是内置 LangSmith API。
下面是使用 FastAPI 的示例。
“仅 Python”
我们目前仅在使用 langgraph-api>=0.0.26 的 Python 部署中支持自定义中间件。
创建应用
从现有的 LangSmith 应用程序开始，将以下中间件代码添加到您的 webapp.py 文件中。如果您从头开始，可以使用 CLI 从模板创建新应用。
langgraph new --template=new-langgraph-project-python my_new_project
# ./src/agent/webapp.py
from fastapi import FastAPI, Request
from starlette.middleware.base import BaseHTTPMiddleware
app = FastAPI()
class CustomHeaderMiddleware(BaseHTTPMiddleware):
async def dispatch(self, request: Request, call_next):
response = await call_next(request)
response.headers['X-Custom-Header'] = 'Hello from middleware!'
return response
# 将中间件添加到应用
app.add_middleware(CustomHeaderMiddleware)
配置 langgraph.json
将以下内容添加到您的 langgraph.json 配置文件中。确保路径指向您在上面创建的 webapp.py 文件。
{
"dependencies": ["."],
"graphs": {
"agent": "./src/agent/graph.py:graph"
},
"env": ".env",
"http": {
"app": "./src/agent/webapp.py:app"
}
// 其他配置选项，如 auth、store 等
}
自定义中间件顺序
默认情况下，自定义中间件在身份验证逻辑之前运行。要在身份验证_之后_运行自定义中间件，请在 http 配置中将 middleware_order 设置为 auth_first。（从 API 服务器 v0.4.35 及更高版本开始支持此自定义。）
{
"dependencies": ["."],
"graphs": {
"agent": "./src/agent/graph.py:graph"
},
"env": ".env",
"http": {
"app": "./src/agent/webapp.py:app",
"middleware_order": "auth_first"
},
"auth": {
"path": "./auth.py:my_auth"
}
}
启动服务器
在本地测试服务器：
langgraph dev --no-browser
X-Custom-Header。
您可以将此应用按原样部署到云或您的自托管平台。
后续步骤
现在您已将自定义中间件添加到部署中，您可以使用类似的技术添加自定义路由或定义自定义生命周期事件以进一步自定义服务器的行为。
