这是直接部署 Agent Servers 而不使用 LangSmith 平台的设置页面。查看自托管选项以了解:
- 独立服务器:本指南涵盖的内容(无 UI,仅服务器)。
- LangSmith:用于具有 UI 的完整 LangSmith 平台。
- LangSmith Deployment:用于基于 UI 的部署管理。
前提条件
- 使用 LangGraph CLI 在本地测试您的应用程序。
-
使用 LangGraph CLI 构建 Docker 镜像(即
langgraph build)。 - 数据平面部署需要以下环境变量。
-
REDIS_URI:Redis 实例的连接详细信息。Redis 将用作发布-订阅代理以启用从后台运行流式传输实时输出。REDIS_URI的值必须是有效的 Redis 连接 URI。共享 Redis 实例 多个自托管部署可以共享同一个 Redis 实例。例如,对于Deployment A,REDIS_URI可以设置为redis://<hostname_1>:<port>/1,对于Deployment B,REDIS_URI可以设置为redis://<hostname_1>:<port>/2。1和2是同一实例内的不同数据库编号,但<hostname_1>是共享的。不能为单独的部署使用相同的数据库编号。 -
DATABASE_URI:Postgres 连接详细信息。Postgres 将用于存储助手、线程、运行、持久化线程状态和长期内存,以及使用”恰好一次”语义管理后台任务队列的状态。DATABASE_URI的值必须是有效的 Postgres 连接 URI。共享 Postgres 实例 多个自托管部署可以共享同一个 Postgres 实例。例如,对于Deployment A,DATABASE_URI可以设置为postgres://<user>:<password>@/<database_name_1>?host=<hostname_1>,对于Deployment B,DATABASE_URI可以设置为postgres://<user>:<password>@/<database_name_2>?host=<hostname_1>。<database_name_1>和database_name_2是同一实例内的不同数据库,但<hostname_1>是共享的。不能为单独的部署使用相同的数据库。 -
LANGSMITH_API_KEY:LangSmith API 密钥。 -
LANGGRAPH_CLOUD_LICENSE_KEY:LangSmith 许可证密钥。这将在服务器启动时使用一次进行身份验证。 -
LANGSMITH_ENDPOINT:要向自托管 LangSmith 实例发送跟踪,请将LANGSMITH_ENDPOINT设置为自托管 LangSmith 实例的主机名。 -
从您的网络到
https://beacon.langchain.com的出站访问。如果不在空气隔离模式下运行,这是许可证验证和使用情况报告所必需的。有关更多详细信息,请参阅出站文档。
Kubernetes
使用此 Helm chart 将 Agent Server 部署到 Kubernetes 集群。Docker
运行以下docker 命令:
- 您需要将
my-image替换为您在前提条件步骤中构建的镜像的名称(来自langgraph build)
REDIS_URI、DATABASE_URI 和 LANGSMITH_API_KEY 提供适当的值。- 如果您的应用程序需要其他环境变量,您可以以类似的方式传递它们。
Docker Compose
Docker Compose YAML 文件:docker compose up with this Docker Compose file in the same folder.
This will launch an Agent Server on port 8123 (if you want to change this, you can change this by changing the ports in the langgraph-api volume). You can test if the application is healthy by running: