如果您准备将应用程序部署到云,请遵循云部署快速入门完整设置指南。本页面解释云托管架构以供参考。
选项是一个完全托管的模型,LangChain 托管和操作所有 LangSmith 基础设施和服务:
  • 完全托管的基础设施:LangChain 处理所有基础设施、更新、扩展和维护。
  • 从 GitHub 部署:连接您的仓库并通过几次点击进行部署。
  • 自动化 CI/CD:构建过程由平台自动处理。
  • LangSmith UI:完全访问可观测性评估部署管理Studio
谁管理它在哪里运行
LangSmith 平台(UI、API、数据存储)LangChainLangChain 的云
您的智能体服务器LangChainLangChain 的云
您应用的 CI/CDLangChainLangChain 的云
云部署:LangChain 托管和管理所有组件,包括 UI、API 和您的智能体服务器。

开始使用

要将您的第一个应用程序部署到云,请遵循云部署快速入门或参考综合设置指南

云架构和可扩展性

本节仅与 https://smith.langchain.comhttps://eu.smith.langchain.com 提供的云托管 LangSmith 服务相关。有关自托管 LangSmith 解决方案的信息,请参阅自托管文档
LangSmith 部署在 Google Cloud Platform (GCP) 上,设计为高度可扩展。许多客户在 LangSmith 上运行生产工作负载,用于 LLM 应用程序可观测性、评估和智能体部署

架构

基于美国的 LangSmith 服务部署在 GCP 的 us-central1(爱荷华)区域。
基于欧盟的 LangSmith 服务现已推出(截至 2024 年 7 月中旬),部署在 GCP 的 europe-west4(荷兰)区域。如果您对该区域的企业计划感兴趣,请联系我们的销售团队

区域存储

此表中的资源和服务存储在与注册时 URL 对应的位置(美国或欧盟)。云托管 LangSmith 使用 Supabase 进行身份验证/授权,使用 ClickHouse Cloud 作为数据仓库。
美国欧盟
URLhttps://smith.langchain.comhttps://eu.smith.langchain.com
API URLhttps://api.smith.langchain.comhttps://eu.api.smith.langchain.com
GCPus-central1(爱荷华)europe-west4(荷兰)
SupabaseAWS us-east-1(弗吉尼亚北部)AWS eu-central-1(德国)
ClickHouse Cloudus-central1(爱荷华)europe-west4(荷兰)
LangSmith 部署us-central1(爱荷华)europe-west4(荷兰)
有关更多信息,请参阅区域常见问题

区域独立存储

此处列出的数据专门存储在美国:
  • 使用 Stripe 和 Metronome 的支付和计费信息

GCP 服务

LangSmith 由以下服务组成,全部部署在 Google Kubernetes Engine (GKE) 上:
  • LangSmith 前端:提供 LangSmith UI。
  • LangSmith 后端:提供 LangSmith API。
  • LangSmith 平台后端:处理身份验证和其他高容量任务。(内部服务)
  • LangSmith Playground:处理将请求转发到各种 LLM 提供商以实现 Playground 功能。
  • LangSmith 队列:处理异步任务的处理。(内部服务)
LangSmith 使用以下 GCP 存储服务:
  • Google Cloud Storage (GCS) 用于运行输入和输出。
  • Google Cloud SQL PostgreSQL 用于事务性工作负载。
  • Google Cloud Memorystore for Redis 用于队列和缓存。
  • GCP 上的 Clickhouse Cloud 用于跟踪摄取和分析。我们的服务通过私有端点连接到托管在同一 GCP 区域的 Clickhouse Cloud。
我们使用的一些其他 GCP 服务包括:
  • Google Cloud Load Balancer 用于将流量路由到 LangSmith 服务。
  • Google Cloud CDN 用于缓存静态资产。
  • Google Cloud Armor 用于安全性和速率限制。有关我们执行的速率限制的更多信息,请参阅本指南
Light mode overview

IP 地址白名单

来自 LangChain SaaS 的出站流量

离开 LangSmith 服务的所有流量都将通过 NAT 网关路由。所有流量都将显示为来自以下 IP 地址:
美国欧盟
34.59.65.9734.13.192.67
34.67.51.22134.147.105.64
34.46.212.3734.90.22.166
34.132.150.8834.147.36.213
35.188.222.20134.32.137.113
34.58.194.12734.91.238.184
34.59.97.17335.204.101.241
104.198.162.5535.204.48.32
如果连接到您自己的 AzureOpenAI 服务或 Playground 或在线评估可能需要的其他端点,将这些 IP 地址添加到白名单可能会有所帮助。

进入 LangChain SaaS 的入站流量

langchain 端点映射到以下静态 IP 地址:
美国欧盟
34.8.121.3934.95.92.214
34.107.251.23434.13.73.122
您可能需要将这些添加到白名单以启用从您的私有网络到 LangSmith SaaS 端点(api.smith.langchain.comsmith.langchain.combeacon.langchain.comeu.api.smith.langchain.comeu.smith.langchain.comeu.beacon.langchain.com)的流量。
Connect these docs programmatically to Claude, VSCode, and more via MCP for real-time answers.