部署(Deployment)
使用 LangSmith Cloud 或 JavaScript 框架和托管平台将 LangGraph 智能体部署到生产环境。
当你准备好将 LangGraph 智能体部署到生产环境时,请选择适合你的技术栈的托管模型。LangSmith Cloud 为具有持久状态和后台执行的有状态、长生命周期智能体提供完全托管的基础设施。
你还可以使用相同的 Agent Streaming Protocol 在 JavaScript 框架和平台(如 Next.js、SvelteKit、Nuxt、Cloudflare Workers 和 Deno Deploy)上进行部署。
框架与平台
TIP
LangSmith 提供了 Cloud 之外的多种部署选项,包括混合部署(hybrid)、独立服务器(standalone servers)和带控制平面的自托管(self-hosted with control plane)。有关更多信息,请参阅 LangSmith 部署概览。
LangSmith Cloud
本节介绍如何从 GitHub 仓库将你的智能体部署到 LangSmith Cloud。LangSmith 负责处理基础设施、扩展和运维问题。
前置准备
在开始之前,请确保你具备以下条件:
- 一个 GitHub 账户
- 一个 LangSmith 账户(免费注册)
部署你的智能体
1. 在 GitHub 上创建仓库
你的应用程序代码必须位于 GitHub 仓库中才能部署在 LangSmith 上。公共和私有仓库均受支持。对于此快速入门,首先按照本地服务器设置指南确保你的应用程序与 LangGraph 兼容。然后,将你的代码推送到仓库。
2. 部署到 LangSmith
1. 导航到 LangSmith Deployment
登录 LangSmith。在左侧边栏中,选择 Deployments。
2. 创建新部署
点击 + New Deployment 按钮。将打开一个面板,你可以在其中填写必填字段。
3. 关联仓库
如果你是首次使用的用户或添加以前未连接过的私有仓库,请点击 Add new account 按钮并按照说明连接你的 GitHub 账户。
4. 部署仓库
选择你的应用程序仓库。点击 Submit 进行部署。这可能需要大约 15 分钟才能完成。你可以在 Deployment details 视图中查看状态。
3. 在 Studio 中测试应用程序
部署应用程序后:
- 选择你刚刚创建的部署以查看更多详细信息。
- 点击右上角的 Studio 按钮。Studio 将打开以显示你的图。
4. 获取部署的 API URL
- 在 LangGraph 的 Deployment details 视图中,点击 API URL 将其复制到剪贴板。
- 点击
URL将其复制到剪贴板。
5. 测试 API
你现在可以测试 API:
TypeScript
- 安装 LangGraph SDK:
npm install @langchain/langgraph-sdk- 向智能体发送消息:
import { Client } from "@langchain/langgraph-sdk";
const client = new Client({ apiUrl: "your-deployment-url", apiKey: "your-langsmith-api-key" });
const streamResponse = client.runs.stream(
null, // 无线程运行
"agent", // 智能体名称。在 langgraph.json 中定义。
{
input: {
"messages": [
{ "role": "user", "content": "What is LangGraph?"}
]
},
streamMode: "messages",
}
);
for await (const chunk of streamResponse) {
console.log(`Receiving new event of type: ${chunk.event}...`);
console.log(JSON.stringify(chunk.data));
console.log("\n\n");
}Rest API
curl -s --request POST \
--url <DEPLOYMENT_URL>/runs/stream \
--header 'Content-Type: application/json' \
--header "X-Api-Key: <LANGSMITH API KEY>" \
--data "{
\"assistant_id\": \"agent\",
\"input\": {
\"messages\": [
{
\"role\": \"human\",
\"content\": \"What is LangGraph?\"
}
]
},
\"stream_mode\": \"updates\"
}"