本文整理自 QCon 北京 2026 赵庆杰分享《构建可拓展、可隔离的AI Agent 运行环境》，通过AI音视频总结工具Ai好记
进行转录整理，以下为视频转文字整理后的会议笔记内容。
很多企业能快速写一个 Agent，但一上线效果就和预期差很远，大多停留在 demo 或上线后当验证品用。
背后的坑集中在运行环境、开发模式、模型稳定性、效果评估这些基础设施上。
这场分享讲的是怎么帮企业构建一个能上生产的 Agent，核心是一个可拓展、可隔离的 Serverless 沙箱运行环境。
这篇文章把 Agent 运行时的六大问题和关键技术拆开讲。
Agent 开发绕不开的六大问题
长期做 Agent 研发，大部分时间都在和这几个问题斗争：
- 开发模式
变来变去（无代码、低代码到高代码平台） - 运行环境
执行复杂任务需要安全隔离又能并发的沙箱 - 模型稳定性
模型挂了系统就挂了，要考虑多模型低成本协调 - 效果评估
全链路数据闭环难收集 - 数据合规
- 多Agent协同
回头再看能力演进，之前是 Prompt Engineering 让模型听得懂，2025 年在解决怎么在小窗口里精确喂数据，现在到了 Harness Engineering，要让同一个模型在自己系统里跑出更好效果。
六大关键组件
平台的六大组件包括 Memory 和上下文工程（和开源对齐再加创新）、工具或 Skills（小巧，高德、支付宝 SDK 能轻量部署）、编排、凭证（OpenClaw 相对安全是常态）、评估评测、观测。
底层用 Serverless 函数计算承载，启动时间做到 200 毫秒左右，并发每分钟能创建 10 万个运行时，稳定性跑在接近千万核时规模上。
核心的沙箱运行时
最核心的是运行时或沙箱技术，采用类似亚马逊 Firecracker 的安全容器自研，启动非常轻量，内存占用 10MB 以下。
还定制了浏览器沙箱，基于无头浏览器封装技能完成模拟任务。
启动耗时在百万级别，因为成本和启动、运行时间高度相关，成本相比传统计算场景平均能降约 60%。按使用力度计费，比如只画了 20 分钟就只收 20 分钟的钱，比买一台机器跑很久划算得多。
相比虚拟机，这是更轻量的沙箱环境，「五脏六腑」齐全但自带隔离，不需要考虑并发和文件目录问题，处理不同任务可以轻量调起另一个沙箱。
协议开放，没有框架绑定，LangChain、AgentScope、LangGraph 都能用。
Memory 和 RAG 走标准协议可统一注册管理。可观测基于 OpenTelemetry 标准，装个探针就能细粒度看到 Token 消耗、工具调用和返回结果。
会话、存储与上下文工程
平台默认做好会话亲和与会话隔离，还能绑定飞书、钉钉等。动态文件挂载做到目录粒度，每个 Agent 单独一个共享存储目录，不用和别人共享，大幅降低开发难度。
上下文工程关注 Memory 系统的模型、存储、协议三个因素，存储和模型这些底层关键设施平台预制好，上层协议自己适配。
知识库通过 RAG 注册到平台后无缝调用。工具市场方面提供电子身份，把 Agent 当人直接授权，简化授权模式。
AI 网关与 Serverless GPU
AI 网关是 Agent 时代的关键因素，能通过微服务把传统接口转换成对 AI 更友好的接口，做全链路流控和 Token 流控。
Serverless GPU 不需要买独占卡或包年包月，只要为每个请求所用 GPU 付费，卡型被模糊掉，只按请求耗时或训练耗时付费，魔搭上的模型能直接部署。
从单机 OpenClaw 到企业级超级 Agent
单机版 OpenClaw 在个人 ToC 场景很顺畅，但企业要考虑数据被删怎么审计回溯、员工离职养了半年的 Agent 怎么保留、Token 一夜用量超标怎么办。
平台提供了标准企业安全场景，能控制 Agent 任何执行层面，高权限动作可审计，无缝提供 IAM 信息通道。
记忆还做了分层，关键记忆传本机，聚合总结日志同步云存储，能复用云上记忆实现 Agent 复制。
企业最极端情况有 2000 多个 Agent，终端客户和员工怎么用？
平台提供超级 Agent 能力做多 Agent 编排，把用户语音或问题提给超级 Agent，它做意图识别分发到具体 Agent 执行，解决智能分发和高效协同。
总结
构建可拓展、可隔离的 Agent 运行环境，核心是用 Serverless 沙箱解决轻量启动和安全隔离，用统一的基础设施组件（Memory、RAG、可观测、AI 网关）降低开发门槛，再往上用超级 Agent 解决海量 Agent 的编排协同。
对要落地企业级 Agent 的团队，这条路径值得借鉴。
常见问题 FAQ
问：Agent 为什么不能直接跑在普通虚拟机上？
答：虚拟机启动是分钟起步，不适合 Agent 的轻量随时使用。Serverless 沙箱能做到 200 毫秒启动、百万级并发，按使用量计费，成本能降约 60%。
问：多 Agent 协同问题怎么解决？
答：提供超级 Agent 入口做意图识别分发，把用户问题路由到具体的财务、销售等 Agent 执行，实现统一编排和高效协同。
问：Agent 全链路数据怎么留作资产？
答：基于 OpenTelemetry 标准装探针，细粒度采集 Token 消耗、工具调用和返回结果，把每条执行轨迹沉淀为离线数据集，用于后训练和强化学习。
以上内容由 Ai好记 转录整理。
Ai好记 是一款音视频转图文笔记的AI音视频转录总结工具，支持解析B站、抖音、小红书、小宇宙等平台链接及本地/网盘音视频文件，转录后自动视频转文字生成精华速览、思维导图和结构化笔记等内容形式，帮助你把几小时的视频内容变成可搜索、可复习的图文笔记。
