运行时概述
智能体运行时是AgentArts提供的安全隔离、框架无关的智能体托管执行环境,专为生产级智能体设计,提供企业级的弹性伸缩与权限治理能力,帮助开发者专注于业务逻辑,无需关心底层基础设施的运维。
用户将Agent代码打包为镜像,部署到运行时后即可通过API调用。
运行时解决的核心问题:
- Agent代码写好了,部署到哪里跑?
- 怎么保证多用户并发时互不干扰?
- 怎么弹性伸缩、版本管理、灰度发布?
运行时提供开箱即用的答案。
功能优势
- 安全隔离运行环境
- 安全沙箱:基于安全沙箱技术实现microVM隔离,提供企业级运行时可靠性及安全保障。
- 框架无关性:支持基于Agent框架(LangChain、LangGraph、Google ADK等)开发的智能体部署。
- 托管运行环境:安全隔离、与框架和模型无关的托管运行环境,确保智能体在独立、受控条件下运行。
- 企业级弹性与伸缩
- 自动弹性伸缩:支持基于业务流量的自动扩缩容能力。
- 高并发承载:有效应对流量洪峰,保障服务稳定性。
- 大规模支持:单账号可创建1000个智能体运行时,单运行时支持1000个版本。
- 精细化权限治理
- 多维度身份认证:提供IAM、OAuth 2.0、API Key三种认证方式,并支持无认证方式(入站请求不执行身份鉴权,安全风险较高,请谨慎使用)。
- IAM认证:适用于与华为云账号体系统一权限管理的场景,如企业内部系统集成。
- OAuth 2.0认证:适用于已具备OAuth 2.0身份提供方的企业应用,通过标准授权流程接入。
- API Key认证:适用于轻量级接入与快速联调测试的场景,配置简单,通过Authorization请求头携带API Key即可完成鉴权。
- 无认证:无需身份鉴权的开放场景。
- 安全委托机制:支持IAM委托,使智能体能安全地代表用户与外部系统交互。
- 灵活网络配置:支持公网/私网访问,保障网络环境安全。
- 多维度身份认证:提供IAM、OAuth 2.0、API Key三种认证方式,并支持无认证方式(入站请求不执行身份鉴权,安全风险较高,请谨慎使用)。
- 灵活部署方式
- 支持控制台可视化部署和SDK命令行部署。
- 版本化管理,支持多版本管理和历史版本回溯。
- 平滑镜像更新,更新过程有序可控。
- 完善的可观测性
- 日志监控:集成华为云云日志服务(LTS),实时查看运行时日志。
- 健康检查:支持自定义健康检查端点,提供HEALTHY、HEALTHY_BUSY、UNHEALTHY三种状态。
- 灵活访问控制
- 多访问方式:每个运行时最多创建10个访问方式,支持绑定不同版本。
- 文件传输:支持开启文件上传下载API接口。
- 入站协议:支持HTTP和MCP两种入站协议。
- 丰富的运行时配置
- 环境变量:支持表单编辑和JSON格式两种方式配置环境变量。
- 启动命令:支持自定义启动命令,最多配置10个命令。
- 存储扩展:支持SFS Turbo、会话存储和OBS三种存储类型。
- 标签管理:支持资源标签分类管理,最多添加20个标签。
- 完整的API生态
- RESTful API:提供标准RESTful API,支持业务系统集成。
- 完整SDK:提供Runtime、Tools、Memory、Identity、Gateway等多维度SDK。
- CLI工具:命令行工具支持部署、调用、状态查询、资源销毁等全生命周期管理。
- OpenAPI支持:提供完整的OpenAPI接口文档,支持二次开发。
与Managed Agent的关系
| 维度 | Managed Agent | 运行时 |
|---|---|---|
| 上手方式 | 配置驱动,零代码 | 代码驱动,打包镜像 |
| 基础设施 | 全托管 | 用户管理版本/实例 |
| 定制灵活度 | 通过配置项调整 | 代码层面完全可控 |
| 适用场景 | 快速验证/标准场景 | 深度定制/复杂逻辑 |
镜像制作约束与限制
为了让您的自定义高代码智能体(如基于LangChain开发的智能体代码)能够在AgentArts运行时中被正确调度和访问,您制作的Docker镜像必须满足以下规范:
- 请使用ARM64系统制作的Agent镜像,使用X86系统制作的镜像会导致智能体运行时调用失败。
- 兼容AgentRun入站协议
AgentArts平台通过标准的AgentRun协议与应用程序进行通信。要求如下:
监听指定端口:默认监听8080端口。
实现标准接口:- HTTP协议:需提供 POST /invocations 端点,以适配传统请求响应模式。
- WebSocket协议(可选):需提供 /ws 端点,以实现实时双向流式通信。
推荐使用AgentArts SDK。SDK内置了协议转换能力,您只需关注核心业务逻辑,无需手动编写路由和协议接口。
该SDK提供AgentArtsRuntimeApp方法,用于将您的智能体逻辑封装为标准HTTP服务器,并暴露以下接口:
- POST /invocations - 用于智能体调用端点
- WS /ws - 用于流式传输的WebSocket端点
- 无状态与本地磁盘约束
智能体部署在分布式弹性伸缩集群,在沙箱空闲触发资源释放时,本地磁盘数据全部丢失。
- 禁止依赖本地文件系统:安全沙箱随时可能被销毁或水平扩容,写入本地磁盘(如 SQLite、本地日志文件、本地缓存)的数据会丢失。
- 状态持久化方案:请使用AgentArts提供的记忆库(Memory)组件进行上下文持久化,或使用华为云SFS Turbo弹性文件系统或OBS存储实体文件。
相关文档
- 工作原理:了解运行时的整体架构与请求交互流程。
- 通过控制台部署:通过AgentArts控制台创建运行时。
- 通过运行时SDK部署:通过SDK命令行工具部署智能体。
- 部署Agent:了解Agent部署的完整流程与操作指引。
- AgentArts运行时SDK:运行时SDK的完整使用指南。
- 存储配置:了解SFS Turbo、会话存储和OBS三种存储类型的配置方式。
- 入站协议:了解HTTP和MCP两种入站协议的实现要求。
- 管理运行时:查看和管理已部署的智能体运行时。
- 观测运行时:查看运行时日志,用于调用失败、超时等问题的故障排查。
- 安全最佳实践:了解运行时的安全加固建议。
- 灰度发布:了解运行时版本的灰度发布与流量分配机制。