应用场景
Agentic RL模型后训练
场景描述
大模型后训练阶段,需要通过大规模并行Rollout生成训练数据。每次训练迭代需创建数万甚至数十万个沙箱实例,运行客户的业务代码并收集轨迹数据,训练结束后销毁沙箱并启动新一轮训练。
传统方式的弊端
传统基于K8s的容器方案在面对超大规模沙箱创建时,存在启动时延高、批创性能不足、镜像分发慢等瓶颈,GPU等待时间长导致训练成本居高不下。
AgentSphere的优势
- 十万级沙箱批创能力,百毫秒级启动时延,提升训练效率。
- 支持百万级镜像存储,镜像去重分发能力覆盖TB级带宽传输。
- 训练结束即刻释放资源,降低训练总成本。
推荐搭配服务
Agent Sandbox + 弹性云服务器ECS + 对象存储服务OBS
企业级智能体在线服务
场景描述
企业基于大模型构建面向终端用户的智能体应用(如智能家居助理、办公助手等),需要为每个用户分配独立的沙箱运行环境,持久化存储用户记忆、技能和会话数据,同时保障多租户之间的安全隔离。
传统方式的弊端
传统容器方案无法满足Agent应用对毫秒级启动、海量并发、持久化存储、细粒度安全隔离的综合需求,运维管理复杂。
AgentSphere的优势
- 四层纵深安全防护:网络、身份、内容、沙箱内核,将Agent关进安全的“笼子”里。
- 百毫秒级沙箱启动,按任务按需拉起,支持自动休眠和快速唤醒。
- E2B兼容的SDK集成,支持灵活的运维管理。
推荐搭配服务
Agent Sandbox + Agent Gateway + Agent Identity