计算资源池概述
AI DataLake计算资源池类型
AI DataLake提供的计算资源分为预留资源池和弹性资源两种,满足不同业务场景的算力需求。
- 预留资源池:用户提前购买实例资源,资源类型覆盖CPU、NPU、GPU三种类型的算力,您可根据业务负载特点选择合适的计算资源组合。
预留资源池为核心业务提供独占资源保障,性能稳定可预测,适用于长期稳定运行的批处理任务、AI计算场景。
- 弹性资源:无需提前购买,按实际使用量计费,自动响应业务需求。
如果在配置端点时您选择的资源模式是“混合模式”,那么系统将为您开通弹性资源,在预留资源不足时自动调度资源进行补充。
混合资源调配既保障了业务平稳运行,又兼顾了资源的成本优化。
|
资源类型 |
支持的计费模式 |
说明 |
优势 |
适用场景 |
|---|---|---|---|---|
|
预留资源 |
|
您可通过按需/预付费用锁定一定周期内的资源使用量,期间资源可随时使用,到期后自动失效,需续费或重新购买,适合业务稳定、负载可预测的场景。 |
固定包年包月费用,比按需更加优惠。 预留资源,确保高峰期业务算力充足。 |
适用于生产项目:在此项目下,您的作业相对稳定(经过开发调试再上线),建议您使用包年/包月计费模式,可以更优惠。 |
|
弹性资源 |
按需计费 |
弹性资源无需购买,可以先使用资源,按任务实际使用量后付费,无需为业务峰值预留多余资源,有效控制成本,适合业务波动性较大或短期、偶发的场景。 |
按实际用量付费,更加灵活 |
适用于开发项目:开发调试时使用,作业随机性大,数据量小。按需计费能够帮您有效控制成本,将资源消耗控制在一定范围内。 |
|
混合资源调配 |
混合模式(预留资源池+弹性资源池) |
使用的是预留资源池和弹性资源池。 系统会优先计算预留资源池的可用容量是否满足新增Job的需求 |
与预留资源可以确保业务稳定运行,结合弹性资源池满足业务弹性需求 |
长期规划的业务需求,预估部分使用量的场景,在超过额度的使用量后按需计费。 |
AI DataLake计算资源池使用模式
|
资源使用模式 |
使用的资源类型 |
计费模式 |
资源特点 |
适用的引擎 |
适用场景 |
|---|---|---|---|---|---|
|
弹性模式 |
按需资源池 |
按需计费 |
无需提前购买,按实际使用量计费。 |
Aura |
适用于资源使用不稳定,偶发性测试验证场景。 突发性业务负载、开发测试环境、业务探索期。 |
|
预留模式 |
预留资源池 |
按需计费模式 |
需提前购买,按实际使用量计费,在购买周期内资源独享。 资源稳定,周期短。相比包年包月,无需承诺使用时长,灵活度高。 |
Aura |
适用于资源使用稳定,周期短(几个小时)的业务。 例如:短期项目、临时性预留需求、负载波动大 |
|
预留资源池 |
包年/包月模式 |
提前购买,固定周期付费,在购买周期内资源独享。 对比按需购买的方式,一次性购买较长周期的资源成本更优。 |
Aura |
适用于资源使用稳定,波动小,周期较长(年/月) 例如:AI 模型训练、大规模数据批处理、核心业务分析 |
|
|
混合模式 |
预留资源池+弹性资源池 |
混合计费模式 |
混合模式下,系统会优先计算预留资源的可用容量是否满足新增Job的需求:Job所需资源大于预留资源池当前可用容量,系统自动触发调度弹性资源,作业将使用弹性资源池来执行,此时您需要按需支付按需弹性资源池的使用费用 。 |
Aura |
适用于资源使用稳定,波动大,特殊波动洪峰使用弹性资源池保障。 例如:日常有稳定负载,偶发性业务高峰场景。 |
预留资源池
- 资源类型:
预留资源池支持三种异构计算资源,用户可根据业务负载特点灵活选择:
资源类型
说明
典型应用场景
CPU
通用计算处理器,适合数据处理、ETL、批处理等任务。
- 通用计算增强型:适合于CPU密集型作业,例如实时流作业处理等。
- 通用计算标准型:适合于大多数作业类型。
- 通用计算内存增强型:内存密集型作业,例如离线批处理作业等。
GPU
GPU实例适用于图形渲染和大规模并行计算场景,适合深度学习训练和科学计算。GPU 拥有成百上千个计算核心,可以同时处理大量简单计算任务。
深度学习,例如神经网络训练、模型调优场景;图形处理场景,例如图像识别、目标检测;视频处理场景,例如视频分析、转码、视频渲染场景,等其他AI科学计算场景。
NPU
NPU适用于AI计算场景,NPU资源采用架构优化和指令集,专门加速AI推理任务。
AI计算场景、图像识别场景,推荐系统等AI计算设计场景。是当前人工智能训练与推理的重要基础设施。
- 计费模式:
预留资源池支持按需和包年/包月两种计费模式:
- 按需计费:按实际使用量计费,在购买周期内资源独享。资源稳定,周期短。相比包年包月,无需承诺使用时长,灵活度高。
- 包年/包月:固定周期付费,在购买周期内资源独享。对比按需购买的方式,一次性购买较长周期的资源成本更优。
AI DataLake公测期间不支持使用包年/包月计费模式购买资源。
- 适用场景
预留资源池适用于对稳定性要求高、负载可预测的业务场景,这些场景通常需要资源使用过程不被中断,具备充足的资源保证任务按时完成,因此可以通过预留资源获取更优的单位算力和成本。
弹性资源
- 资源特点:
弹性资源无需购买,按需使用,按实际使用的资源量和运行时长计费,采用后付费模式。
弹性资源适用小规模或临时的数据处理需求。对于重要的或需要保证资源的作业,建议购买预留资源池来执行作业。
- 适用场景:
弹性资源池适用于临时算力需求场景,例如在开发测试阶段不确定的资源需求,新业务上线初期,负载规模尚不明确。
还可以用于“混合模式”与预留资源搭配使用,应对业务负载有明显波峰波谷的业务场景。
混合资源调配
混合资源调配是将预留资源池与弹性资源池结合,实现成本与性能的平衡。
混合资源调配基本原理如图2所示:优先使用预留资源,预留资源不足时自动切换至弹性资源补充,
系统按以下优先级调度计算资源:
- 第一优先级:预留资源池中的空闲资源
- 第二优先级:弹性资源池中按需创建的资源
混合资源调配模式下,系统会优先计算预留资源的可用容量是否满足新增Job的需求:
- Job所需资源小于等于预留资源池当前可用容量,完全由预留资源池支撑,不会触发调度弹性资源池,也无需支付额外费用。
- Job所需资源大于预留资源池当前可用容量,系统自动触发调度弹性资源,作业将使用弹性资源池来执行,此时您需要按需支付按需弹性资源池的使用费用 。
这种混合资源调配模式兼具预留资源的稳定性与按需资源的灵活性,有效应对业务变化。
