资源和成本规划
本节介绍解决方案实践中资源规划情况,配置为72B参数大模型开发通用配置,具体实施可根据选取的模型进行规格调整。
云资源 |
规格 |
数量 |
每月费用 |
---|---|---|---|
AI开发平台ModelArts |
面向开发者的一站式AI开发平台 |
/ |
/ |
AI专属集群物理资源池 |
modelarts.bm.npu.arm.8sntgb3.d1个次)x 1 |
1 |
151620 |
对象存储服务OBS |
标准存储单AZ存储包 | 5TB |
1 |
456 |
容器镜像服务SWR |
容器镜像全生命周期管理服务 |
/ |
/ |
云容器引擎CCE |
CCE容器集群 | 混合集群 | 50节点 | 是 |
/ |
/ |
云审计服务 CTS |
云审计服务 |
/ |
/ |
云监控服务 CES |
云监控服务 |
/ |
/ |
本案例所涉及的昇腾云行业大模型适配服务报价项如下,实际以收费账单为准:
类别 |
服务内容 |
量纲 |
---|---|---|
行业大模型适配服务 |
深入了解客户业务需求,提供各行业大模型开发和适配方案,通过性能评估和反馈机制,优化模型精度与性能,确保模型快速收敛并满足业务需求。 |
人天 |
昇腾模型迁移优化服务 |
调研客户业务场景,支持客户分析模型代码结构,分析迁移可行性,设计迁移方案。支持客户进行模型迁移环境部署与训练脚本改造。 |
人天 |