快速部署
本章节帮助用户高效地部署“LiteLLM，统一的AI管理网关”解决方案。一键部署该解决方案时，参照本章节中的步骤和说明进行操作，即可完成快速部署。
操作步骤
- 登录华为云解决方案实践，选择“LiteLLM，统一的AI管理网关”，单击“开始部署”，选择对应的版本（社区单机版和CCE容器高可用版），跳转至解决方案创建资源栈界面（以下以高可用版本为例）。 图1 解决方案主页
- 在选择模板界面中，单击“下一步”。 图2 选择模板
- 在配置参数界面中，参考“表1 参数填写说明”完成自定义参数填写，部分参数会自动默认填充参数值。如需修改请在参数配置页面删除文本框内的默认值后填写新的参数值，所有参数填写完成后方可单击“下一步”。 图3 配置参数
表1 参数填写说明（社区单机版） 参数名称
类型
是否可选
参数解释
默认值
solution_name
string
必填
解决方案名称，命名规则{solution_name}-资源英文名称，例如：CCE集群名称为{solution_name}-cce。取值范围：4-24个字符，支持小写字母、数字、-（中划线）。必须以小写字母开头。禁止以中划线（-）开头。
litellm-llm-gateway
ecs_flavor
string
非必填
云服务器实例规格，支持弹性云服务器 ECS及华为云Flexus 云服务器X实例。Flexus 云服务器X实例规格ID命名规则为x1.?u.?g，例如2vCPUs4GiB规格ID为x1.2u.4g，具体华为云Flexus 云服务器X实例规格请参考控制台。弹性云服务器规格请参考官网弹性云服务器规格清单。
x1.8u.16g
ecs_password
string
必填
云服务器密码，长度为8-26位，密码至少必须包含大写字母、小写字母、数字和特殊字符（!@$%^-_=+[{}]:,./?）中的三种。修改密码，请参考重置云服务器密码登录ECS控制台修改密码。管理员账户默认root。
-
master_key
number
必填
LiteLLM 主密钥，用于外部调用代理的 Bearer Token，必须以 sk-开头，取值范围：8-24个字符，可设置大、小写字母、数字。
-
salt_key
string
必填
LiteLLM 加盐密钥，用于加密数据库中的敏感数据，取值范围：8-24个字符，可设置大、小写字母、数字或特殊字符（~!@#$^*-=_,?）
-
system_disk_size
string
必填
云服务器系统盘大小，磁盘类型默认为通用型SSD，单位：GB，取值范围为40-1,024，不支持缩盘。
200
bandwidth_size
number
必填
弹性公网带宽大小，该模板计费方式为按流量计费。单位：Mbit/s，取值范围：1-300Mbit/s。
300
charging_mode
string
必填
云服务器计费模式，默认自动扣费，可选值为：postPaid（按需计费）、prePaid（包年包月）。
postPaid
charging_unit
string
必填
云服务器订购周期类型，仅当charging_mode为prePaid（包年/包月）生效，此时该参数为必填参数。取值范围：month（月），year（年）。
month
charging_period
number
必填
云服务器订购周期，仅当charging_mode为prePaid（包年/包月）生效，此时该参数为必填参数。取值范围：charging_unit=month（周期类型为月）时，取值为1-9；charging_unit=year（周期类型为年）时，取值为1-3。
1
表2 参数填写说明（CCE容器高可用版） 参数名称
类型
是否可选
参数解释
默认值
region_id
string
必填
资源部署所在Region
cn-north-4
solution_name
string
必填
解决方案名称，命名规则{solution_name}-资源英文名称，例如：CCE集群名称为{solution_name}-cce。取值范围：4-24个字符，支持小写字母、数字、-（中划线）。必须以小写字母开头。禁止以中划线（-）开头。
ha-litellm
bandwidth_size
string
必填
弹性公网带宽大小，该模板计费方式为按流量计费。取值范围：1-300Mbit/s。
300
litellm_version
string
必填
LiteLLM 网关镜像版本。该模板会自动将其组装为 ghcr.io/berriai/litellm:{version} 格式。
1.94.0
litellm_master_key
string
必填
LiteLLM 主密钥，必须以 sk-开头。最大值24个字符，用于外部调用代理的 Bearer Token。
-
litellm_salt_key
string
必填
LiteLLM 加盐秘钥，用于加密数据库中的敏感数据，取值范围：8-24个字符，可设置大、小写字母、数字或特殊字符（~!@#$^*-=_,?）
-
cce_cluster_flavor
string
必填
CCE Turbo集群规格，集群创建完成后规格不可再变更，可选值：cce.s2.small、cce.s2.medium、cce.s2.large、cce.s2.xlarge，具体请参考部署指南。默认为cce.s2.small(小规模多控制节点CCE集群，最大50节点)。
cce.s2.small
cce_node_pool_password
string
必填
CCE集群node节点密码，用于集群节点登录。取值范围：8-24个字符，密码至少必须包含大写字母、小写字母、并包含数字或特殊字符（~!@#$^*-=_,?）
-
cce_node_pool_flavor
string
必填
CCE集群节点云服务器实例规格，支持弹性云服务器 ECS及华为云Flexus 云服务器X实例。Flexus 云服务器X实例规格ID命名规则为x1.?u.?g，例如2vCPUs4GiB规格ID为x1.2u.4g。请使用3vCPUs6GiB及以上规格，具体华为云Flexus 云服务器X实例规格请参考X实例控制台配置，弹性云服务器 ECS规格请参考ECS控制台配置。
x1.8u.16g
cce_node_pool_count
number
必填
CCE节点池初始节点数，最大值9。
3
rds_flavor
string
必填
云数据库 RDS for PostgreSQL实例规格，该方案默认创建主备版。
。其他规格请参考RDS 控制台配置。
rds.pg.x1.2xlarge.2.ha
pgsql_admin_password
string
必填
PostgreSQL 管理员密码。取值范围：8-24个字符。密码必须至少包含大写字母、小写字母和数字或特殊字符（~！^*-=_+，）。
-
redis_capacity
number
必填
分布式缓存服务 Redis版实例规格。可选值：1GB-64GB。
8
redis_password
string
必填
redis数据库密码。取值范围：8-24个字符，密码至少必须包含大写字母、小写字母、并包含数字或特殊字符（~!^*-=_+,）。
-
charging_mode
string
必填
计费模式，默认自动扣费，取值为prePaid（包年包月）或postPaid（按需计费）。
postPaid
charging_unit
string
必填
订购周期类型，当charging_mode为prePaid时，该参数为必填参数。可选值为：month（月），year（年）。
month
charging_period
number
必填
计费周期，当charging_mode为prePaid时，该参数为必填参数。可选值为：1-3（year）、1-9（month）。
1
- （可选，如果使用华为主账号或admin用户组下的IAM子账户可不选委托）在资源设置界面中，在权限委托下拉框中选择“rf_admin_trust”委托，单击“下一步”。 图4 资源栈设置
- 在配置确认界面中，确认填写参数并单击“创建执行计划”。 图5 配置确认
- 在弹出的创建执行计划框中，自定义填写执行计划名称，单击“确定”。 图6 创建执行计划
- 单击“部署”，并且在弹出的执行计划确认框中单击“执行”。 图7 执行计划
图8 执行计划确认
- （可选）如果计费模式选择“包年包月”，在余额不充足的情况下（所需总费用请参考表4）请及时登录费用中心，手动完成待支付订单的费用支付。
- 待“事件”中出现“Apply required resource success”，堆栈部署成功，表示顺利完成资源的下发和部署。堆栈部署成功后，脚本开始执行，耐心等待10分钟左右（受网络波动影响）。 图9 部署完成
- 刷新页面，在“输出”页面查看访问链接。
