快速部署
本章节帮助用户高效地部署“快速搭建Dify-LLM应用开发平台”解决方案。一键部署该解决方案时,参照本章节中的步骤和说明进行操作,即可完成快速部署。
- 登录华为云解决方案实践,选择“快速搭建Dify-LLM应用开发平台”,选择需要部署的版本,以高可用部署为示例,单击“一键部署(CCE容器高可用部署)”,跳转至解决方案创建资源栈界面。
图1 解决方案实施库
- 在选择模板界面中,单击“下一步”。
图2 选择模板
- 在配置参数界面中,参考表2完成自定义参数填写,单击“下一步”。
图3 配置参数
表1 参数说明(云服务器单机部署) 参数名称
类型
是否可选
参数解释
默认值
vpc_name
string
必填
虚拟私有云名称,该模板使用新建VPC,不允许重名。取值范围:1-54个字符,支持字母、数字、_(下划线)、-(中划线)、.(点)。
dify-llm-application-development-platform-demo
secgroup_name
string
必填
安全组名称,该模板新建安全组,安全组规则请参考安全组规则修改(可选)进行配置。取值范围:1-64个字符,支持字母、数字、_(下划线)、-(中划线)、.(点)。
dify-llm-application-development-platform-demo
ecs_name
string
必填
云服务器实例名称,不支持重名。取值范围:1-64个字符,支持字母、数字、_(下划线)、-(中划线)、.(点)。
dify-llm-application-development-platform-demo
ecs_flavor
string
必填
云服务器实例规格,支持弹性云服务器 ECS及华为云Flexus 云服务器X实例。Flexus 云服务器X实例规格ID命名规则为x1.?u.?g,例如2vCPUs4GiB规格ID为x1.2u.4g,具体华为云Flexus 云服务器X实例规格请参考控制台。弹性云服务器规格名称,具体请参考官网弹性云服务器规格清单。
x1.8u.16g
ecs_password
string
必填
云服务器密码,长度为8-26位,密码至少必须包含大写字母、小写字母、数字和特殊字符(!@$%^-_=+[{}]:,./?)中的三种。密码不能包含用户名或用户名倒序。管理员账户默认root。
空
system_disk_size
number
必填
云服务器系统盘大小,磁盘类型默认为高IO,单位:GB,取值范围为40-1,024,不支持缩盘。
100
bandwidth_size
number
必填
弹性公网带宽大小,该模板计费方式为按流量计费。单位:Mbit/s,取值范围:1-300Mbit/s。
300
charging_mode
string
必填
云服务器计费模式,默认自动扣费,可选值为:postPaid(按需计费)、prePaid(包年包月)。
postPaid
charging_unit
string
必填
云服务器订购周期类型,仅当charging_mode为prePaid(包年/包月)生效,此时该参数为必填参数。取值范围:month(月),year(年)。
month
charging_period
number
必填
云服务器订购周期,仅当charging_mode为prePaid(包年/包月)生效,此时该参数为必填参数。取值范围:charging_unit=month(周期类型为月)时,取值为1-9;charging_unit=year(周期类型为年)时,取值为1-3。
1
表2 参数说明(CCE容器高可用部署) 参数名称
类型
是否可选
参数解释
默认值
dify_version
string
必填
社区版Dify版本。可以选择1.7.1, 1.4.1, 0.15.8。默认1.7.1
1.7.1
resource_name_prefix
string
必填
资源名称前缀,命名规则{resource_name_prefix}-资源英文名称,例如:CCE集群名称为{resource_name_prefix}-cce。取值范围:4-24个字符,支持小写字母、数字、-(中划线)。必须以小写字母开头。禁止以中划线(-)开头。默认ha-dify-app 。
ha-dify-app
bandwidth_size
string
必填
弹性公网带宽大小,该模板计费方式为按流量计费。单位:Mbit/s,取值范围:1-300Mbit/s。默认:300。
300
cce_cluster_flavor
string
必填
CCE Turbo集群规格,集群创建完成后规格不可再变更,可选值:cce.s2.small、cce.s2.medium、cce.s2.large、cce.s2.xlarge,具体请参考创建CCE集群参数flavor。默认为cce.s2.small(小规模多控制节点CCE集群,最大50节点)。
cce.s2.small
cce_node_pool_password
string
必填
CCE集群node节点密码,用于集群节点登录。取值范围:8-24个字符,密码至少必须包含大写字母、小写字母、并包含数字或特殊字符(~!@#$^*-=_+,?)
cce_node_pool_flavor
string
必填
CCE集群节点云服务器实例规格,支持弹性云服务器 ECS及华为云Flexus 云服务器X实例。Flexus 云服务器X实例规格ID命名规则为x1.?u.?g,例如2vCPUs4GiB规格ID为x1.2u.4g。请使用3vCPUs6GiB及以上规格,具体华为云Flexus 云服务器X实例规格请参考控制台。弹性云服务器 ECS规格请参考官网弹性云服务器规格清单。默认:x1.16u.16g
x1.16u.16g
rds_flavor
string
必填
云数据库 RDS for PostgreSQL实例规格,该方案默认创建主备版。默认rds.pg.x1.2xlarge.4.ha(8U32G),其他规格请参考官网云数据库 RDS for PostgreSQL实例规格。
rds.pg.x1.2xlarge.4.ha
pgsql_password
string
必填
PostgreSQL数据库的管理员密码,取值范围:8-24个字符,密码至少必须包含大写字母、小写字母、并包含数字或特殊字符(~!^*-=_+,)。
pgsql_user_password
string
必填
PostgreSQL数据库的database用户密码。取值范围:8-24个字符,密码至少必须包含大写字母、小写字母、并包含数字或特殊字符(~!^*-=_+,),不能与用户名或倒序的用户名相同。
redis_capacity
number
必填
分布式缓存服务 Redis版实例规格。可选值:1GB-64GB。
4
redis_password
string
必填
redis数据库密码。取值范围:8-24个字符,密码至少必须包含大写字母、小写字母、并包含数字或特殊字符(~!^*-=_+,)
obs_bucket
string
必填
已有对象存储服务OBS桶名称,桶所属区域必须与一键部署选择的区域保持一致。用于存储Dify WebUI上传的知识库文件。获取请参考获取OBS桶名。
access_key
string
必填
访问密钥ID(AK),识别访问用户的身份,取值范围:20,仅支持大写字母和数字,用于将知识库文件上传至OBS桶。参考获取AK、SK密钥。
secret_key
string
必填
秘密访问密钥(SK),对请求数据进行签名验证,取值范围:40,仅支持大小写字母和数字,用于将知识库文件上传至OBS桶。获取请参考获取AK、SK密钥。
embedding_reranker_flavor
string
可选
(可选,置空不创建)部署Embedding和Reranker模型的云服务器规格,支持弹性云服务器 ECS(含GPU服务器)及华为云Flexus 云服务器X实例。Flexus云服务器X实例规格ID命名规则为x1.?u.?g,例如4vCPUs4GiB规格ID为x1.4u.4g。建议使用8vCPUs8GiB及以上规格,具体华为云Flexus云服务器X实例规格请参考控制台。弹性云服务器 ECS规格请参考官网弹性云服务器规格清单。可替换成GPU加速型获得更高性能。默认值:c7n.8xlarge.2。
c7n.8xlarge.2
ecs_password
string
可选
部署Embedding和Reranker模型的云服务器密码,取值范围:8-24个字符,密码至少包含大写字母、小写字母、并包含数字或特殊字符(~!@#$^*-=_+,?) 。
charging_mode
string
必填
计费模式,默认自动扣费。可选值为:postPaid(按需计费)、prePaid(包年包月)。
postPaid
charging_unit
string
必填
订购周期类型,仅当charging_mode为prePaid(包年/包月)生效,此时该参数为必填参数。可选值为:month(月),year(年)。
month
charging_period
number
必填
订购周期,仅当charging_mode为prePaid(包年/包月)生效,此时该参数为必填参数。当charging_unit=month(周期类型为月)时,取值范围:1-9;当charging_unit=year(周期类型为年)时,取值范围:1-3。
1
- (可选,如果使用华为主账号或admin用户组下的IAM子账户可不选委托)在资源设置界面中,在权限委托下拉框中选择“rf_admin_trust”委托,单击“下一步”。
图4 委托设置
- 在配置确认界面中,单击“创建执行计划”。
图5 配置确认
- 在弹出的创建执行计划框中,自定义填写执行计划名称,单击“确定”。
图6 创建执行计划
- 单击“部署”,并且在弹出的执行计划确认框中单击“执行”。
图7 执行计划图8 执行计划确认
- (可选)如果计费模式选择“包年包月”,在余额不充足的情况下(所需总费用请参考表4中对应一键部署云服务所需的包年包月费用表)请及时登录费用中心,手动完成待支付订单的费用支付。
- 待“事件”中出现“Apply required resource success”,表示该解决方案已经部署完成。
图9 部署完成
- 在“输出”中查看Dify-LLM应用开发平台访问说明。堆栈部署成功后,Dify应用搭建脚本开始执行,耐心等待5-10分钟左右(受网络波动影响)。
图10 说明