文档首页/ AI/ 快速搭建Dify-LLM应用开发平台/ 方案概述
更新时间：2025-04-21 GMT+08:00
查看PDF
分享

方案概述

应用场景

该解决方案帮助您快速部署单机版、高可用版Dify LLM应用开发平台，同时支持将在Dify应用开发平台创建的的文档知识库挂载华为云对象存储服务 OBS桶。Dify是一款开源的大语言模型(LLM)应用开发平台。它融合了后端即服务（Backend as Service）和LLMOps的理念，使开发者可以快速搭建生产级的生成式AI应用。

方案架构

该解决方案帮助您快速部署Dify LLM应用开发平台。

图1 方案架构图（单机部署）
图2 方案架构图（高可用部署）

该解决方案将会部署如下资源：

云服务器单机部署：

  • 创建1台华为云Flexus云服务器X实例，用于搭建Dify-LLM应用开发平台。
  • 创建1个弹性公网IP EIP并关联FlexusX实例，提供访问公网和被公网访问能力。
  • 创建1个安全组，通过配置安全组规则，为云服务器提供安全防护。

CCE容器高可用部署：

  • 创建3个弹性公网IP EIP，提供访问公网和被公网访问能力。
  • 创建1个弹性负载均衡 ELB，并绑定EIP，将访问流量自动分发到不同后端服务，扩展应用系统对外的服务能力，实现强大的应用容错性能。
  • 创建1个NAT网关 NAT，并绑定EIP。配置SNAT规则，提供安全可靠的公网NAT网关和私网NAT网关服务，保护私有网络信息不对外暴露。
  • 创建3台FlexusX实例，使用Helm包部署Dify（5个核心插件）。
  • 创建1个云容器引擎 CCE Turbo集群，创建节点池并将上述3台FlexusX实例纳管为集群的Node节点。
  • 创建1台FlexusX实例，用于部署Embedding（bge-m3）及Reranker（bge-reranker-v2-m3）模型。
  • 使用对象存储服务OBS服务，用于将Dify的知识库挂载在对象存储服务 OBS桶上。
  • 创建1个分布式缓存服务Redis®*版，兼容Redis，为用户提供高性能、低成本NoSQL数据库，同时数据流转过程中数据的一致性。
  • 创建1个云数据库 RDS for PostgreSQL实例，主备分区部署，具备跨可用区故障容灾的能力。
  • 创建1个云搜索服务 CSS OpenSearch集群，提供在线分布式搜索及语义搜索等功能。
  • 创建4个安全组，通过配置安全组规则，为云服务提供安全防护。

方案优势

  • 成本优化

    提供高性价比的云服务器，按需选择资源规格、支持自动扩展，减少资源闲置，优化成本投入，进一步降低客户的运营成本。

  • 高可用性

    通过云容器引擎 CCE、云数据库 RDS for PostgreSQL、云搜索服务 CSS OpenSearch部署应用，更好地托管与简化维护应用实例，确保系统的高性能和可扩展性。

  • 一键部署

    一键轻松部署，即可完成云服务资源的创建及Dify-LLM应用开发平台的搭建。

约束与限制

  • 在开始解决方案部署之前，请确认您已经拥有一个可以访问该区域的华为账号且已开通华为云。
  • 如果选择计费模式选择“包年包月”，请确保账户余额充足以便一键部署资源的时候可以自动支付；或者在一键部署的过程进入费用中心，找到“待支付订单”手动完成支付。
  • 如果选用IAM委托权限部署资源，请确保使用的华为云账号有IAM的足够权限，具体请参考创建rf_admin_trust委托（可选）；如果使用华为主账号或admin用户组下的IAM子账户可不选委托，将采用当前登录用户的权限进行部署。