方案概述

应用场景

Dify 是一款开源的大语言模型（LLM）应用开发平台，让开发者乃至非技术用户无需编程即可快速搭建生产级生成式AI应用。基于Dify可构建智能问答助手，无缝连接企业知识库，用自然语言即时获取答案，大幅提升知识检索与利用效率。针对本地私有化部署维护成本高、可靠性不足的痛点，华为云提供社区单机版、知识库搜索增强版、CCE容器高可用版三种一键部署形态，支持从快速验证到大规模生产环境的平滑演进，有效降低运维负担、提升系统可靠性与弹性扩展能力，助力企业高效构建AI应用。

方案架构

该解决方案帮助您快速部署Dify LLM应用开发平台。

图2 方案架构图（知识库搜索增强版）

图3 方案架构图（CCE容器高可用版）

该解决方案将会部署如下资源：

社区版单机部署：

• 创建1台华为云Flexus云服务器X实例（FlexusX）：用于搭建Dify-LLM应用开发平台。
• 创建1个弹性公网IP EIP：提供访问公网和被公网访问能力。

知识库搜索增强版：

• 创建1台华为云Flexus云服务器X实例（FlexusX）：用于搭建Dify-LLM应用开发平台。
• 创建1台华为云Flexus云服务器X实例（FlexusX）：用于部署Embedding（bge-m3）及Reranker（bge-reranker-v2-m3）模型。
• 创建2个弹性公网IP EIP：提供访问公网和被公网访问能力。
• 创建1个云搜索服务 CSS Elasticsearch集群：提供在线分布式搜索及语义搜索等功能。

CCE容器高可用版：

• 创建1个云容器引擎 CCE Turbo集群：用于部署 Dify-LLM应用开发平台容器集群。
• 创建3台华为云Flexus云服务器X实例（FlexusX）：作为 CCE 容器集群的工作节点，承载容器实例。
• 创建1台华为云Flexus云服务器X实例：用于部署Embedding（bge-m3）及Reranker（bge-reranker-v2-m3）模型。
• 创建3个弹性公网IP EIP：提供访问公网和被公网访问能力。
• 创建1个弹性负载均衡 ELB：将访问流量自动分发到不同后端服务，扩展应用系统对外的服务能力，实现强大的应用容错性能。
• 创建1个NAT网关 NAT：允许私有子网和容器子网内的实例安全发起出站互联网连接，以请求上游 API。
• 使用对象存储服务OBS服务：用于将Dify的知识库挂载在对象存储服务 OBS桶上。
• 创建1个分布式缓存服务Redis®*版：用于全局限流及多副本间的路由缓存状态同步。
• 创建1个云数据库 RDS for PostgreSQL：用于保存应用配置、向量嵌入/检索结果、临时会话等数据。
• 创建1个云搜索服务 CSS Elasticsearch集群：提供在线分布式搜索及语义搜索等功能。

方案优势

• 提供专业级检索加速

  深度集成了展业的云搜索服务CSS，为Dify的知识库提供了强大的语义搜索能力，让处理百万级文档的问答应用、检索精度和速度都得到显著提升。

• “生产级”的完整配套云服务

  直接集成了云数据库RDS、对象存储OBS、分布式缓存DCS等企业级服务，提供了一站式的稳固后端支撑，所有数据都在您的私有网络中闭环处理，满足金融、医疗等行业的严格合规要求。

• 从“能用”到“好用”的平滑演进

  基于华为云多样化的产品组合，提供三种部署形态，从日活几十人的内部试用，平滑升级到支撑数万并发的大规模生产环境，无需担心早起选型限制业务发展。

约束与限制

• 该解决方案部署前，需注册华为账号并开通华为云，完成实名认证，且账号不能处于欠费或冻结状态。如果计费模式选择“包年包月”，请确保账户余额充足以便一键部署资源的时候可以自动支付；或者在一键部署的过程进入费用中心的“待支付订单”并手动完成支付。

• 如果选用IAM委托权限部署资源，请确保使用的华为云账号有IAM的足够权限，具体请参考创建rf_admin_trust委托；如果使用华为主账号或admin用户组下的IAM子账户可不选委托，将采用当前登录用户的权限进行部署。
• 本内容可能包含第三方开源软件、组件或框架的技术说明与配置示例，请您独立评估并自主决定是否使用，华为云不就第三方软件的功能、性能、安全性、兼容性或合规性作出任何保证。第三方软件知识产权归各自权利人所有，您应严格遵守适用的开源许可证条款（如 MIT、Apache 2.0 等），确保不侵犯任何第三方合法权益，并自行负责安全评估与漏洞管理。因您使用本方案提及的任何第三方软件产生的直接或间接损失（包括但不限于数据丢失、业务中断、安全事件、知识产权纠纷、合规处罚等），华为云及其关联方不承担任何责任。本方案对第三方软件的提及不构成认可或背书，亦不代表华为云与第三方权利人存在任何授权或合作关系。