开始使用

安全组规则修改（可选）

• 该解决方案使用80端口用来访问Dify，默认全放通，请参考修改安全组规则，配置IP地址白名单。
• 该解决方案使用22端口用来以SSH方式远程登录云服务器，若需远程登录云服务器，请参考修改安全组规则，配置IP地址白名单，以便能正常访问服务。
• 该解决方案部署成功后，环境初始化预计5-10分钟，受网络、带宽影响，部署时间会有波动部署完成之后方可正常访问。

安全组实际是网络流量访问策略，包括网络流量入方向规则和出方向规则，通过这些规则为安全组内具有相同保护需求并且相互信任的云服务器、云容器、云数据库等实例提供安全保护。

如果您的实例关联的安全组策略无法满足使用需求，比如需要添加、修改、删除某个TCP端口，请参考以下内容进行修改。

• 添加安全组规则：根据业务使用需求需要开放某个TCP端口，请参考添加安全组规则添加入方向规则，打开指定的TCP端口。
• 修改安全组规则：安全组规则设置不当会造成严重的安全隐患。您可以参考修改安全组规则，来修改安全组中不合理的规则，保证云服务器等实例的网络安全。
• 删除安全组规则：当安全组规则入方向、出方向源地址/目的地址有变化时，或者不需要开放某个端口时，您可以参考删除安全组规则进行安全组规则删除。

Dify基础使用

1. 登录开发平台：输入快速部署步骤10的访问地址，即可访问Dify的开发平台。首次登录需注册管理员账号，依次填写邮箱、账号、密码。
   图1 设置管理员账户
   

2. 在登录界面，依次输入上一步骤中的“邮箱”“密码”登录Dify平台。
   图2 登录Dify平台
   
   图3 Dify平台
   

与MaaS服务对接

1. 登录ModelArts Studio 平台，本文以部署华东二的DeepSeek-R1-Distill-Qwen-32B-4K为例。
   图4 ModelArts Studio
   

2. 在ModelArts Studio左侧导航栏中，选择“在线推理”进入“预置服务”服务列表，选择“免费服务”。
   图5 免费服务
   

3. 领取免费调用额度。在免费服务列表，选择所需的服务，单击右侧操作列的“领取额度”。当领取置灰时，表示该服务的免费额度已领取。
   图6 领取额度
   

4. 成功领取后，在免费服务列表，选择所需的服务，单击“调用说明”，在调用弹窗中接口类型选择“OpenAI SDK”获取API地址和模型名称。
   图7 调用说明
   

5. 免费服务中单个模型提供200万token推理额度，额度消耗完后可开通使用商用级别的推理API服务（仅限贵阳一），或前往我的服务部署为我的服务后付费使用。
   图8 商用服务
   
   图9 调用说明
   

6. 在调用MaaS部署的模型服务时，需要填写API Key用于接口的鉴权认证。在左侧导航栏，单击“API Key管理”（最多可创建30个密钥。每个密钥仅在创建时显示一次，请确保妥善保存。如果密钥丢失，无法找回，需要重新创建API Key以获取新的访问密钥）。
   图10 API Key管理
   

7. 在“API Key管理”页面，单击右上角“创建API Key”，填写标签（自定义API Key的标签，标签具有唯一性，不可重复。仅支持大小写英文字母、数字、下划线、中划线，长度范围为1~100个字符）和描述（自定义API Key的描述，长度范围为1~100个字符）信息后，单击“确定”。标签和描述信息在创建完成后，不支持修改。
   图11 创建API Key
   

8. 对接Dify平台。打开您的Dify平台界面，单击右上角用户名称，下拉并单击“设置”。

   

9. 进入模型供应商页签，选择OpenAI-API-compatible供应商。
   图12 选择供应商
   
   

   Dify 1.0版本以上，需先安装模型供应商插件再添加模型。

10. 配置模型信息：“模型名称”及“API endpoint URL”填写上述本节步骤4或步骤5“调用说明”中的“模型名称”及“API地址”；"API Key"填写步骤7中创建的API Key，填写完成后单击“保存”。
    图13 设置
    

与一键部署DeepSeek对接

该章节为成功部署快速搭建DeepSeek推理系统解决方案后，将DeepSeek大模型对接至Dify平台时参考使用。

1. 右侧单击用户名称，下拉并单击“设置”。
   图14 设置
   

2. 单击左侧“模型供应商”，在Ollama下单击“添加模型”。
   图15 添加Ollama模型
   

3. 模型名称填写快速部署中选择部署的模型，如“deepseek-r1:7b”，基础URL填写中获取的私网IP地址（如果部署的Dify应用和DeepSeek-R1蒸馏版模型不在同一服务器且不在同一VPC下，需填写DeepSeek-R1蒸馏版模型所在服务器的公网IP），端口号11434（使用公网连接时，模型服务器所在安全组需放通11434端口），单击右下角“保存”并关闭“设置”。
   图16 模型配置
   

创建知识库

• 高质量型需要提前添加Embedding和Reranker模型。
• 本解决方案一键部署（CCE容器高可用部署）提供可选的Embedding和Reranker模型服务器。登录ECS控制台，找到解决方案创建的Embedding&Reranker模型服务器，复制私网IP地址。后续步骤可参考快速部署Embedding及Reranker模型部署指南开始使用，服务器URL填写私网IP地址（若不使用本方案部署的Embedding和Reranker模型，请填写公网IP）。

1. 创建知识库。在Dify平台页面，依次单击“知识库>创建知识库”上传文本文件后单击“下一步”。
   图17 创建知识库
   
   图18 导入文件
   

2. （经济型）按需求配置知识库，若没有特殊需求默认即可。单击“保存与处理”，待页面提示嵌入已完成表示配置完成。高质量型请参考以下步骤3-5。
   图19 配置经济型索引知识库
   
   图20 知识库配置完成
   

3. （高质量）选择高质量模块，在Embedding模型栏目选择添加的bge-m3模型，在检索设置栏目，选择混合检索（可同时使用向量检索和关键词检索，并控制两者权重），在模型下拉窗口选择添加的bge-reranker-v2-m3模型，在下方开启Score阈值开关，并滑动下方的滑动按钮来选择阈值，推荐0.5，下方还有TOP K的选项，可以控制最终被使用的文档分片的最大数量。
   图21 配置高质量索引知识库
   

4. （高质量）继续选择权重设置，调整滑动按钮，推荐选择语义（向量检索）0.5，关键词（关键词检索）0.5，然后单击保存，至此，高质量知识库创建完成。
   图22 配置语义等
   

5. （高质量）待显示嵌入已完成，文档对应状态变成绿色对钩，则继续单击“前往文档”，可以看到导入的知识库文档为可用状态。
   图23 嵌入完成
   
   图24 高质量型配置完成
   

创建聊天助手

1. 选择“创建空白应用”，单击“聊天助手”并填写“应用名称&图标”，单击右下角“创建”。
   图25 创建空白应用
   
   图26 创建聊天助手
   

2. 单击“编排”，在右下角“和机器人聊天”中输入内容即可调试预览。
   图27 调试与预览
   

创建工作流

1. 单击“工作室”，访问dify平台工作室。
   图28 工作室
   

2. 导入工作流。在工作室页面，单击“导入DSL文件”，在弹出的页面中选择“URL”，复制下面的地址，粘贴到DSL URL路径里，如下图所示：

   https://documentation-samples.obs.cn-north-4.myhuaweicloud.com/solution-as-code-publicbucket/solution-as-code-moudle/building-a-dify-llm-application-development-platform/workflow/DeepSeek_searXNG%E8%81%94%E7%BD%91%E6%90%9C%E7%B4%A2_%E7%9F%A5%E8%AF%86%E5%BA%93.yml

   图29 导入工作流
   
   图30 工作流模板
   

3. 配置知识库。添加知识库：单击“知识检索”节点，单击“+”按钮添加知识库，选择知识库，单击“添加”。
   图31 配置知识库
   

4. 单击工具查找搜索插件，单击APIKey 授权配置，并添加URL。单机版部署填写Dify服务器私网IP：http://{ECS私网IP}:8080；高可用部署填写URL：http://searxng:8080。如下图所示，单击“保存”后，即可设置成功。(ECS私网IP是部署Dify的虚机的内网ip，如连接不通，请检查虚机的安全组是否放通8080端口号）。
   图32 工具设置
   
   图33 授权联网搜索
   
   图34 单机版URL

   

   图35 高可用版URL

   

5. 调整模型。若大模型处有提示感叹号如下图所示，即表示该模型不存在，需要调整为Dify平台已经添加好的模型。单击大模型名称，在右侧弹窗继续单击模型名称旁边的下拉列表，继续单击模型名称，在下拉列表中选择一个模型即可。其余大模型按照此步骤重复操作即可。
   图36 模型不存在提示
   
   图37 替换模型
   

6. 至此，工作流配置已完成，单击右上角“预览”进行对话。
   图38 联网搜索
   
   图39 知识检索
   

发布应用

1. 在工作流页面的右上角单击“发布”按钮，再单击“发布”，即可完成工作流发布。
   图40 工作流列表
   
   图41 工作流访问方式
   
   图42 聊天应用访问方式
   

2. 发布完成后就可以使用此Agent应用/工作流，有以下三种使用方式：访问API、直接访问、嵌入网站、在“探索”中打开。
   图43 访问API
   
   图44 直接访问
   
   图45 嵌入网站
   
   图46 “探索”
   

Dify配置公网域名（社区版单机部署）

您需要在域名解析系统中，添加一条A记录，值为Dify服务器的公网IP。本文档以华为云云解析服务 DNS为例。如在华为云购买域名，默认直接添加到公网域名。如果不是通过华为云购买的域名，可参考创建公网域名。

1. 进入公网域名列表页面，选择要使用的域名，单击“管理解析”。
   图47 管理解析
   

2. 单击“添加记录集”，填写配置信息如下

   记录类型：“A – 将域名指向IPv4地址”

   主机记录：解析域名的前缀。

   例如创建的域名为“example.com”，其“主机记录”设置包括：

   • www：用于网站解析，表示解析的域名为“www.example.com”。
   • 空：用于网站解析，表示解析的域名为“example.com”。

     主机记录置为空，还可用于为空头域名“@”添加解析。

   • abc：用于子域名解析，表示解析的域名为“example.com”的子域名“abc.example.com”。
   • mail：用于邮箱解析，表示解析的域名为“mail.example.com”。
   • *：用于泛解析，表示解析的域名为“*.example.com”，匹配“example.com”的所有子域名。

   记录值：域名对应的IPv4地址。最多可以输入50个不重复地址，多个地址之间以换行符分隔。本文值为Dify的公网ip地址。

   图48 添加记录集
   

3. 登录弹性云服务 ECS控制台，选择部署Dify的服务器，单击“远程登录”。选择“VNC登录”，输入服务器密码，登录服务器。
   图49 远程登录
   
   图50 VNC登录
   

4. 将SSL证书文件命名为dify.crt、dify.key并上传至：/dify/docker/nginx/ssl
   图51 上传SSL证书
   

5. 修改环境变量，在命令行执行如下命令，解析的域名为步骤二获取，例如www.example.com：

   sh /dify/docker/configure_dify_domain_name.sh ${解析的域名}

   图52 配置环境变量
   

6. 浏览器即可通过配置的域名访问Dify平台。
   图53 访问Dify平台