Dify
客服系统是企业与消费者沟通的重要桥梁,然而传统的人工客服存在着人工成本高昂、数据收集和分析困难、难以24小时提供服务等痛点。
随着AI大模型的崛起,如何利用先进的大语言模型构建AI智能客服系统,提供更加自然、流畅的对话体验,提高用户使用效率,实现24*7的无间断服务,降低企业在客服场景下的投入成本,提升用户满意度成为企业和用户关注的热门领域。
基于开源框架Dify构建智能对话助手,系统支持用户直接调用大模型进行开放式问答,适用于智能客服、知识库问答、个性化推荐等多种业务场景。MaaS集成了DeepSeek、GLM等系列大模型,基于昇腾AI云服务进行全面适配和优化,使得精度和性能显著提升。
本文以GLM-5.1模型为例,介绍如何使用MaaS的模型API接入Dify(开源Agent平台),快速构建AI对话机器人并将其嵌入在网页中。
方案架构
- 用户通过Dify搭建的客服机器人界面提交问题请求。
- Dify将请求发送给MaaS 模型服务。
- MaaS 大语言模型处理请求后将结果返回给Dify。
- Dify将结果优化处理后通过客服机器人界面返回给用户。
约束限制
该功能仅支持“西南-贵阳一”区域。
前提条件
- 已注册华为云账号,并进行实名认证。具体操作请参见注册华为账号并开通华为云和实名认证。
- 已订阅MaaS Token Plan个人版套餐。具体操作请参见快速开始。
步骤一:基于云服务器单机部署Dify平台
Dify是一个能力丰富的开源AI应用开发平台,为大型语言模型(LLM)应用的开发而设计。它巧妙地结合了后端即服务(Backend as Service)和LLMOps的理念,提供了一套易用的界面和API,加速了开发者构建可扩展的生成式AI应用的过程。
- 基于Flexus云服务器X实例快速部署Dify平台。具体操作,请参见快速搭建Dify-LLM应用开发平台云服务器单机部署方式。
部署Dify平台的区域要与MaaS体验模型的区域一致,本文选择在“西南-贵阳一”区域部署Dify平台。
- 部署完成后,登录Dify。
首次登录需注册管理员账号,依次填写邮箱、账号、密码后,单击“设置”进行保存后,即可登录使用。
图2 注册管理员账户
步骤二:在Dify平台对接MaaS模型服务
- 打开您的Dify平台,单击右上角“插件”按钮。 图3 Dify平台
- 单击“探索Marketplace”按钮,在搜索框输入“MaaS”,选择“华为云MaaS平台”,单击“安装”按钮,弹出“安装插件”页面。 图4 搜索插件
- 在“安装插件”页面,单击“安装”,安装MaaS插件。 图5 安装插件
如已安装MaaS插件,需要更新MaaS插件至最新版本。
- MaaS插件安装成功之后,单击Dify页面右上角用户名称,下拉并单击,进入设置界面。 图6 设置界面
- 在左侧导航栏单击,单击MaaS插件右侧的“设置”按钮,配置API 密钥,如下图所示: 图7 模型供应商
- 在API 密钥授权配置界面,填写通过API Key 管理获取的API Key,单击“保存”,密钥授权成功。 图8 API 密钥授权设置
- 在插件下方单击“添加模型”,弹出“添加模型”页面,如下图所示。 图9 模型供应商页面
- 在“添加模型”页面,参考表1,填写相关信息。
表1 Token Plan模型信息 核心参数
说明
示例
模型名称
在工具配置文件中指定模型名称,可实时切换模型。支持配置的模型:
- GLM-5
- GLM-5.1
- Kimi-K2.6
- DeepSeek-V3.2
- DeepSeek-V4-Flash
GLM-5.1
模型类型
选择“LLM”。
LLM
API endpoint 地址
兼容OpenAI接口协议工具:https://api.modelarts-maas.com/plan/v2
注意:如未使用指定的专属Base URL,将无法使用Token Plan额度,并可能产生额外API请求的费用。
https://api.modelarts-maas.com/plan/v2
API Key
通过API Key 管理获取。
*****SOYrkryjO-Jcd-X0-YQIA_oALlv*****-xVhElZgwtV3-3aXiuiac6bW********
模型上下文长度
请前往模型详情页查看模型支持的上下文长度,如GLM-5.1的模型上下文长度为198K。
198
图10 添加模型页面
- 单击“添加”,模型添加成功后,即可在模型列表中看到。
步骤三:在Dify中创建客服机器人
- 进入Dify平台“工作室”,单击。 图11 创建空白应用
- 在“创建空白应用”页面,选择“聊天助手”,填写“应用名称 & 图标”,单击“创建”,客服机器人创建成功。 图12 创建应用
- 客服机器人创建成功后,自动进入应用调试界面。右上角选择已开通的模型,在下方聊天框输入信息,模型正常答复后,说明客服机器人调试成功。 图13 应用调试页面
- 页面右上角单击“发布”,应用发布成功。可根据实际应用场景对该应用进行“发布更新”、“运行”、“嵌入网站”等操作,如下图所示: 图14 应用发布页面
相关文档
Dify平台的更多应用,详情请参考使用Dify。