基于MaaS DeepSeek API和Dify快速构建网站智能客服

更新时间：2025-03-03 GMT+08:00

本文介绍如何使用MaaS（大模型即服务平台）的免费Token额度的满血版DeepSeek-R1 API接入Dify（开源Agent平台），快速构建AI对话机器人并将其嵌入在网页页面中。当免费Token额度用完后，您也可以付费部署为我的服务使用。更多信息，请参见计费说明和使用MaaS部署模型服务。

背景介绍

客服系统是企业与消费者沟通的重要桥梁，然而传统的人工客服存在着人工成本高昂、数据收集和分析困难、难以24小时提供服务等痛点。

随着AI大模型的崛起，如何利用先进的大语言模型构建AI智能体并应用于智能客服系统，提供更加自然、流畅的对话体验，提高用户使用效率，实现24*7的无间断服务，降低企业在客服场景下的投入成本，提升用户满意度成为企业和用户关注的热门领域。

使用限制

贵阳一区域：最新的版本因为支持新驱动，目前仅支持使用专属资源池（Snt9b2）。
乌兰一区域：支持使用公共资源池（Snt9b3）。
如果支持公共资源池，但是没开白名单，“资源池类型”选择“公共资源池”时，下方会出现提示：公共资源池暂未完全公开，如需申请使用，请联系与您对接的销售人员或拨打4000-955-988获得支持，您也可以在线提交售前咨询。
如果不支持公共资源池，“公共资源池”按钮会置灰，鼠标悬停时，会提示：该模型版本暂不支持公共资源池部署。

步骤一：在MaaS控制台领取免费体验额度

MaaS提供了一系列可以Severless方式免费调用的模型API。

登录ModelArts Studio控制台，在顶部导航栏选择“西南-贵阳一”区域。
在左侧导航栏，单击“模型推理”。
在“模型推理”页面的“预置服务”页签，单击DeepSeek服务右侧的“领取”。
当免费Token额度用完后，还要继续使用该模型，可以付费部署为我的服务使用，详情请参见使用MaaS部署模型服务。

步骤二：搭建网站智能客服

Dify是一个能力丰富的开源AI应用开发平台，为大型语言模型（LLM）应用的开发而设计。它巧妙地结合了后端即服务（Backend as Service）和LLMOps的理念，提供了一套易用的界面和API，加速了开发者构建可扩展的生成式AI应用的过程。

基于Flexus云服务器X实例快速部署Dify平台。具体操作，请参见快速搭建Dify-LLM应用开发平台。
部署完成后，登录Dify。
首次登录需注册管理员账号，依次填写邮箱、账号、密码后，单击“设置”进行保存后，即可登录使用。

图1 注册管理员账户

将MaaS平台的模型服务接入Dify。

创建API Key。
1. 登录ModelArts Studio控制台，在顶部导航栏选择“西南-贵阳一”区域。
2. 在左侧导航栏，单击“API Key管理”。
3. 在“API Key管理”页面，单击“创建API Key”，填写描述信息后，单击“确认”会返回“您的密钥”，请复制保存密钥，单击“关闭”后将无法再次查看密钥。
  最多支持创建5个密钥，密钥只会在新建后显示一次，请妥善保存。当密钥丢失将无法找回，请新建API Key获取新的访问密钥。
选择常驻模型API。
1. 方式一：使用预置服务接入。
  1. 在ModelArts Studio控制台左侧导航栏，在“模型推理”页面的“预置服务”页签，在已领取额度的模型服务右侧，单击“调用说明”。
  2. 在“调用说明”页面，可以查看调用该服务需要的基础API地址和模型名称信息。
2. 方式二：使用我的服务接入。
  1. 在ModelArts Studio控制台左侧导航栏，单击“模型推理”。
  2. 在“模型推理”页面，单击“我的服务”页签。
  3. 在“状态”为“运行中”的模型服务右侧，单击操作列下的“更多 > 调用说明”。
  4. 在“调用说明”页面，可以查看调用该服务需要的基础API地址和模型名称信息。

配置Dify模型供应商。

在Dify平台右上角，单击用户头像，选择“设置”。
在“设置”页面左侧导航栏，单击“模型供应商”。
在“模型供应商”页面，找到“OpenAI-API-compatible”供应商并单击“添加模型”。

在“添加 OpenAI-API-compatible”对话框，配置相关参数，然后单击“保存”。

图2 配置Dify模型供应商

表1 添加OpenAI-API-compatible参数说明
参数	说明
模型类型	选择“LLM”。
模型名称	步骤3.b显示的模型名称。
API Key	步骤3.a创建的贵阳一区域的API Key。
API Endpoint URL	步骤3.b获取的MaaS服务的基础API地址，需要去掉地址尾部的“/chat/completions”后填入。
Function calling	当前MaaS预置服务中仅Qwen2_5-7B-Instruct-1128、Qwen2_5-72B-Instruct-1128、Qwen2_5-72B-32K-1128可以配置Function calling为“Tool Call”，其余服务暂不支持。

步骤三：在Dify中创建客服机器人

如果想让智能客服能够基于企业内部的知识文档进行问答，可以在Dify中创建一个知识库。Dify能够协助进行数据的分段和清理工作。

Dify提供两种索引方式：高质量和经济。两种索引的区别如下表所示。下文使用经济索引进行演示。

表2 高质量索引与经济索引的区别
比较项目	高质量索引	经济索引
索引原理	通过嵌入模型将文本块转换为数字向量，进行精确匹配，可使用向量检索、全文检索、混合检索。	每个文本块仅使用10个关键词，采用倒排索引方法选择相关文本块。
检索精度	精度高，可使用重排模型等优化结果。	相对较低。
资源消耗	启用重排模型等功能会消耗模型Tokens，对系统资源要求较高。	不消耗Tokens，对资源要求低。
适用场景	适用于对检索准确性和结果质量要求高的场景，例如专业知识查询、科研文献检索等自然语言文本场景。	适用于对检索速度要求较高、对精度要求相对较低的一般性场景，例如快速浏览大量文档获取大致信息。
检索设置	有向量检索、全文检索、混合检索三种检索设置，可配置Rerank模型等。	只提供倒排索引方法，无复杂检索设置和参数配置。

创建知识库。
1. 在Dify平台左侧导航栏，单击“知识库”，选择“创建知识库”。
2. 在“选择数据源”页面，上传知识文档（可以同时上传多个文本文件），“索引方式”选择“经济”，配置其他信息，单击“保存并处理”。
  图3 创建知识库
创建并调试客服机器人。
1. 在“工作室”页签，单击“创建空白应用”，“应用类型”选择“Agent”，输入名称和描述，进入AI的编排页面。
2. 进行AI人设设置，在左上角“提示词”处输入Prompt ，设定该AI与用户交谈时的语气和风格。
  智能客服提示词示例：你是一个友好的智能客服助手，负责解答用户提出的关于产品的问题、处理订单、提供技术支持。当用户提出的问题你没有找到合适答案的时候，要回答不知道。
3. 在“上下文”处添加步骤三.1创建的知识库，让AI基于内部知识回答问题。
4. 单击右下角功能的“管理”打开功能开关，配置开场白，即用户进入界面后AI的开场问候语，例如：您好，有什么可以帮到您的？
5. 在“添加功能”处开启“下一步问题建议配置”功能，基于业务场景设置AI对于用户问题的指引，例如提供常见问题选项或引导用户进一步说明问题。
6. 完成以上配置后，单击右上角“发布”菜单中“更新”保存设置。您可以在页面右侧窗口输入Prompt进行效果调试。
  图4 创建与调试客服机器人
将客服机器人嵌入网页前端页面。
1. 在Dify平台中完成客服机器人的创建与调试后，单击“发布”，选择“嵌入网站”。
2. 选择嵌入方式。本文以第二种“悬浮窗式”为例，将下方的代码复制到您网站<head>或<body> 标签中，更新网站页面，即可与该客服机器人进行对话。
  Dify支持全屏界面式、悬浮窗式、浏览器插件式三种嵌入方式，请您根据需求选择合适的方式。
  
  图5 选择嵌入方式