基于ModelArts Studio(MaaS) DeepSeek API和Dify快速构建网站智能客服
操作场景
客服系统是企业与消费者沟通的重要桥梁,然而传统的人工客服存在着人工成本高昂、数据收集和分析困难、难以24小时提供服务等痛点。
随着AI大模型的崛起,如何利用先进的大语言模型构建AI智能客服系统,提供更加自然、流畅的对话体验,提高用户使用效率,实现24*7的无间断服务,降低企业在客服场景下的投入成本,提升用户满意度成为企业和用户关注的热门领域。
DeepSeek系列模型是由深度求索(DeepSeek)公司推出的大语言模型。通过使用DeepSeek构建智能聊天机器人,开发者能够借助其强大的语言理解与生成能力,为用户提供更加智能、精准且个性化的交互服务。
基于开源框架Dify构建智能对话助手,系统支持用户直接调用DeepSeek大模型进行开放式问答,适用于智能客服、知识库问答、个性化推荐等多种业务场景。MaaS集成了DeepSeek大模型,基于昇腾AI云服务进行全面适配和优化,使得精度和性能显著提升。
本文介绍如何使用MaaS(大模型即服务平台)的免费DeepSeek-R1 API接入Dify(开源Agent平台),快速构建AI对话机器人并将其嵌入在网页中。
方案架构

- 用户通过Dify搭建的客服机器人界面提交问题请求。
- Dify将请求发送给MaaS DeepSeek。
- MaaS DeepSeek大语言模型处理请求后将结果返回给Dify。
- Dify将结果优化处理后通过客服机器人界面返回给用户。
约束限制
仅“西南-贵阳一”区域支持本解决方案,所以部署Dify平台的区域与MaaS体验模型的区域都必须在“西南-贵阳一”。
步骤一:基于云服务器单机部署Dify平台
Dify是一个能力丰富的开源AI应用开发平台,为大型语言模型(LLM)应用的开发而设计。它巧妙地结合了后端即服务(Backend as Service)和LLMOps的理念,提供了一套易用的界面和API,加速了开发者构建可扩展的生成式AI应用的过程。
- 基于Flexus云服务器X实例快速部署Dify平台。具体操作,请参见快速搭建Dify-LLM应用开发平台云服务器单机部署方式。
部署Dify平台的区域要与MaaS体验模型的区域一致,本文选择在“西南-贵阳一”区域部署Dify平台。
- 部署完成后,登录Dify。
首次登录需注册管理员账号,依次填写邮箱、账号、密码后,单击“设置”进行保存后,即可登录使用。
图2 注册管理员账户
步骤二:获取MaaS平台的DeepSeek对接信息
- 创建API Key,用于调用MaaS DeepSeek模型服务时的鉴权认证。
最多可创建30个密钥。每个密钥仅在创建时显示一次,请确保妥善保存。如果密钥丢失,无法找回,需要重新创建API Key以获取新的访问密钥。
- 登录ModelArts Studio(MaaS)控制台,在顶部导航栏选择“西南-贵阳一”区域。
- 在左侧导航栏,单击“API Key管理”。
- 在“API Key管理”页面,单击“创建API Key”,填写标签和描述信息后,单击“确定”。
标签和描述信息在创建完成后,不支持修改。
表1 创建API Key参数说明 参数
说明
标签
自定义API Key的标签。标签具有唯一性,不可重复。仅支持大小写英文字母、数字、下划线、中划线,长度范围为1~100个字符。
描述
自定义API Key的描述,长度范围为1~100个字符。
- 在“您的密钥”对话框,复制密钥并保存至安全位置。
- 保存完毕后,单击“关闭”。
单击“关闭”后将无法再次查看密钥。
- 选择常驻模型API,获取API地址和模型名称。
- 在ModelArts Studio(MaaS)控制台左侧导航栏,单击“在线推理”。
- 在“在线推理”页面的“预置服务”页签,单击“免费服务”页签,在免费模型服务右侧,单击“调用说明”。
- 在“调用说明”页面,可以查看调用该服务需要的基础API地址和模型名称信息。
步骤三:在Dify平台对接DeepSeek模型服务
- 在Dify平台右上角,单击用户头像,选择“设置”。
- 在“设置”页面左侧导航栏,单击“模型供应商”。
- 在“模型供应商”页面,找到“OpenAI-API-compatible”供应商并单击“添加模型”。
- 在“添加 OpenAI-API-compatible”对话框,参照下表配置相关参数,然后单击“保存”。
图3 配置Dify模型供应商
表2 添加OpenAI-API-compatible参数说明 参数
说明
模型类型
DeepSeek模型。本案例选择“LLM”。
模型名称
DeepSeek模型服务的模型名称。步骤2显示的模型名称。
API Key
DeepSeek模型服务的API Key,用于调用MaaS DeepSeek模型服务时的鉴权认证。步骤1创建的贵阳一区域的API Key。
API Endpoint URL
DeepSeek模型服务的Open API地址。步骤2获取的MaaS服务的基础API地址,需要去掉地址尾部的“/chat/completions”后填入。
Function calling
当前MaaS预置服务中仅Qwen2.5-72B-32K-1128、Qwen2.5-72B-Instruct-1128、Qwen2.5-7B-Instruct-1128可以配置Function calling为“Tool Call”,其余服务暂不支持。
在模型列表可以查看接入的DeepSeek。
图4 Dify查看接入的DeepSeek
步骤四:在Dify中创建客服机器人
如果想让智能客服能够基于企业内部的知识文档进行问答,可以在Dify中创建一个知识库。Dify能够协助进行数据的分段和清理工作。
Dify提供两种索引方式:高质量和经济。两种索引的区别如下表所示。本文使用经济索引进行演示。
比较项目 |
高质量索引 |
经济索引 |
---|---|---|
索引原理 |
通过嵌入模型将文本块转换为数字向量,进行精确匹配,可使用向量检索、全文检索、混合检索。 |
每个文本块仅使用10个关键词,采用倒排索引方法选择相关文本块。 |
检索精度 |
精度高,可使用重排模型等优化结果。 |
相对较低。 |
资源消耗 |
启用重排模型等功能会消耗模型Tokens,对系统资源要求较高。 |
不消耗Tokens,对资源要求低。 |
适用场景 |
适用于对检索准确性和结果质量要求高的场景,例如专业知识查询、科研文献检索等自然语言文本场景。 |
适用于对检索速度要求较高、对精度要求相对较低的一般性场景,例如快速浏览大量文档获取大致信息。 |
检索设置 |
有向量检索、全文检索、混合检索三种检索设置,可配置Rerank模型等。 |
只提供倒排索引方法,无复杂检索设置和参数配置。 |
- 在Dify中创建知识库。
- 在Dify平台左侧导航栏,单击“知识库”,选择“创建知识库”。
- 在“选择数据源”页面,上传知识文档(可以同时上传多个文本文件),“索引方式”选择“经济”,配置其他信息,单击“保存并处理”。
图5 创建知识库
- 创建并调试客服机器人。
- 在“工作室”页签,单击“创建空白应用”,“应用类型”选择“Agent”,输入名称和描述,进入AI的编排页面。
- 进行AI人设设置,在左上角“提示词”处输入Prompt ,设定该AI与用户交谈时的语气和风格。
Prompt,即智能客服机器人提示词,指导模型生成合适的回答。Prompt示例:你是一个友好的智能客服助手,负责解答用户提出的关于产品的问题、处理订单、提供技术支持。当用户提出的问题你没有找到合适答案的时候,要回答不知道。
- 在“上下文”处添加上一步骤创建的知识库,让AI基于内部知识回答问题。
- 单击右下角功能的“管理”打开功能开关,配置开场白,即用户进入界面后AI的开场问候语,例如:您好,有什么可以帮到您的?
- 在“添加功能”处开启“下一步问题建议配置”功能,基于业务场景设置AI对于用户问题的指引,例如提供常见问题选项或引导用户进一步说明问题。
- 完成以上配置后,单击右上角“发布”菜单中“更新”保存设置。您可以在页面右侧窗口输入Prompt进行效果调试。
图6 创建与调试客服机器人
- 将客服机器人嵌入网页前端页面。
常见问题
- 在ModelArts Studio(MaaS) 创建API Key后需要等待多久才能生效?
MaaS API Key在创建后不会立即生效,通常需要等待几分钟才能生效。
- MaaS如何接入Cherry Studio、Chatbox?
MaaS集成了DeepSeek大模型,支持对接多个平台进行AI开发,详情请参见使用ModelArts Studio(MaaS) DeepSeek API搭建AI应用。