基于KooSearch和DeepSeek构建知识问答

应用场景

在人工智能应用中，RAG技术逐渐成为提升智能系统性能的关键手段。RAG结合了检索（Retrieval）和生成（Generation）的能力，通过检索相关知识并结合生成模型输出高质量结果。DeepSeek V3作为一款强大的开源大语言模型，特别适合用于构建RAG系统。

方案优势

• 强大的知识检索与生成能力

  DeepSeek V3拥有671B总参数和37B激活参数，经过14.8T高质量token的预训练，在知识类任务、长文本处理、代码生成和数学推理等多个领域表现突出。这使得RAG系统能够从大规模知识库中高效检索相关信息，并生成高质量、准确的答案。

• 高效的推理与训练优化能力

  DeepSeek V3的推理速度可达60TPS，相比前代模型大幅提升，这使得RAG系统在处理复杂任务时能够快速响应，提升用户体验。

• 开源与可扩展性

  DeepSeek V3完全开源，代码和模型权重易获取。这种开放性使得开发者方便对模型进行定制和优化，轻松扩展到新的知识领域。此外，其开源特性也降低了部署成本。

约束限制

仅“西南-贵阳一”区域支持开通和使用KooSearch服务。KooSearch是白名单功能，如果有试用需求，请提工单申请权限。

前提条件

• 在云搜索服务管理控制台已创建一个KooSearch文档问答服务。
• 已完成MaaS服务的访问授权，请参见配置MaaS访问授权。

步骤一：获取DeepSeek模型

在MaaS服务中获取DeepSeek模型服务，并记录API地址、模型名称和API Key，用于接入KooSearch。

1. 登录ModelArts管理控制台，区域选择“西南-贵阳一”。
2. 在左侧导航栏中，选择“ModelArts Studio”进入ModelArts Studio大模型即服务平台。
3. 在ModelArts Studio左侧导航栏中，选择“模型部署 > 预置服务”进入服务列表。
4. 在预置服务列表，选择DeepSeek系列的模型服务，单击操作列的“领取”获取DeepSeek模型的免费Token额度。
   图1 获取DeepSeek模型服务
   
5. 选择已领取的DeepSeek模型服务，单击操作列的“调用”，获取并记录“API地址”和“模型名称”。
   图2 获取DeepSeek模型服务的信息
   
6. 在调用页面，单击“管理API Key”跳转到鉴权管理页面。单击“创建API Key”，填写描述信息后，单击“确认”会返回“您的密钥”，请复制保存密钥，单击“关闭”后将无法再次查看密钥。
   说明：

   • 最多支持创建5个密钥，密钥只会在新建后显示一次，请妥善保存。
   • 当密钥丢失将无法找回，请新建API Key获取新的访问密钥。

步骤二：KooSearch对接公网

通过配置NAT网关和弹性公网IP将KooSearch对接到公网，便于接入MaaS服务中的DeepSeek模型服务。

1. 登录NAT网关管理控制台。
2. 在公网NAT网关列表页面，单击“购买公网NAT网关”，进入购买公网NAT网关页面。
3. 在购买公网NAT网关页面，配置NAT网关。

   关键参数请参见表1配置，其他参数可以保持默认值或基于业务场景配置。

   表1 购买公网NAT网关

   参数	说明
   计费模型	建议选择“按需计费”。
   区域	和KooSearch保持一个区域，选择“西南-贵阳一”。
   虚拟私有云	和KooSearch选择同一个VPC。
   子网	和KooSearch选择同一个子网。

4. 单击“立即购买”，确认产品规格无误后，单击“提交”，开始创建公网NAT网关。当状态为“运行中”时，表示公网NAT网关创建成功。
5. 当公网NAT网关创建成功后，在公网NAT网关列表页面，单击操作列的“设置规则”，在弹窗中单击“添加规则”进入网关详情页的“SNAT规则”页面。
6. 在“SNAT规则”页面，单击“添加SNAT规则”，在弹窗中配置公网NAT网关的SNAT规则。

   表2 添加SNAT规则

   参数	说明
   使用场景	选择“虚拟私有云”。
   网段	选择“使用已有”，选择和KooSearch同一个VPC。
   公网IP类型	选择“弹性公网IP”，勾选满足要求的IP。 如果没有可选的弹性公网IP，可以单击“查看弹性公网IP”跳转到弹性公网IP列表页，申请弹性公网IP。 弹性公网IP的建议配置如下： “计费模式”：“按需计费” “公网带宽”：“按流量计费” “带宽大小”：“20”

7. 单击“确定”完成SNAT规则的添加。

步骤三：在KooSearch接入DeepSeek模型

将MaaS服务中获取的DeepSeek模型服务接入KooSearch。

1. 登录云搜索服务管理控制台。
2. 在左侧导航栏选择“KooSearch > KooSearch文档问答”，进入KooSearch服务列表。
3. 单击KooSearch服务名称，进入服务详情页。
4. 给KooSearch配置集群路由，使KooSearch能够通过公网接入DeepSeek。
   1. 在服务详情页，单击“集群路由”后面的“修改”。
   2. 在“修改集群路由”弹窗中，配置路由信息。

      表3 配置集群路由

      参数	说明
      ip地址	填写MaaS服务中DeepSeek模型服务的IP地址。 获取方式：在执行机ping DeepSeek模型服务的域名，解析后即可获得IP地址。例如获取到的DeepSeek模型服务的API地址是“https://example.example.com/v1/infers/xxxx”，则域名是“example.example.com”，在执行机执行命令ping example.example.com，回显如下，则表示IP地址是“xxx.xxx.xxx.xxx”。 正在 Ping example.example.com [xxx.xxx.xxx.xxx] 具有 32 字节的数据: 来自 xxx.xxx.xxx.xxx 的回复: 字节=32 时间=33ms TTL=55
      子网掩码	填写“255.255.255.255”。
      更改类型	选择“添加”。

   3. 单击“确定”完成集群路由配置。
5. 返回KooSearch服务列表，选择服务，单击操作列的“问答”，前往KooSearch控制台。
6. 创建模型服务，接入DeepSeek。
   1. 在KooSearch左侧导航栏选择“模型管理”，进入“模型管理”页面。
   2. 单击页面的“新建模型服务”，弹出新建模型服务页面。
      图3 新建模型服务
      
   3. 在新建模型服务页面，配置模型服务。

      表4 新建模型服务

      参数	说明
      模型服务名称	自定义模型服务名称，不能为空。
      模型类型	选择“NLP模型-昇腾云”，表示通过昇腾云的MaaS服务提供的NLP大模型访问方式。
      访问地址	填写MaaS服务中DeepSeek模型服务的“API地址”。获取方式请参见步骤一：获取DeepSeek模型。
      模型描述	模型详细信息的描述。
      昇腾云模型名称	填写MaaS服务中DeepSeek模型服务的“模型名称”，获取方式请参见步骤一：获取DeepSeek模型。
      上下文长度（K）	NLP大模型在进行一次特定的推理时可以考虑的最大令牌数。可以扩展上下文以生成更全面的响应。
      认证类型	勾选“自定义认证”，添加自定义请求头。“标头键”填写“Authorization”，“标头值”填写“Bearer+DeepSeek的API Key”，例如获取到的API Key为“abcdef”，则此处填写“BearerABCDEF”。MaaS服务中DeepSeek模型服务的API Key获取方式请参见步骤一：获取DeepSeek模型。

   4. 单击“确定”创建模型服务。当模型“连通性”显示“正常”时，表示模型对接成功。

体验知识问答

1. 创建知识库。
   1. 在KooSearch控制台的左侧导航栏选择“知识库管理”，进入知识库管理页面。
   2. 单击右上角“新建知识库”，进入新建知识库页面。
   3. 在“新建知识库”页面设置知识库信息。

      在“模型设置”页签，设置“NLP模型服务”，选择上一步新建的模型服务。

      其他参数可以保持默认值或基于业务场景配置。

   4. 设置好后，单击“确定”完成知识库创建。
   5. 在知识库列表，选择新建知识库，单击操作列的“文档管理”。进入知识库详情页面。
   6. 选择“文档管理”页签，单击“上传”。在上传对话框中单击“选择文档”，本地选择已提前准备好的文档。重复的文档不允许上传。
      图4 上传文档
      
   7. 单击“确认”。文档上传后，可在文档管理页签查看已上传的文档，当“文档状态”为“正常”，说明文档已上传成功。
2. 选择知识库。
   1. 在KooSearch控制台，左侧导航栏选择“体验平台”，进入体验平台页面。
   2. 单击右上角，在“资料来源”对话框勾选新建的知识库，单击“确定”。
3. 体验问答。

   KooSearch同时支持由大模型自身知识回答和通过文章内容回答。

   1. 在“体验平台”页面右上角单击“问答”，切换至问答体验页面。
   2. 在输入框中输入问题，单击，查看返回的答案。
      图5 体验问答