更新时间:2025-01-20 GMT+08:00

配置LLM Engine侧信息

Prompt可帮助模型缩小文本生成范围,避免生成与你期望的内容相差较大的文本。例如,你在模板内容主题定位体育,那么模型生成内容是体育比赛。AICC提供预置Prompt模板,本章节主要介绍如何下载并导入Prompt模板。

前提条件

请联系系统管理员登录客户服务云,进入呼叫中心管理>租户管理界面,将租间开启LLM Engine特性并且勾选情感分析、问答检测、意图识别。

操作步骤

  1. 联系华为工程师从support下载发布包AICC_*.*.*_ODFS.zip。
  2. 解压AICC_*.*.*_ODFS.zip压缩包。

    *.*.*表示AICC的版本号。

  3. 解压后进入/flowinfo/LLM_Agent_Assistant.zip/路径下获取workflow.zip。
  4. 解压workflow.zip压缩包。
  5. 解压后获取emotionRecognition.tar.gz压缩包。
  6. 租间管理员登录客户服务云,进入配置中心>机器人管理>大模型服务>工作流管理>工作流编排页面,单击“导入”按钮,导入emotionRecognition.tar.gz压缩包。
  7. 租间管理员进入配置中心>机器人管理>大模型服务>大模型专区>Prompt模板页面,选择自定义模板页签。
  8. 单击emotion场景,分别编辑情绪Prompt模板和emotion Prompt模板,单击大模型下拉框,选择状态为可用的大模型。如何配置模型可参考章节配置模型

    图1 大模型下拉框

  9. 单击“保存并发布”按钮,发布该Prompt模板。
  10. 解压后获取intentRecognition.tar.gz压缩包。
  11. 租间管理员进入配置中心>机器人管理>大模型服务>工作流管理>工作流编排页面,单击“导入”按钮,导入intentRecognition.tar.gz压缩包。
  12. 租间管理员进入配置中心>机器人管理>大模型服务>大模型专区>Prompt模板页面,选择自定义模板页签。
  13. 选择Intent recognition场景,单击Intent recognition Prompt模板和意图识别Prompt模板,进入模板详情页面,单击“取消发布”按钮,将两个模板状态调整成未发布。
  14. 编辑Intent recognition Prompt模板和意图识别Prompt模板,单击大模型下拉框,选择状态为可用的大模型。参考章节配置模型,可配置可用模型。

    图2 大模型下拉框

  15. 在编辑模板页面,打开开启模型参数,“response_format”选择“json_object”

    图3 开启模型参数

  16. 单击“保存并发布”按钮,发布该Prompt模板。
  17. 解压后获取recommendFaq.tar.gz压缩包。
  18. 租间管理员进入配置中心>机器人管理>大模型服务>工作流管理>工作流编排页面,单击“导入”按钮,导入recommendFaq.tar.gz压缩包。