更新时间:2025-07-02 GMT+08:00
分享

创建敏感词库

支持配置敏感词库,在Agent问答过程中,当提问内容包含敏感词时,Agent不作回答。

前提条件

需要具备AI原生应用引擎租户运营管理员权限,权限申请操作请参考AppStage用户申请权限

创建敏感词库

  1. 进入AI原生应用引擎
  2. 在AI原生应用引擎的左侧导航栏选择“运营看板 > 敏感词库管理”。
  3. 在敏感词库管理页面,单击“创建敏感词库”
  4. 配置敏感词库基本信息,参数说明如表1所示。
    表1 创建敏感词库参数说明

    参数

    说明

    敏感词库名称

    自定义敏感词库的名称。

    只能包含英文字母、数字、下划线、-、中文及空格,并且只能以中文和英文开头。

    敏感词库描述

    敏感词库的描述,例如,暴力类型。

    输入敏感词

    输入敏感词,例如,暴力、涉恐、涉黄。

    预置回复

    设置预置回复内容,当提问包含敏感词时,Agent按照该预置内容对用户进行提醒,例如,内容违反了使用策略。

    启用状态

    选择是否启用敏感词库。

    启用总数不可超过10000条。

  5. 单击“保存”

更多操作

敏感词库创建完成后,可根据需要执行如表2所示的操作。

表2 更多操作

操作

说明

查看敏感词库详情

在敏感词库列表中,单击敏感词库名称,查看敏感词库包含的敏感词内容详情。

启用/停用敏感词库

在敏感词库列表中,单击“应用状态”列的开关,可以启用或停用敏感词库。

启用总数不可超过10000条。

修改敏感词库

在敏感词库列表中,单击操作列的“修改”,可以修改敏感词库的基础信息。

删除敏感词库

在敏感词库列表中,单击操作列的“删除”,二次确认后,即可删除敏感词库。

查看敏感词库操作日志

“操作日志”页签下,可以查看敏感词库的操作日志,包括操作人、操作时间、操作类型、操作内容等信息。

相关文档