内容审核-文本

步骤一：开通服务

内容审核-文本服务开通步骤请参考开通服务步骤说明。

步骤二：配置自定义词库

文本内容审核服务可支持用户配置自定义白名单词库和自定义黑名单词库进行文本审核。

• 创建自定义白名单词库：在使用文本内容审核服务时，您在白名单词库配置的内容可以不被检测出。

  具体操作步骤如下：

  1. 登录内容审核服务管理控制台，在左侧菜单栏中选择“设置>自定义词库”。
  2. 在自定义词库界面，单击“白词库”页签中“创建词库”按钮，进入“创建词库”页面。
     图1 创建词库
     
  3. 填写词库名称，输入新增的白名单关键词。
     • 名称：长度小于40个字符，只能包含字母、数字、中划线和下划线。
     • 新增关键词：长度不大于40个字符，最多支持5000个关键词，每一行一个关键词。
  4. 单击“确定”，完成词库的创建。
• 创建自定义黑名单词库：在使用文本内容审核服务时，您在黑名单词库配置的内容会被检测出。

  具体操作步骤如下：

  1. 登录内容审核服务管理控制台，在左侧菜单栏中选择“设置>自定义词库”。
  2. 在自定义词库界面，单击“黑词库”页签中“创建词库”按钮，进入“创建词库”页面。
  3. 填写词库名称，输入新增的黑名单关键词。
     • 名称：长度小于40个字符，只能包含字母、数字、中划线和下划线。
     • 新增关键词：长度不大于40个字符，最多支持5000个关键词，每一行一个关键词。
  4. 单击“确定”，完成词库的创建。
  

  • 词库名称不支持修改。
  • V2版本的文本审核，可以选择是否勾选“不指定检测场景”，默认不勾选。
    • 勾选：表示使用默认场景和用户自定义场景进行审核。
    • 不勾选：表示使用默认场景进行审核。

步骤三：配置环境

下载并安装Postman。Postman建议使用7.24.0版本。

步骤四：Token认证鉴权

Token是用户的访问令牌，承载了用户的身份、权限等信息，用户调用API接口时，需要使用Token进行鉴权。

1. 在Postman左侧导航栏的“Collections”目录下，单击“get-token”配置文件。
2. 单击“Body”配置项。填写用户名、密码、账号名。
   

   用户名、密码、账号名的获取方法：

   1. 登录管理控制台。
   2. 鼠标移动至页面右上角的用户名，在下拉列表中单击“我的凭证”。复制IAM用户名、主账号至username、domainname参数处，并填写该IAM用户密码。
   图2 Token认证鉴权
   
3. 单击“Send”，发送请求，来获取并复制Token。

   获取返回结果“Headers”中的“X-Subject-Token”即为Token。Token有效期为24小时。

   图3 获取Token
   

步骤五：调用服务

1. 在Postman左侧导航栏的“Collections”目录下单击“Moderation_image”配置文件。
2. 单击“Headers”配置项，将获取的Token复制到“X-Auth-Token”值中。
   图4 填入Token
   
3. 单击“Body”配置项，将待检测的文本填入到“text”参数中。
   • 关于body体中其他参数说明，请参考文本内容审核API。
     图5 修改参数
     
4. 单击“Send”，发送请求，获取调用结果。

   {
       "result": {
           "detail": {},
           "suggestion": "pass"
       }
   }

步骤六：查看调用次数（可选）

1. 登录内容审核服务管理控制台。
2. 在左侧导航栏中选择“服务列表>文本审核”，可以查看识别统计详情，如图6所示。您可以设置时间范围，策略（事件类型）来观察这段时间内的调用次数变化情况。
   图6 识别统计
   
   • 识别结果统计：显示一段时间范围，内容审核的调用总数，拒绝数，疑似数和通过数，帮助您更好了解服务的调用情况和审核情况。
     • 总数：指的是审核调用总次数。
     • 拒绝数：指的是block总数，即文本中包含敏感信息，审核不通过的次数。
     • 疑似数：指的是review总数，即人工复查审核的次数。
     • 通过数：指的是pass总数，即通过审核的次数。
   • 数据趋势：显示您设置的这段时间范围内，总数，拒绝数，疑似数和通过数的变化趋势。
   • 拒绝数据原因分布：显示您设置的这段时间范围内，审核不通过的检测场景占比数。
   • 疑似数据原因分布：显示您设置的这段时间范围内，需要人工复查的检测场景占比数。

3. 查看监控数据。您可以单击“查看监控指标”在云监控控制台查看服务调用成功和失败的次数等历史数据，如图7所示。
   图7 监控数据