文档首页 > > 快速入门> 内容审核-文本入门

内容审核-文本入门

分享
更新时间:2020/08/10 GMT+08:00

内容审核-文本 Moderation (Text),基于华为自研的深度学习和内容审核模型,可自动识别出文本中出现的涉政、色情、广告、辱骂、灌水等内容,帮助客户降低业务违规风险,净化网络环境,提升用户体验。

使用内容审核-文本具体步骤如下:

步骤一:开通服务,用户在“服务列表”“服务管理”页面选择内容审核-文本服务申请开通。

步骤二:配置自定义词库,用户可配置自定义白名单词库和自定义黑名单词库。

步骤三:配置环境,获取SDK和样例工程,导入到开发环境中。

步骤四:调用服务,调用API接口使用服务,使用过程中可以随时查看状态码与错误码。

步骤一:开通服务

内容审核-文本服务申请开通您可以按照如下步骤操作:

  1. 登录华为云,申请华为云账号,并完成实名认证。
  2. 华为云页面顶部选择EI企业智能>AI服务>内容审核-文本
  3. 进入产品页,单击立即使用,输入您的华为云账号密码登录,进入内容审核管理控制台。
  4. 用户可以在内容审核管理控制台“服务列表”“服务管理”页面申请开通服务。

    以在“服务管理”页面开通服务为例,在商用服务栏目选择“文本内容审核”,单击“开通服务”,进行服务使用申请。

    服务只需要开通一次即可,后面使用时无需再申请。

  5. 商用服务申请成功后,在“服务管理”页面,“我的服务”中显示已经申请开通成功的服务,此时,您可以通过调用API的方式使用内容审核-文本服务。

步骤二:配置自定义词库

文本内容审核服务可支持用户配置自定义白名单词库和自定义黑名单词库进行文本审核。

  1. 创建自定义白名单词库:在使用文本内容审核服务时,您在白名单词库配置的内容可以不被检测出。

具体操作步骤如下:

  1. 登录华为云,单击右上角的“控制台”,进入“管理控制台”界面。
  2. 单击“服务列表”,选择“EI企业智能 > 内容审核”,进入“内容审核”管理页面。
  3. 在左侧菜单栏中选择“服务列表>文本内容审核”服务。单击“自定义白名单词库”后的“配置”按钮,进入“创建词库”页面。

    图1 创建词库

  4. 填写词库名称,输入新增的白名单关键词。单击“确定”,完成词库的创建

    • 名称:长度小于40个字符,只能包含字母、数字、中划线和下划线。
    • 新增关键词:长度不大于40个字符,最多支持5000个关键词,每一行一个关键词。

2. 创建自定义黑名单词库:在使用文本内容审核服务时,您在黑名单词库配置的内容会被检测出。

具体操作步骤如下:

  1. 登录华为云,单击右上角的“控制台”,进入“管理控制台”界面。
  2. 单击“服务列表”,选择“EI企业智能 > 内容审核”,进入“内容审核”管理页面。
  3. 在左侧菜单栏中选择“服务列表>文本内容审核”服务。单击“自定义黑名单词库”后的“配置”按钮,进入“自定义词库”页面。
  4. 单击页面左上方“创建词库”,进入“创建词库”页面。填写词库名称,输入新增的黑名单关键词。

    • 名称:长度小于40个字符,只能包含字母、数字、中划线和下划线。
    • 新增关键词:长度不大于40个字符,最多支持5000个关键词,每一行一个关键词。

  5. 单击“确定”,完成词库的创建。

    • 词库名称不支持修改。

步骤三:配置环境

您可以基于内容审核SDK通过编写代码的方式调用内容审核-文本API。在使用SDK和调用API时您需要进行环境配置。具体操作步骤如下:

  1. 获取认证信息,详请参见Token认证和AK/SK认证
  2. 获取内容审核SDK软件包和文档,请单击此处
  3. 环境配置及SDK工程导入,详情参见《内容审核SDK参考》的对应语言环境配置操作。
  4. 使用SDK,详请参见文本内容审核示例

步骤四:调用服务

内容审核-文本API接口,分析并识别用户上传的文本内容是否有敏感内容(如色情、政治等),并将识别结果返回给用户。

调用内容审核-文本API接口,您可以按照如下步骤操作:

  1. 获取请求认证。详请参见Token认证和AK/SK认证
  2. 调用API。

    API接口说明和参数,详情参见内容审核API参考>API说明>文本内容审核

  3. 查看调用次数。您可以在“服务列表”“文本内容审核”页查看调用详情和调用次数统计。如图 调用统计所示。

    图2 调用统计
    • 调用次数统计模块有三张统计图分别显示每日审核的调用总量,每日block总量和每日review总量。您可以设置时间范围来观察这段时间内的调用次数变化情况。
    • 调用详情模块可以查看每日的调用次数总量,block总量,review总量以及pass总量。帮助您更好了解服务的调用情况和审核情况。
      • block表示包含敏感信息,不通过审核。
      • pass表示不包含敏感信息,通过审核。
      • review表示需要人工复查审核。

  4. 查看监控数据。您可以单击“查看监控数据”在云监控控制台查看服务调用成功和失败的次数等历史数据,如图3所示。

    图3 监控数据

分享:

    相关文档

    相关产品

文档是否有解决您的问题?

提交成功!非常感谢您的反馈,我们会继续努力做到更好!
反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

智能客服提问云社区提问