文档首页> > API参考> API> 文本审核> 文本内容检测

文本内容检测

分享
更新时间: 2019/08/21 14:47

功能介绍

分析并识别用户上传的文本内容是否有敏感内容(如色情、政治等),并将识别结果返回给用户。

URI

URI格式

POST /v1.0/moderation/text

请求消息

请求参数请参见表1

表1 请求参数说明

名称

是否必选

类型

说明

items

Array

待检测的文本列表,目前暂时每次只支持传一个item。

text

String

待检测文本,编码格式为“utf-8”,限定5000个字符以内,文本长度超过5000个字符时,只检测前5000个字符。

type

String

文本类型,默认为“content”,即正文内容,当前只支持“content”类型,未来会扩大支持类型范围。

categories

Array

检测场景。

当前支持的场景有默认场景和用户自定义场景:

  • 默认场景为:
    • politics:涉政
    • porn:涉黄
    • ad:广告
    • abuse:辱骂
    • contraband:违禁品
    • flood:灌水
  • 用户自定义场景为:自定义黑名单词库。
    说明:

    自定义词库的创建和使用请参见配置自定义词库

响应消息

响应参数请参见表2

表2 响应参数说明

名称

类型

说明

result

Object

调用成功时表示调用结果。

调用失败时无此字段。

detail

Object

返回的相关检测结果详细信息:

  • politics:涉政敏感词列表。
  • porn:涉黄敏感词列表。
  • ad:广告敏感词列表。
  • abuse:辱骂敏感词列表。
  • contraband:违禁品敏感词列表。
  • flood:灌水文本。
    说明:

    灌水文本最多显示200个字符。

suggestion

String

检测结果是否通过。

block:包含敏感信息,不通过。

pass:不包含敏感信息,通过。

review:需要人工复查。

error_code

String

调用失败时的错误码,具体请参见错误码

调用成功时无此字段。

error_msg

String

调用失败时的错误信息。

调用成功时无此字段。

示例

  • 请求示例
    POST https://moderation.cn-north-1.myhuaweicloud.com/v1.0/moderation/text
        
    Request Header:      
    Content-Type:application/json
    X-Auth-Token: MIINRwYJKoZIhvcNAQcCoIINODCCDTQCAQExDTALBglghkgBZQMEAgEwgguVBgkqhkiG...   
    Request Body:
    {
       "categories":["ad","politics","abuse","porn","contraband","flood"],
       "items":[
          {
              "text": "666666luo聊请+110亚砷酸钾六位qq,fuck666666666666666",
              "type": "content"
          }
        ]
    }
  • 成功响应示例
    {
      "result": {
        "detail": {
          "abuse": [
            "fuck"
          ],
          "ad": [
            "六位qq"
          ],
          "contraband": [
            "亚砷酸",
            "亚砷酸钾"
          ],
          "flood": "666666luo聊请+110亚砷酸钾六位qq,fuck666666666666666", 
          "porn": [
            "luo聊",
            "fuck"
          ]
        },
        "suggestion": "block"
      }
    }
  • 失败响应示例
    {
        "error_code": "AIS.0005",
        "error_msg": "The service does not exist."
    }

状态码

  • 正常

    200

  • 失败

    返回值

    说明

    400

    • 语义有误,当前请求无法被服务器解析。除非进行修改,否则客户端不应重复提交这个请求。
    • 请求参数有误。

    401

    当前请求需要用户验证。

    403

    没有操作权限。

    404

    请求失败,在服务器上未找到请求所希望得到的资源。

    500

    服务器遇到了一个未曾预料的状况,导致无法完成对请求的处理。

如果您喜欢这篇文档,您还可以:

文档是否有解决您的问题?

提交成功!

非常感谢您的反馈,我们会继续努力做到更好!

反馈提交失败,请稍后再试!

*必选

请至少选择或填写一项反馈信息

字符长度不能超过200

提交反馈 取消

如您有其它疑问,您也可以通过华为云社区问答频道来与我们联系探讨

跳转到云社区