全部文档
内容审核 Moderation内容审核 Moderation
文本内容审核
功能介绍
分析并识别用户上传的文本内容是否有敏感内容（如色情等），并将识别结果返回给用户。
当前仅支持中文内容审核，其他语言的文本审核暂不支持。
前提条件
URI
POST /v2/{project_id}/moderation/text
参数 |
是否必选 |
参数类型 |
描述 |
|---|---|---|---|
project_id |
是 |
String |
用户的project_id 登陆华为云 -> 用户中心 -> 我的凭证 -> api凭证 即可查看对应区域的项目ID。 |
请求参数
参数 |
是否必选 |
参数类型 |
描述 |
|---|---|---|---|
X-Auth-Token |
是 |
String |
用户Token。 通过调用IAM服务获取用户Token接口获取（响应消息头中X-Subject-Token的值）。 |
参数 |
是否必选 |
参数类型 |
描述 |
|---|---|---|---|
categories |
否 |
Array of strings |
检测场景。 当前支持的场景有默认场景和用户自定义场景：
|
items |
是 |
Array of TextDetectionItemsReq objects |
待检测的文本列表，目前暂时每次只支持传一个item。 |
响应参数
状态码： 200
参数 |
参数类型 |
描述 |
|---|---|---|
result |
result object |
调用成功时表示调用结果。 调用失败时无此字段。 |
参数 |
参数类型 |
描述 |
|---|---|---|
suggestion |
String |
检测结果是否通过。 block：包含敏感信息，不通过。 pass：不包含敏感信息，通过。 review：需要人工复查。 |
detail |
Object |
返回的相关检测结果详细信息：
|
状态码： 400
参数 |
参数类型 |
描述 |
|---|---|---|
error_code |
String |
调用失败时的错误码，具体请参见错误码。 调用成功时无此字段。 |
error_msg |
String |
调用失败时的错误信息。 调用成功时无此字段。 |
fail_category |
String |
当包含多个场景时，失败场景。 |
请求示例
POST https://{endpoint}/v2/{project_id}/moderation/text
{
"categories" : [ "ad", "politics", "abuse", "porn", "contraband", "flood" ],
"items" : [ {
"text" : "asdfasdfasdf",
"type" : "content"
}
]
}
响应示例
状态码： 200
成功响应示例
{
"result" : {
"detail" : {
"abuse" : [ "fuck" ]
},
"suggestion" : "block"
}
}
状态码： 400
失败响应示例
{
"error_code" : "AIS.0005",
"error_msg" : "The service does not exist."
}
状态码
状态码 |
描述 |
|---|---|
200 |
成功响应示例。 |
400 |
失败响应示例。 |
错误码
请参见错误码。
