更新时间:2024-04-23 GMT+08:00

文本内容审核(V2)

  1. 本章节对文本内容审核AK/SK方式使用SDK进行示例说明。

    示例代码中可以将TextDetectionItemsReq的text配置待检测的文本信息,配置完成后运行即可。

    const core = require('@huaweicloud/huaweicloud-sdk-core');
    const moderation = require("@huaweicloud/huaweicloud-sdk-moderation");
    // 认证用的ak和sk硬编码到代码中或者明文存储都有很大的安全风险,建议在配置文件或者环境变量中密文存放,使用时解密,确保安全;
    // 本示例以ak和sk保存在环境变量中来实现身份验证为例,运行本示例前请先在本地环境中设置环境变量HUAWEICLOUD_SDK_AK和HUAWEICLOUD_SDK_SK、HUAWEICLOUD_SDK_PROJECT_ID。 
    const ak = process.env.HUAWEICLOUD_SDK_AK;
    const sk = process.env.HUAWEICLOUD_SDK_SK;
    const projectId = process.env.HUAWEICLOUD_SDK_PROJECT_ID;
    
    const endpoint = "https://moderation.ap-southeast-1.myhuaweicloud.com"; //把ap-southeast-1替换成服务所在的区域。
    const credentials = new core.BasicCredentials()
                         .withAk(ak)
                         .withSk(sk)
    const client = moderation.ModerationClient.newBuilder()
                                .withCredential(credentials)
                                .withEndpoint(endpoint)
                                .build();
    const request = new moderation.RunTextModerationRequest();
    const body = new moderation.TextDetectionReq();
    const listbodyItems = new Array();
    listbodyItems.push(
     new moderation.TextDetectionItemsReq()
          .withText("text")    //此处输入待检测文本
          .withType("content")
    );
    const listbodyCategories = new Array();
    listbodyCategories.push("ad");
    listbodyCategories.push("abuse");
    listbodyCategories.push("porn");
    listbodyCategories.push("contraband");
    listbodyCategories.push("flood");
    body.withItems(listbodyItems);
    body.withCategories(listbodyCategories);
    request.withBody(body);
    const result = client.runTextModeration(request);
    result.then(result => {
        console.log("JSON.stringify(result)::" + JSON.stringify(result));
    }).catch(ex => {
        console.log("exception:" + JSON.stringify(ex));
    });
  2. 审核结果输出到控制台表示执行成功,文本内容审核结果输出到控制台。
    JSON.stringify(result)::{"result": {"suggestion": "block", "detail": {"contraband": ["亚砷酸钾"], "porn": ["luo聊"]}}}}