内容审核 Moderation

 

内容审核(Content Moderation),基于图像、文本、视频检测技术,可自动进行涉黄、广告、涉政涉暴、涉政敏感人物等内容检测,帮助客户降低业务违规风险

 
 

    网站敏感内容审核系统 更多内容
  • 登录系统网站

    登录系统网站 使用浏览器打开 http://xx.xx.xx.xx:9992/login.jsp,使用用户名密码登录应用。 图1 登录应用 登录成功 图2 登录应用2 父主题: 实施步骤

    来自:帮助中心

    查看更多 →

  • 方案概述

    、涉暴、涉政敏感类图像发布,降低人工审核成本和业务违规风险。 网站论坛:不合规图片的识别和处理是用户原创内容(UGC)类网站的重点工作,基于 内容审核 ,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险。 方案架构 该解决方案基于华为云内容审核服务的 图像审核

    来自:帮助中心

    查看更多 →

  • 敏感操作

    敏感操作 关闭验证码验证功能后,在伙伴中心进行敏感操作时,将通过手机短信或者邮箱再次确认操作者的身份,进一步提高账号安全性,有效保护您安全操作相关功能。 具体影响的敏感操作如下表所示: 伙伴类型 敏感操作 政府类伙伴 发放/回收现金券 发放/回收代金券 解决方案提供商 余额支付(为客户代支付订单)

    来自:帮助中心

    查看更多 →

  • 应用场景

    响应速度快:单张图像识别速度小于0.1秒。 内容审核-文本 内容审核-文本有以下应用场景: 电商评论筛查 审核电商网站产品评论,智能识别有色情、灌水等违规评论,保证良好用户体验。 场景优势如下: 准确率高:基于改进的深度学习算法,检测准确率高。 响应速度快:响应速度小于0.1秒。 注册昵称审核 对网站的用户注册信

    来自:帮助中心

    查看更多 →

  • 敏感操作

    避免误操作带来的风险和损失。“操作保护”默认为开启状态,为了您的资源安全,建议保持开启状态。 开启操作保护后,默认在敏感操作验证成功后的15分钟之内,进行敏感操作无需再次验证。 管理员进入安全设置。 在“敏感操作 > 操作保护 > ”中,单击“立即启用”。 图5 开启操作保护 在

    来自:帮助中心

    查看更多 →

  • 敏感检测

    图1 配置敏感检测任务参数 单击“检测”,可以查看数据文件的字段分隔情况。 “敏感项”区域选择此次敏感检测任务需要检测的具体敏感内容。支持全选。 单击“检测测试”左侧的图标,展开检测测试内容。 在左侧框中输入待检测的文字内容(自定义),单击“测试”,系统会根据用户配置的检测敏感项,快

    来自:帮助中心

    查看更多 →

  • 敏感检测

    选择此次敏感检测任务需要检测的敏感项,支持全选。 可选敏感项:可选敏感项下方展示敏感项列表,包含各个敏感项名称和样例。 在“检测测试”的右侧,单击,展开检测测试内容。 在左侧框中输入待检测的文字内容(自定义),单击“测试”,系统会根据用户配置的检测敏感项,快速进行敏感内容检测,并在检测结果框中展示敏感检测信息。

    来自:帮助中心

    查看更多 →

  • 录入敏感配置

    单击“附件上传”,上传已填入配置信息的本地文件。 单击“提交”。 更多操作 敏感配置录入后,您可以执行如表2所示的操作。 表2 更多操作 操作 说明 修改敏感配置项 单击敏感配置列表操作列的“修改”,修改敏感配置项。 研发登录ACMS管理台进行修改敏感配置项后会处于“已发布/待发布”状态,后面需要采用以下步骤进行生效:

    来自:帮助中心

    查看更多 →

  • 分发敏感配置

    查找到敏感配置项,该标识称为“敏感配置项坐标”。 进入运维中心工作台。 在顶部导航栏选择自有服务。 单击,选择“安全 > 访问凭据管理服务”。 选择左侧导航栏的“敏感配置管理”。 勾选需要分发的敏感配置,单击“导出敏感配置ID”,即可生成敏感配置项坐标。 敏感配置项坐标的生成规则为:

    来自:帮助中心

    查看更多 →

  • 解密敏感配置

    解密敏感配置 如果配置文件中的业务配置项有敏感字段需要解密,只要配置具体哪些配置项需要解密,使用逗号分隔,NUWA会用对应的秘钥进行解密。 前提条件 在业务代码中引入STS SDK,具体操作请参见使用STS SDK(Spring Cloud框架)。 操作步骤 在微服务业务代码的application

    来自:帮助中心

    查看更多 →

  • 管理敏感词

    管理敏感词 背景信息 支持配置质检规则的敏感词,敏感词支持分类管理。 系统支持通过页面添加的方式管理敏感词。 操作信息 使用租户管理员账号登录客户服务云,单击“配置中心 > 质量管理 > 敏感词”,打开敏感词管理界面,界面展示已配置的数据。 单击,添加敏感词分类。 配置敏感词分类名称,单击“确定”,保存新增分类。

    来自:帮助中心

    查看更多 →

  • 解密敏感配置

    解密敏感配置 如果配置文件中的业务配置项有敏感字段需要解密,只要配置具体哪些配置项需要解密,使用逗号分隔,NUWA会用对应的秘钥进行解密。 前提条件 在业务代码中引入STS SDK,具体操作请参见使用STS SDK(Spring Cloud框架)。 操作步骤 在微服务业务代码的application

    来自:帮助中心

    查看更多 →

  • 更新敏感词

    string True 操作员标识 可在登录后,进入员工管理页面,查看接口返回的userId 表2 请求体参数 序号 名称 参数类型 是否必选 说明 1.1 sw_name string True 敏感词名称 1.2 score number False 敏感词分数 1.3 exception

    来自:帮助中心

    查看更多 →

  • 内容安全检测

    内容安全检测 内容安全检测服务,基于丰富的违规样例库和内容审核专家经验,通过机器审核加人工审核结合的方式,帮助您准确检测出Web网站和新媒体平台上的关于涉黄、涉赌、涉毒、暴恐、涉政、惊悚、违禁广告等敏感违规内容,并提供文本内容纠错审校(错别字、生僻字、语法表述不当等有违准确性内容

    来自:帮助中心

    查看更多 →

  • 敏感词设置

    敏感词设置 管理员可在管理后台添加敏感词,当移动端的聊天、群聊出现相应敏感词时,将会显示成******。 在“安全”下拉菜单选择“敏感词设置”,进入敏感词设置界面,单击“添加敏感词”。 父主题: 安全

    来自:帮助中心

    查看更多 →

  • 设置敏感词

    设置敏感词 您可以在“高级 > 敏感词设置”页面添加敏感词。添加成功后,当发送的即时消息中存在与设置的敏感词完全匹配的词条时,消息中的敏感词将用“***”代替。 父主题: 设置

    来自:帮助中心

    查看更多 →

  • 删除敏感词

    删除敏感词 场景描述 删除敏感词的接口。 接口方法 POST 接口URI https:// 域名 /apiaccess/C CS QM/rest/ccisqm/v1/sensitiveWordManage/deleteSensitiveWord,例如域名是service.besclouds

    来自:帮助中心

    查看更多 →

  • 新增敏感词

    名称 参数类型 是否必选 说明 1.1 sw_name string True 敏感词名称 1.2 score number False 敏感词分数 1.3 exception object False 敏感词例外状况 1.3.1 customer array[string] False

    来自:帮助中心

    查看更多 →

  • 录入敏感配置

    勾选需要删除的敏感配置,单击“批量删除”,即可批量删除敏感配置。 配置项值对比 敏感配置一旦录入,管理台不会明文显示敏感配置的明文值。如果业务录入敏感配置后,不确定录入的值是否为预期的明文值,则可以使用“敏感配置对比”功能。 单击敏感配置列表操作列的“更多 > 配置项对比”。 在“对

    来自:帮助中心

    查看更多 →

  • 分发敏感配置

    查找到敏感配置项,该标识称为“敏感配置项坐标”。 进入运维中心工作台。 在顶部导航栏选择自有服务。 单击,选择“安全 > 访问凭据管理服务”。 选择左侧导航栏的“敏感配置管理”。 勾选需要分发的敏感配置,单击“导出敏感配置ID”,即可生成敏感配置项坐标。 敏感配置项坐标的生成规则为:

    来自:帮助中心

    查看更多 →

  • 什么是内容审核

    率。 内容审核-图像 图像内容审核,利用深度神经网络模型对图片内容进行检测,准确识别图像中的暴恐元素、涉黄内容等,帮助业务规避违规风险。 内容审核-文本 文本内容审核,采用人工智能文本检测技术有效识别涉黄、广告、辱骂、违禁品和灌水文本内容,提供定制化的文本敏感内容审核方案。 图1

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了