内容审核 Moderation

 

内容审核(Content Moderation),基于图像、文本、视频检测技术,可自动进行涉黄、广告、涉政涉暴、涉政敏感人物等内容检测,帮助客户降低业务违规风险

 
 

    敏感词库 更多内容
  • 文本内容审核(V2)

    当参数设置为您创建的白名单词库名称时,表示启用该词库。 说明: 如果您有多个白名单词库想要同时使用,例如有三个白名单词库分别为A,B,C。该参数应设置为["A", "B", "C"] 。 白名单词库的创建和使用请参见创建自定义白名单词库。 items 是 Array of TextDetectionItemsReq

    来自:帮助中心

    查看更多 →

  • 文本内容审核(V3)

    检测时使用的自定义黑名单词库列表。 说明: 自定义黑名单词库的创建和使用请参见配置自定义词库 V3。 white_glossary_names 否 Array of strings 检测时使用的自定义白名单词库列表。 说明: 自定义白名单词库的创建和使用请参见配置自定义词库 V3。 categories

    来自:帮助中心

    查看更多 →

  • 词库管理接口

    词库管理接口 加载自定义词库 查询自定义词库状态 删除自定义词库

    来自:帮助中心

    查看更多 →

  • 敏感操作

    敏感操作 关闭验证码验证功能后,在伙伴中心进行敏感操作时,将通过手机短信或者邮箱再次确认操作者的身份,进一步提高账号安全性,有效保护您安全操作相关功能。 具体影响的敏感操作如下表所示: 伙伴类型 敏感操作 政府类伙伴 发放/回收现金券 发放/回收代金券 解决方案提供商 余额支付(为客户代支付订单)

    来自:帮助中心

    查看更多 →

  • 敏感检测

    选择此次敏感检测任务需要检测的敏感项,支持全选。 可选敏感项:可选敏感项下方展示敏感项列表,包含各个敏感项名称和样例。 在“检测测试”的右侧,单击,展开检测测试内容。 在左侧框中输入待检测的文字内容(自定义),单击“测试”,系统会根据用户配置的检测敏感项,快速进行敏感内容检测,并在检测结果框中展示敏感检测信息。

    来自:帮助中心

    查看更多 →

  • 敏感操作

    敏感操作 只有管理员可以设置敏感操作,普通IAM用户只有查看权限,不能对其进行设置,如需修改,请联系管理员为您操作或添加权限。 联邦用户在执行敏感操作时,不需要进行身份验证。 虚拟MFA 虚拟Multi-Factor Authentication (MFA) 是能产生6位数字认证码的设备,遵循基于时间的一次性密码

    来自:帮助中心

    查看更多 →

  • 网络理校系统功能

    到责任部门,避免中途传递造成的问题偏差 图3 快捷方便的问题提报 敏感词检测:支持对敏感词库进行动态维护,对敏感词内容进行增加、修改、删除等操作,当发起问题时有敏感词信息,将提示存在敏感词需修改后提交。 图4 敏感词检测 自助问答库:支持对自助问题库进行动态维护,管理员可授权各部

    来自:帮助中心

    查看更多 →

  • 敏感检测

    敏感检测 在数据服务首页左侧导航,选择“首页>我的数据集”。 在“我的数据集”页签单击新增的数据集。 单击“应用数据集 > 安全管理 > 敏感检测”,进入“敏感检测”界面。 配置敏感检测任务参数,如图1所示。 参数说明如下所示: 任务名称:敏感检测任务的自定义名称。 样本量:取值

    来自:帮助中心

    查看更多 →

  • 配置自定义词库

    ”。 主词词库 主词词库是用户自定义的词库,初始状态为空。默认选择“不更新”表示不配置该词库。 当需要添加自定义的主词词库时,单击“更新”,选择txt格式的词库文件。 当无需添加自定义的主词词库时,单击“不使用此词库”,删除词库。 停词词库 停词词库是用户自定义的词库,初始状态为

    来自:帮助中心

    查看更多 →

  • 加载自定义词库

    。 7个词库参数至少修改一个词库。注:参数传递""空字符串为清空此词库,不传或传递null为不修改。 stopObject 否 String 停词词库文件对象,必须为UTF-8无BOM编码的文本文件,一行一个分词,文件大小最大支持100M。 7个词库参数至少修改一个词库。注:参数

    来自:帮助中心

    查看更多 →

  • 应用场景

    快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。 处理速度快:处理速度小于0.1秒。 弹幕审核 实时检测弹幕文本、保证网络直播间内容安全,降低业务违规风险。 场景优势如下: 海量词库:内置海量词库,支持各种匹配规则。 快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。

    来自:帮助中心

    查看更多 →

  • 内容审核-文本

    单击“确定”,完成词库的创建。 创建自定义黑名单词库:在使用 文本内容审核 服务时,您在黑名单词库配置的内容会被检测出。 具体操作步骤如下: 登录 内容审核 服务管理控制台,在左侧菜单栏中选择“设置>自定义词库”。 在自定义词库界面,单击“黑词库”页签中“创建词库”按钮,进入“创建词库”页面。 填写词库名称,输入新增的黑名单关键词。

    来自:帮助中心

    查看更多 →

  • 管理敏感词

    管理敏感词 背景信息 支持配置质检规则的敏感词,敏感词支持分类管理。 系统支持通过页面添加的方式管理敏感词。 操作信息 使用租户管理员账号登录客户服务云,单击“配置中心 > 质量管理 > 敏感词”,打开敏感词管理界面,界面展示已配置的数据。 单击,添加敏感词分类。 配置敏感词分类名称,单击“确定”,保存新增分类。

    来自:帮助中心

    查看更多 →

  • 解密敏感配置

    解密敏感配置 如果配置文件中的业务配置项有敏感字段需要解密,只要配置具体哪些配置项需要解密,使用逗号分隔,NUWA会用对应的秘钥进行解密。 前提条件 在业务代码中引入STS SDK,具体操作请参见使用STS SDK(Spring Cloud框架)。 操作步骤 在微服务业务代码的application

    来自:帮助中心

    查看更多 →

  • 更新敏感词

    名称 参数类型 是否必选 说明 1.1 sw_name string True 敏感词名称 1.2 score number False 敏感词分数 1.3 exception object False 敏感词例外状况 1.3.1 customer array[string] False

    来自:帮助中心

    查看更多 →

  • 解密敏感配置

    解密敏感配置 如果配置文件中的业务配置项有敏感字段需要解密,只要配置具体哪些配置项需要解密,使用逗号分隔,NUWA会用对应的秘钥进行解密。 前提条件 在业务代码中引入STS SDK,具体操作请参见使用STS SDK(Spring Cloud框架)。 解密敏感配置 在微服务业务代码的application

    来自:帮助中心

    查看更多 →

  • 录入敏感配置

    勾选需要删除的敏感配置,单击“批量删除”,即可批量删除敏感配置。 配置项值对比 敏感配置一旦录入,管理台不会明文显示敏感配置的明文值。如果业务录入敏感配置后,不确定录入的值是否为预期的明文值,则可以使用“敏感配置对比”功能。 单击敏感配置列表操作列的“更多 > 配置项对比”。 在“对

    来自:帮助中心

    查看更多 →

  • 分发敏感配置

    查找到敏感配置项,该标识称为“敏感配置项坐标”。 进入运维中心工作台。 在顶部导航栏选择自有服务。 单击,选择“安全 > 访问凭据管理服务”。 选择左侧导航栏的“敏感配置管理”。 勾选需要分发的敏感配置,单击“导出敏感配置ID”,即可生成敏感配置项坐标。 敏感配置项坐标的生成规则为:

    来自:帮助中心

    查看更多 →

  • 图像内容审核(V3)

    Array of strings 检测时使用的自定义黑名单词库列表。 详情请看配置自定义词库 V3。 white_glossary_names 否 Array of strings 检测时使用的自定义白名单词库列表。 详情请看配置自定义词库 V3。 响应参数 状态码: 200 表5 响应Body参数

    来自:帮助中心

    查看更多 →

  • 添加敏感词

    添加敏感词 操作步骤 选择“配置中心>机器人管理>语义理解服务”菜单。 选择“ 知识管理 > 实体管理”,单击“敏感词”页签。 单击左侧分类区域的,为敏感词添加分类,例如“违禁词”,单击“保存”。 选中左侧新增的分类,单击右侧的“新增”,添加敏感词。您可以使用回车添加多条记录。 父主题:

    来自:帮助中心

    查看更多 →

  • 配置敏感词

    配置敏感词 选择知识管理>实体管理>敏感词。 单击“新增”,创建一个敏感词分类(根据实际情况可以配置多个敏感词类型)。 单击右侧的“新增”,创建具体的敏感词内容。例:当前创建了一个违禁语分类,在违禁语下创建了密码作为违禁语。 父主题: 配置智能座席助手

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了