内容审核 Moderation

 

内容审核(Content Moderation),基于图像、文本、视频检测技术,可自动进行涉黄、广告、涉政涉暴、涉政敏感人物等内容检测,帮助客户降低业务违规风险

 
 

    敏感词库 更多内容
  • 敏感词管理

    敏感词管理 敏感词设置 管理员可在管理后台添加敏感词库,并对敏感词库进行查看、编辑、停用、删除操作,针对启用中词库中的敏感词将拦截发送。 查看:查看词库具体包含的敏感词; 编辑:可编辑词库名称、敏感词内容; 停用/启用:停用/启用词库,对启用中词库中的敏感词进行拦截发送; 删除:词库状态为未启用时才可进行删除。

    来自:帮助中心

    查看更多 →

  • 词库管理接口

    词库管理接口 加载自定义词库 查询自定义词库状态 删除自定义词库 父主题: API

    来自:帮助中心

    查看更多 →

  • OpenSearch集群词库介绍

    CSS服务给集群预置了静态主词词库、静态停词词库、Extra主词词库和Extra停词词库这四个词库。 当这些预置词库已满足集群业务的分词需求时,则集群无需配置自定义词库即可直接实现关键词搜索。 当预置词库不满足集群业务分词需求时,可以给集群添加主词词库、停词词库或同义词词库,亦或者是修改预置

    来自:帮助中心

    查看更多 →

  • 文本内容审核(V3)

    检测时使用的自定义黑名单词库列表。 说明: 自定义黑名单词库的创建和使用请参见配置自定义词库 V3。 white_glossary_names 否 Array of strings 检测时使用的自定义白名单词库列表。 说明: 自定义白名单词库的创建和使用请参见配置自定义词库 V3。 categories

    来自:帮助中心

    查看更多 →

  • 敏感检测

    敏感检测 在数据服务首页左侧导航,选择“首页>我的数据集”。 在“我的数据集”页签单击新增的数据集。 单击“应用数据集 > 安全管理 > 敏感检测”,进入“敏感检测”界面。 配置敏感检测任务参数,如图1所示。 参数说明如下所示: 任务名称:敏感检测任务的自定义名称。 样本量:取值

    来自:帮助中心

    查看更多 →

  • 网络理校系统功能

    到责任部门,避免中途传递造成的问题偏差 图3 快捷方便的问题提报 敏感词检测:支持对敏感词库进行动态维护,对敏感词内容进行增加、修改、删除等操作,当发起问题时有敏感词信息,将提示存在敏感词需修改后提交。 图4 敏感词检测 自助问答库:支持对自助问题库进行动态维护,管理员可授权各部

    来自:帮助中心

    查看更多 →

  • 敏感检测

    选择此次敏感检测任务需要检测的敏感项,支持全选。 可选敏感项:可选敏感项下方展示敏感项列表,包含各个敏感项名称和样例。 在“检测测试”的右侧,单击,展开检测测试内容。 在左侧框中输入待检测的文字内容(自定义),单击“测试”,系统会根据用户配置的检测敏感项,快速进行敏感内容检测,并在检测结果框中展示敏感检测信息。

    来自:帮助中心

    查看更多 →

  • 敏感操作

    敏感操作 只有管理员可以设置敏感操作,普通IAM用户只有查看权限,不能对其进行设置,如需修改,请联系管理员为您操作或添加权限。 联邦用户在执行敏感操作时,不需要进行身份验证。 虚拟MFA 虚拟Multi-Factor Authentication (MFA) 是能产生6位数字认证码的设备,遵循基于时间的一次性密码

    来自:帮助中心

    查看更多 →

  • 应用场景

    快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。 处理速度快:处理速度小于0.1秒。 弹幕审核 实时检测弹幕文本、保证网络直播间内容安全,降低业务违规风险。 场景优势如下: 海量词库:内置海量词库,支持各种匹配规则。 快速迭代:持续快速的迭代文本词库,及时识别新型不合规内容。

    来自:帮助中心

    查看更多 →

  • 加载自定义词库

    。 7个词库参数至少修改一个词库。注:参数传递""空字符串为清空此词库,不传或传递null为不修改。 stopObject 否 String 停词词库文件对象,必须为UTF-8无BOM编码的文本文件,一行一个分词,文件大小最大支持100M。 7个词库参数至少修改一个词库。注:参数

    来自:帮助中心

    查看更多 →

  • 内容审核-图像

    步骤一:开通服务 内容审核-图像 服务开通步骤请参考开通服务步骤说明。 步骤二:配置自定义词库 文本内容审核 服务可支持用户配置自定义白名单词库和自定义黑名单词库进行 文本审核 。 具体步骤请参考创建自定义词库。 步骤三:配置策略(可选) 如果您需要对文本、图像、音频和视频内容进行不同场景的检

    来自:帮助中心

    查看更多 →

  • 新增敏感词

    名称 参数类型 是否必选 说明 1.1 sw_name string True 敏感词名称 1.2 score number False 敏感词分数 1.3 exception object False 敏感词例外状况 1.3.1 customer array[string] False

    来自:帮助中心

    查看更多 →

  • 删除敏感词

    删除敏感词 场景描述 删除敏感词的接口。 接口方法 POST 接口URI https:// 域名 /apiaccess/C CS QM/rest/ccisqm/v1/sensitiveWordManage/deleteSensitiveWord,例如域名是service.besclouds

    来自:帮助中心

    查看更多 →

  • 设置敏感词

    设置敏感词 您可以在“高级 > 敏感词设置”页面添加敏感词。 添加成功后,当发送的即时消息中存在与设置的敏感词完全匹配的词条时,消息中的敏感词将用“***”代替。 父主题: 设置

    来自:帮助中心

    查看更多 →

  • 添加敏感词

    添加敏感词 操作步骤 选择“配置中心>机器人管理>语义理解服务”菜单。 选择“ 知识管理 > 实体管理”,单击“敏感词”页签。 单击左侧分类区域的,为敏感词添加分类,例如“违禁词”,单击“保存”。 选中左侧新增的分类,单击右侧的“新增”,添加敏感词。您可以使用回车添加多条记录。 父主题:

    来自:帮助中心

    查看更多 →

  • 配置敏感词

    配置敏感词 选择知识管理>实体管理>敏感词。 单击“新增”,创建一个敏感词分类(根据实际情况可以配置多个敏感词类型)。 单击右侧的“新增”,创建具体的敏感词内容。例:当前创建了一个违禁语分类,在违禁语下创建了密码作为违禁语。 父主题: 配置智能座席助手

    来自:帮助中心

    查看更多 →

  • 管理敏感配置

    管理敏感配置 敏感配置管理使用流程 录入敏感配置 通过IaC分发敏感配置 在业务代码中配置敏感配置解密 父主题: 配置访问凭据管理服务

    来自:帮助中心

    查看更多 →

  • 录入敏感配置

    访问凭据管理服务”。 选择左侧导航栏的“敏感配置管理”。 单击“敏感配置录入”,配置相关参数。参数说明如表1所示。 敏感配置录入后,管理台不会明文显示敏感配置的明文值,请务必妥善保存明文值。 表1 录入敏感配置参数说明 参数 说明 推送实例 选择在哪个环境下配置敏感配置项。 此处选择的环境应与

    来自:帮助中心

    查看更多 →

  • 管理敏感词

    管理敏感词 背景信息 支持配置质检规则的敏感词,敏感词支持分类管理。 系统支持通过页面添加的方式管理敏感词。 操作信息 使用租户管理员账号登录AICC,单击“配置中心 > 质量管理 > 敏感词”,打开敏感词管理界面,界面展示已配置的数据。 单击,添加敏感词分类。 配置敏感词分类名称,单击“确定”,保存新增分类。

    来自:帮助中心

    查看更多 →

  • 更新敏感词

    名称 参数类型 是否必选 说明 1.1 sw_name string True 敏感词名称 1.2 score number False 敏感词分数 1.3 exception object False 敏感词例外状况 1.3.1 customer array[string] False

    来自:帮助中心

    查看更多 →

  • 内容审核-文本

    步骤一:开通服务 内容审核-文本 服务开通步骤请参考开通服务步骤说明。 步骤二:配置自定义词库 文本 内容审核 服务可支持用户配置自定义白名单词库和自定义黑名单词库进行文本审核。 具体步骤请参考创建自定义词库。 步骤三:配置策略(可选) 如果您需要对文本、图像、音频和视频内容进行不同场景的检

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了