华为 内容审核 （体验） 内容审核（ Content Moderation ），是基于图像、文本、音视频的检测技术，可自动检测涉黄、涉政涉暴、涉政敏感人物、图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮助客户降低业务违规风险。包含“图像内容审核”和“ 文本内容审核 ”执行动作。

查看更多 →

创建两个 对象存储服务 OBS桶，一个提供给用户上传图片，另一个用于转储违规图片和存放审核日志； 在 函数工作流 中创建函数，当OBS桶收到上传的图片后，会自动通知函数调用内容审核服务，并将违规图片进行替换和转储； 开通内容审核服务，用于违规图片的内容审核。 方案优势 降本增效 按需付费，用户只需花费少

查看更多 →

华为内容审核 华为内容审核连接器是基于图像、文本、音视频的检测技术，可自动检测涉黄、涉暴、图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮助客户降低业务违规风险。包含“图像内容审核”、“文本内容审核”执行动作。 连接参数 华为内容审核连接器使用IAM认证，连接参数说明如表1所示。

查看更多 →

效率。 内容审核-图像 图像内容审核，利用深度神经网络模型对图片内容进行检测，准确识别图像中的暴恐元素、涉黄内容等，帮助业务规避违规风险。 内容审核-文本 文本内容审核，采用人工智能文本检测技术有效识别涉黄、广告、辱骂、违禁品和灌水文本内容，提供定制化的文本敏感内容审核方案。 图1

查看更多 →

场景优势： 审核效率高：自动化地完成内容审核，减少人工审核的工作量和成本，提高运营效率。 全方位检测：提供多模态综合审核方案，对视频内容中的画面、声音、文字进行全方位解析。 内容审核-文档 网盘存储与共享 精准检测网盘用户上传文档内包含的图片及文本中存在的敏感、色情、违禁等风险内容，规避平台内容风险。

查看更多 →

敏感检测 在数据服务首页左侧导航，选择“首页>我的数据集”。 在“我的数据集”页签单击新增的数据集。 单击“应用数据集 > 安全管理 > 敏感检测”，进入“敏感检测”界面。 配置敏感检测任务参数，如图1所示。 参数说明如下所示： 任务名称：敏感检测任务的自定义名称。 样本量：取值

查看更多 →

外，按函数实际执行资源计费，不执行不产生费用。 内容审核（Content Moderation）：是基于图像、文本、音视频的检测技术，可自动检测涉黄、涉政涉暴、涉政敏感人物、图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮助客户降低业务违规风险。

查看更多 →

外，按函数实际执行资源计费，不执行不产生费用。 内容审核（Content Moderation）：是基于图像、文本、音视频的检测技术，可自动检测涉黄、涉政涉暴、涉政敏感人物、图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮助客户降低业务违规风险。

查看更多 →

选择此次敏感检测任务需要检测的敏感项，支持全选。 可选敏感项：可选敏感项下方展示敏感项列表，包含各个敏感项名称和样例。 在“检测测试”的右侧，单击，展开检测测试内容。 在左侧框中输入待检测的文字内容（自定义），单击“测试”，系统会根据用户配置的检测敏感项，快速进行敏感内容检测，并在检测结果框中展示敏感检测信息。

查看更多 →

敏感操作 只有管理员可以设置敏感操作，普通IAM用户只有查看权限，不能对其进行设置，如需修改，请联系管理员为您操作或添加权限。 联邦用户在执行敏感操作时，不需要进行身份验证。 虚拟MFA 虚拟Multi-Factor Authentication (MFA) 是能产生6位数字认证码的设备，遵循基于时间的一次性密码

查看更多 →

外，按函数实际执行资源计费，不执行不产生费用。 内容审核（Content Moderation）：是基于图像、文本、音视频的检测技术，可自动检测涉黄、涉政涉暴、涉政敏感人物、图文违规等内容，对用户上传的图片、文字、音视频进行内容审核，以满足上传要求，帮助客户降低业务违规风险。

查看更多 →

名称 参数类型 是否必选 说明 1.1 sw_name string True 敏感词名称 1.2 score number False 敏感词分数 1.3 exception object False 敏感词例外状况 1.3.1 customer array[string] False

查看更多 →

删除敏感词 场景描述 删除敏感词的接口。 接口方法 POST 接口URI https:// 域名 /apiaccess/C CS QM/rest/ccisqm/v1/sensitiveWordManage/deleteSensitiveWord,例如域名是service.besclouds

查看更多 →

设置敏感词 您可以在“高级 > 敏感词设置”页面添加敏感词。添加成功后，当发送的即时消息中存在与设置的敏感词完全匹配的词条时，消息中的敏感词将用“***”代替。 父主题： 设置

查看更多 →

敏感词管理 敏感词设置 管理员可在管理后台添加敏感词词库，并对敏感词词库进行查看、编辑、停用、删除操作，针对启用中词库中的敏感词将拦截发送。 查看：查看词库具体包含的敏感词； 编辑：可编辑词库名称、敏感词内容； 停用/启用：停用/启用词库，对启用中词库中的敏感词进行拦截发送； 删除：词库状态为未启用时才可进行删除。

查看更多 →

内容审核-图像 本章节提供了通过Java SDK调用“内容审核-图像”服务的样例，用户直接调用接口函数即可使用SDK功能。具体流程如下： 步骤一：开通服务，用户在“服务列表”或“服务管理”页面选择内容审核-图像服务申请开通。 步骤二：对象存储服务OBS授权（可选），如果需要对OB

查看更多 →

添加敏感词 操作步骤 选择“配置中心>机器人管理>语义理解服务”菜单。 选择“ 知识管理 > 实体管理”，单击“敏感词”页签。 单击左侧分类区域的，为敏感词添加分类，例如“违禁词”，单击“保存”。 选中左侧新增的分类，单击右侧的“新增”，添加敏感词。您可以使用回车添加多条记录。 父主题：

查看更多 →

配置敏感词 选择知识管理>实体管理>敏感词。 单击“新增”，创建一个敏感词分类（根据实际情况可以配置多个敏感词类型）。 单击右侧的“新增”，创建具体的敏感词内容。例：当前创建了一个违禁语分类，在违禁语下创建了密码作为违禁语。 父主题： 配置智能座席助手

查看更多 →

} } } 步骤七：查看调用次数（可选） 内容审核-图像API接口，分析并识别用户上传的图像内容是否有敏感内容（如色情等），并将识别结果返回给用户。 调用内容审核-图像API接口，您可以按照如下步骤操作： 进入内容审核管理控制台。 在左侧导航栏中选择“服务列表> 图像审核

查看更多 →

管理敏感词 背景信息 支持配置质检规则的敏感词，敏感词支持分类管理。 系统支持通过页面添加的方式管理敏感词。 操作信息 使用租户管理员账号登录AICC，单击“配置中心 > 质量管理 > 敏感词”，打开敏感词管理界面，界面展示已配置的数据。 单击，添加敏感词分类。 配置敏感词分类名称，单击“确定”，保存新增分类。

查看更多 →

名称 参数类型 是否必选 说明 1.1 sw_name string True 敏感词名称 1.2 score number False 敏感词分数 1.3 exception object False 敏感词例外状况 1.3.1 customer array[string] False

查看更多 →