内容审核 Moderation

 

内容审核(Content Moderation),基于图像、文本、视频检测技术,可自动进行涉黄、广告、涉政涉暴、涉政敏感人物等内容检测,帮助客户降低业务违规风险

 
 

    图像违规内容审核系统 更多内容
  • 使用API模式

    图片的最终结果会因提示词、模型选择的不同存在较大的不确定性,存在涉黄、暴力等违法违规风险,建议在使用过程中配合华为云Moderation对生成结果进行审核,以降低风险,详细使用指南请参考图像 内容审核 (V3)。 父主题: 进阶使用

    来自:帮助中心

    查看更多 →

  • API概览

    果返回给用户。 图像审核 表2 图像审核接口说明 API 说明 图像内容审核 分析并识别用户上传的图像内容是否有敏感内容(如涉及暴恐元素、涉黄内容等),并将识别结果返回给用户。 音频审核 表3 音频审核接口说明 API 说明 创建音频内容审核作业 创建音频内容审核作业,创建成功会将作业ID返回给用户。

    来自:帮助中心

    查看更多 →

  • 使用限制

    专业工程师为您服务。 图像内容审核(V3) 支持“华北-北京一、华北-北京四、华东-上海一”区域,新用户建议使用“华北-北京四”。 支持识别处理JPG、PNG、JPEG、WEBP、GIF、TIFF、TIF、HEIF格式的图片。 只支持中文图像内容审核图像各边的像素大小在20到6000px之间。

    来自:帮助中心

    查看更多 →

  • 配置审核规则

    用户已申请开通图像内容审核服务后,可进行审核规则的配置。 背景信息 根据配置的审核规则,对涉暴、涉黄内容进行不同场景的检测。 一个账户最多支持创建10个审核规则。 规则名称不能重名。 创建审核规则 登录内容审核管理控制台,单击左侧导航栏“设置>图像标准管理”。 在“图像标准管理“页

    来自:帮助中心

    查看更多 →

  • 用户如何举报平台违规内容?

    用户如何举报平台违规内容? 如果用户看到MetaStudio平台,有发布下述违反法律法规的内容: 涉黄、涉赌、涉毒、涉诈、侵权内容 盗版游戏/软件/盗版视频 P2P类金融诈骗信息 彩票类信息 违规医院和药品类信息 无法正常访问或内容不含有任何实质信息 可第一时间拨打华为云电话、提

    来自:帮助中心

    查看更多 →

  • 任务提交

    任务提交 功能介绍 提交异步批量图像内容审核任务,返回任务标识,任务标识可用于查询任务结果。此接口为异步接口,相对于批量图像内容审核接口,支持更大图片列表批次。 调试 您可以在 API Explorer 中调试该接口,支持自动认证鉴权。API Explorer可以自动生成SDK代码示例,并提供SDK代码示例调试功能。

    来自:帮助中心

    查看更多 →

  • 城管事件-违规晾晒检测

    城管事件-违规晾晒检测 输出JSON数据流到DIS指定的通道或者Webhook URL,包括告警结构化数据和图片数据。 违规晾晒JSON结果示例: { "stream_id": "001", "event_type": 2359296, "task_id":

    来自:帮助中心

    查看更多 →

  • 用户如何举报平台违规内容?

    用户如何举报平台违规内容? 如果用户看到MetaStudio平台,有发布下述违反法律法规的内容: 涉黄、涉赌、涉毒、涉诈、侵权内容 盗版游戏/软件/盗版视频 P2P类金融诈骗信息 彩票类信息 违规医院和药品类信息 无法正常访问或内容不含有任何实质信息 可第一时间拨打华为云电话、提

    来自:帮助中心

    查看更多 →

  • 调用API实现内容审核功能

    调用API实现内容审核功能 内容审核-文本 内容审核-图像

    来自:帮助中心

    查看更多 →

  • 调用SDK实现内容审核功能

    调用SDK实现内容审核功能 内容审核-文本 内容审核-图像

    来自:帮助中心

    查看更多 →

  • 域名准入标准

    无法正常访问或内容不含有任何实质信息 如果您的直播加速 域名 含有以上违规的内容,您将自行承担相关风险。 如果发现涉黄、涉赌、涉毒、涉诈等违规行为,视频直播将执行域名封禁策略(删除相关加速域名且不允许再次接入,与违规域名使用相同源站的加速域名同样执行域名封禁策略),账号加速域名配额降为0。 域名处理规则 域名处理规则如表1所示。

    来自:帮助中心

    查看更多 →

  • 应用示例

    应用示例 文本内容审核(V3) 图像内容审核(V3)

    来自:帮助中心

    查看更多 →

  • 创建视频流内容审核作业

    该字段非空时,检测结果会回调通知您的URL。视频流未结束时,检测片段违规时回调客户端,视频流结束时,检测片段违规或正常都将回调客户端。 说明: 您的callback接口需要支持POST方法; 回调数据格式,请参考查询视频内容审核作业的响应示例; 您的服务端callback接口收到内容安全

    来自:帮助中心

    查看更多 →

  • 视频直播限制

    直播内容审核说明 直播内容审核说明,如表4所示。 表4 直播间内容审核说明 内容审核机制 操作说明 直播间内容审核 MetaStudio服务内容审核说明,如下所示: 默认会对直播间的各个配置项,如直播间名称、描述、文本、音频、视频、图片等内容进行机器审核。以排除内容违规风险,避免生成不合法的直播内容。

    来自:帮助中心

    查看更多 →

  • 域名准入标准

    无法正常访问或内容不含有任何实质信息 如果您的直播加速域名含有以上违规的内容,您将自行承担相关风险。 如果发现涉黄、涉赌、涉毒、涉诈等违规行为,媒体直播将执行域名封禁策略(删除相关加速域名且不允许再次接入,与违规域名使用相同源站的加速域名同样执行域名封禁策略),账号加速域名配额降为0。 域名处理规则 域名处理规则如表1所示。

    来自:帮助中心

    查看更多 →

  • 约束与限制

    名、源站的准入要求,以免因违规导致业务受损。 域名准入要求及规范 限制项 说明 域名准入条件 中国大陆: 华为账号已完成实名认证。 域名已在工信部备案,且当前备案信息正常可用。 加速域名接入时需通过内容审核。 中国大陆境外: 加速域名接入时需通过内容审核。 全球: 已在华为云进行实名认证。

    来自:帮助中心

    查看更多 →

  • 内容审核-文本

    步骤一:开通服务 内容审核-文本服务开通步骤请参考开通服务步骤说明。 步骤二:配置自定义词库 文本内容审核服务可支持用户配置自定义白名单词库和自定义黑名单词库进行 文本审核 。 创建自定义白名单词库:在使用文本内容审核服务时,您在白名单词库配置的内容可以不被检测出。 具体操作步骤如下: 登

    来自:帮助中心

    查看更多 →

  • 内容审核-文本

    内容审核-文本 本章节提供了通过Postman调用“内容审核-文本”的样例,帮助您快速体验并熟悉使用本服务,具体步骤如下: 步骤一:开通服务,用户在内容审核控制台,申请开通内容审核-文本服务。 步骤二:配置自定义词库,用户可配置自定义白名单词库和自定义黑名单词库。 步骤三:配置环境,把准备的配置文件导入到开发环境中。

    来自:帮助中心

    查看更多 →

  • 内容安全检测

    内容安全检测 内容安全检测服务,基于丰富的违规样例库和内容审核专家经验,通过机器审核加人工审核结合的方式,帮助您准确检测出Web网站和新媒体平台上的关于涉黄、涉赌、涉毒、暴恐、涉政、惊悚、违禁广告等敏感违规内容,并提供文本内容纠错审校(错别字、生僻字、语法表述不当等有违准确性内容

    来自:帮助中心

    查看更多 →

  • 收到网站违规通知如何处理?

    收到网站违规通知如何处理? 请您按照通知的整改时效完成域名的续费或备案注销。 如该域名不再继续使用,您可提交注销网站备案。 如域名需继续使用,请您尽快完成域名续费。 注销网站备案具体操作步骤请参考:使用APP注销网站或使用PC注销网站。 父主题: 备案成功后

    来自:帮助中心

    查看更多 →

  • 华为类

    华为类 华为图像识别 华为图像识别(体验) 华为图像搜索 华为 文字识别 华为文字识别(体验) 华为 人脸识别 华为 语音识别 华为 语言生成 华为 语言理解 华为 机器翻译 华为机器翻译(体验) 华为天气服务 华为天气(体验) 华为会议(体验) 华为云OBS 华为短信 华为短信(体验) 华为空气质量(体验)

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了