方案概述

应用场景

该方案适用于如下场景：

1. 视频直播：在互动直播场景中，成千上万个房间并发直播，人工审核直播内容几乎不可能。基于图像检测能力，可对所有房间内容实时监控，识别可疑房间并进行预警。
2. 在线商城：智能审核商家/用户上传图像，高效识别并预警不合规图片，防止涉黄、涉暴、涉政敏感类图像发布，降低人工审核成本和业务违规风险。
3. 网站论坛：不合规图片的识别和处理是用户原创内容（UGC）类网站的重点工作，基于内容审核，可以识别并预警用户上传的不合规图片，帮助客户快速定位处理，降低业务违规风险。

方案架构

该解决方案基于华为云内容审核服务的图像审核技术构建，可自动对用户上传到对象存储服务的图片进行审核，识别图片中是否包含涉黄、广告、涉政涉暴、涉政敏感人物等违规内容，降低业务违规风险。解决方案架构图如下：

图1 方案架构图

该解决方案将会部署如下资源：

1. 创建两个对象存储服务 OBS桶，一个提供给用户上传图片，另一个用于转储违规图片和存放审核日志；
2. 在函数工作流中创建函数，当OBS桶收到上传的图片后，会自动通知函数调用内容审核服务，并将违规图片进行替换和转储；
3. 开通内容审核服务，用于违规图片的内容审核。

方案优势

• 降本增效

按需付费，用户只需花费少量成本，即可代替人工审核违规图片，极大降低人力成本和业务违规风险。

• 简单易用

企业业务系统只需要对接华为云对象存储服务即可自动实现图片的自动审核以及违规图片的替换转储，降低集成内容审核服务的难度。

• 检测范围广

图片内容审核覆盖涉黄、低俗、广告、涉政涉暴、涉政敏感人物和不良场景等多种违规风险的智能审核。

约束与限制

• 该解决方案部署前，需注册华为账号并开通华为云，完成实名认证，且账号不能处于欠费或冻结状态。
• 卸载解决方案前，请先确保OBS桶中无数据，否则解决方案将卸载失败。
• 该解决方案暂时不支持OBS上传KMS加密文件。