内容审核 Moderation

 

内容审核(Content Moderation),基于图像、文本、视频检测技术,可自动进行涉黄、广告、涉政涉暴、涉政敏感人物等内容检测,帮助客户降低业务违规风险

 
 

    文本违法内容审核应用 更多内容
  • 控制文本搜索

    控制文本搜索 解析文档 解析查询 排序查询结果 高亮搜索结果 父主题: 全文检索

    来自:帮助中心

    查看更多 →

  • 本地调用

    本地调用 内容审核 软件开发工具包(Moderation SDK)是对内容审核提供的REST API进行的封装,以简化用户的开发工作。用户通过添加依赖或下载的方式调用API即可实现使用内容审核业务能力的目的。 本章节以文本内容审核为例,介绍如何使用Moderation Python

    来自:帮助中心

    查看更多 →

  • 使用API模式

    使用API模式 通过Serverless应用中心和管理中台部署的Stable-Diffusion应用默认未开启API访问,您可以通过配置函数环境变量的方式开启,请参考配置环境变量为Stable-Diffusion函数配置如下环境变量并保存。 表1 环境变量 Key Value EXTRA_ARGS

    来自:帮助中心

    查看更多 →

  • 在线调试

    数会自动填充,无需填写。 填写待检测文本数据,带*号的是必须要填的参数。 text表示要检测的文本文本的编码格式为“utf-8”,最多检测10000个字符,具体的文本检测格式要求请参见文本内容审核API。 例如:输入text的值为待检测文本。 单击“调试”按钮,获取识别结果。 父主题:

    来自:帮助中心

    查看更多 →

  • 应用场景

    应用场景 本节介绍ModelArts服务的主要应用场景。 大模型 支持三方开源大模型,实现智能回答、聊天机器人、自动摘要、 机器翻译 文本分类等任务。 AIGC 提供AIGC场景化解决方案,辅助创作文案、图像、音视频等数字内容。 自动驾驶 实现车辆自主感知环境、规划路径和控制行驶。

    来自:帮助中心

    查看更多 →

  • 使用限制

    使用限制 文本内容审核(V3) 支持“华北-北京一、华北-北京四、华东-上海一”区域,新用户建议使用“华北-北京四”。 只支持中文文本内容审核。 待检测文本的编码格式为“utf-8”,限定10000个字符以内,文本长度超过10000个字符时,只检测前10000个字符。 默认API

    来自:帮助中心

    查看更多 →

  • 准备数据

    核的数据。 服务功能的使用约束请参见约束与限制。 例如文本内容审核,输入数据存在以下约束: 文本内容审核V3版本:支持“华北-北京一、华北-北京四、华东-上海一”区域,新用户建议使用“华北-北京四”。 只支持中文文本内容审核。 默认API调用最大并发为50,如需调整更高并发限制请通过工单联系专业工程师为您服务。

    来自:帮助中心

    查看更多 →

  • 版本支持公告

    务支持,请您尽快切换至新版本内容审核(V3)服务。 切换至内容审核(V3)版本产品价格是否有影响? 内容审核(V3)版本共包含文本审核、 图像审核 、音频审核、 视频审核 、音频流审核、视频流审核、文档内容审核7个服务,其中文本审核和图像审核与V2版本的文本审核、图像审核计费一致,其余服务均为V3版本的新服务,不涉及。

    来自:帮助中心

    查看更多 →

  • 如何对盘古大模型的安全性展开评估和防护

    数据,有效防止隐私泄露,保障个人隐私数据安全。 内容安全:通过预训练和强化学习价值观提示(prompt),构建正向的意识形态。通过内容审核模块过滤违法及违背社会道德的有害信息。 模型安全:通过模型动态混淆技术,使模型在运行过程中保持混淆状态,有效防止结构信息和权重信息在被窃取后暴露。

    来自:帮助中心

    查看更多 →

  • 调用SDK实现内容审核功能

    调用SDK实现内容审核功能 内容审核-文本 内容审核-图像

    来自:帮助中心

    查看更多 →

  • 文本搜索配置示例

    创建自定义的文本搜索配置。此外,为了便于管理文本搜索对象,还提供有多个gsql元命令,可以显示有关文本搜索对象的信息(详细请参见《工具指南》中“元命令参考”章节)。 操作步骤 创建一个文本搜索配置ts_conf,复制预定义的文本搜索配置english。 1 2 CREATE TEXT

    来自:帮助中心

    查看更多 →

  • 配置自定义词库 V3

    V3 在使用文本审核/图像审核时,支持用户配置自定义白名单词库和自定义黑名单词库,来帮助客户过滤和检测指定文本内容。 音频审核/视频审核/音频流审核/视频流审核不支持配置自定义词库功能。 配置自定义词库后,需要用户自行维护。 背景信息 配置自定义词库需要先开通文本内容审核服务,详请参见申请服务。

    来自:帮助中心

    查看更多 →

  • 预测接口(文本标签)

    预测接口(文本标签) 分词模型 命名实体识别模型 父主题: 在线服务API

    来自:帮助中心

    查看更多 →

  • 文本分析配置

    文本分析配置 通过设置分析交互类型、分析百分比、待分析座席来开启语音/文本分析功能。 要开启语音文本分析功能,必须在此页面配置分析类型(语音类型、文本类型),并且同时开启文本分析特性开关。 操作步骤 以租户管理员角色登录AICC,选择“配置中心 > 质量管理 > 文本分析配置”。

    来自:帮助中心

    查看更多 →

  • 单行文本

    单行文本 单行文本组件用于录入普通的文本,包含文字、数字等,例如商品名称、人员姓名、车牌号、邮政编码、地址、身份证号码等。 在表单开发页面,从“数据组件”中,拖拽“单行文本”组件至表单设计区域,如图1。 图1 单行文本组件 显示名称:该字段在页面呈现给用户的名称,可以设置为中文,也可以设置为英文。

    来自:帮助中心

    查看更多 →

  • 基本文本匹配

    正如上面例子表明,tsquery不仅是文本,且比tsvector包含的要多。tsquery包含已经标注化为词条的搜索词,同时可能是使用AND、OR、或NOT操作符连接的多个术语。详细请参见文本搜索类型。函数to_tsquery和plainto_tsquery对于将用户书写文本转换成适合的tsque

    来自:帮助中心

    查看更多 →

  • API使用类

    API使用类 有哪些途径可以使用内容审核的API? 调用内容审核的API失败时怎么处理? 文本审核能直接上传word文件进行审核吗? 服务API调用对并发有什么限制? 调用API接口请求超时怎么处理? 文本内容审核怎么自定义检测场景? 服务可以对OBS文件夹里面的内容进行遍历审核吗?

    来自:帮助中心

    查看更多 →

  • 录音文件转文本

    是否必选 说明 1 Content-Type string False 固定填 application/json; charset=UTF-8。 2 x-app-key string False appKey标识,请联系运营人员获取 3 Authorization string True

    来自:帮助中心

    查看更多 →

  • 多行文本

    多行文本 多行文本组件用于录入较长、较复杂的文字,如描述说明、备注、反馈等。 在表单开发页面,从“数据组件”中,拖拽“多行文本”组件至表单设计区域,如图1。 图1 多行文本 显示名称:该字段在页面呈现给用户的名称,可以设置为中文,也可以设置为英文。 行数:文本行数展示的行数。如果

    来自:帮助中心

    查看更多 →

  • 基本文本匹配

    正如上面例子表明,tsquery不仅是文本,且比tsvector包含的要多。tsquery包含已经标注化为词条的搜索词,同时可能是使用AND、OR、或NOT操作符连接的多个术语。详细请参见文本搜索类型。函数to_tsquery和plainto_tsquery对于将用户书写文本转换成适合的tsque

    来自:帮助中心

    查看更多 →

  • 文本检索函数

    文本检索函数 get_current_ts_config() 描述:获取文本检索的默认配置。 返回类型:regconfig 示例: 1 2 3 4 5 SELECT get_current_ts_config(); get_current_ts_config -----------------------

    来自:帮助中心

    查看更多 →

共105条
看了本文的人还看了