# 模型安全 面向模型推理的输入与输出，提供内容合规审核和风险拦截能力，覆盖自营预置模型与云商店三方模型两类场景。 #### MaaS提供的风控能力 MaaS除了本身具有算力底座安全优势外，还通过各种风控能力保障模型安全。 表1MaaS具备的风控能力 | 风控能力 | 说明 | |:---|:---| | 模型原生安全 | 模型本身具备的内置安全能力，由模型厂商提供，默认生效，无需配置。 | | 内容安全护栏 | MaaS在推理链路额外提供输入/输出有害内容拦截，支持**文本、图片与视频审核**。文本审核覆盖敏感词以及涉政、涉敏、暴恐、违禁、辱骂、广告等语义审核。 | | 安全护栏开关控制 | 注意： 开启内容安全护栏会引入额外时延；关闭后可能无法拦截部分违规内容。 客户等级V2及以上支持自主关闭内容安全护栏，关闭后仅依赖模型原生安全。具体操作如下： - 进入[在线推理](https://console.huaweicloud.com/modelarts/?#/model-studio/deployment)预置服务界面，在操作列选择"更多 -\> 关闭内容安全护栏"。 - 或者在创建/编辑自定义接入点时勾选"内容安全护栏"。 | | 风险识别 | 当模型检测到输入或输出内容可能包含敏感信息时，模型会返回HTTP 403状态码及ModelArts.81011错误码，便于客户端识别和处理。 | #### 风控检测方式 MaaS内容安全护栏会针对推理链路中的输入和输出环节进行检测，流程如下： ![](https://support.huaweicloud.com/security-compliance-maas/zh-cn_image_0000002752902877.png "点击放大") - **输入检测**：用户请求到达MaaS网关后，用户输入内容先送至内容安全护栏检测，命中风险规则时请求不继续调用模型。 - **输出检测**：输入检测通过后请求正常调用模型，模型返回内容再次送检，命中规则时模型输出内容被相应处理。 - **处置策略** ：命中风控时默认为**拦截**（返回ModelArts.81011错误码），未命中则正常返回。 #### 预置模型与三方模型的风控策略 MaaS当前提供**自营预置模型** 和**云商店** **三方模型**。对于不同来源的模型有不同的风控策略。 - **自营预置模型** - 推理链路**默认开启**内容安全护栏，对输入与输出双向检测。 - 命中风险内容时请求被拦截，返回ModelArts.81011。 - V2及以上客户可自主关闭，关闭后使用模型原生安全能力。 - **云商店** **三方模型** 针对云商店提供的三方模型API服务，遵循"**平台兜底、责任共担**"原则： - **责任界定**：三方模型由云商店第三方商家提供，签约主体为"您与第三方商家"。华为云不对三方模型的性能、可用性、合规性承担担保责任。 - **平台侧防护**：MaaS服务内置WAF防火墙、公网高防、漏洞扫描、态势感知，对平台链路上三方模型API的输入/输出进行底线防护。 - **客户义务**：使用三方模型前应进行独立安全评估，遵守《云商店通用商品用户协议》、《云商店用户隐私声明》及三方服务支持条款。 - **信息共享**：首次调用三方模型API时授权华为云创建云商店服务关联角色，用于查询商品信息与调用服务；华为云可能与三方商家共享调用信息以提供技术支持。 #### 安全防护能力 MaaS在推理链路上构建了分层安全防护体系，按能力维度归为以下三类： - **网络安全防护层** 面向公网调用链路，在MaaS网关侧提供入侵防护与流量清洗能力，拦截恶意请求与攻击流量： - WAF防火墙：防护注入、爬虫、恶意Payload，关注大报文/超长上下文特征。 - 公网高防 + Anti-DDoS：ELB高防，防护DDoS攻击。 - APIG网关：统一入口，集中TLS、限流限并发、访问控制与观测。 - **安全检测与响应层** 面向平台整体安全态势，提供威胁检测、漏洞管理与事件溯源能力： - 漏洞扫描与态势感知：主动识别安全威胁与入侵行为并生成告警。 - 安全云脑：汇聚安全日志，展示威胁态势，支持安全事件全链路回溯与定位。 - **安全审计与监控层** 面向操作行为与运行指标，提供审计留痕、指标监控与异常告警能力，详情请参见[操作审计与模型监控](https://support.huaweicloud.com/security-compliance-maas/security_0005.html)。 #### 风控免责说明 关于内容审核与风控，有以下事项需要您知悉： - **模型原生安全由模型厂商提供**：MaaS平台上的模型（含开源模型、三方模型）的原生安全能力由模型厂商负责，华为云不对模型原生安全的合规性、准确性、完整性做出担保。对于开源模型，华为云不对其原生安全能力承担责任。 - **内容安全护栏不能保证100%过滤与合规**：MaaS提供的内容安全护栏是基于现有技术手段的辅助风险识别与拦截能力，受内容风控技术客观局限性影响，无法保证对所有违规内容均能识别和拦截。您应结合自身业务场景对输入与输出内容进行独立的内容合规审核，不应将平台内容安全护栏作为唯一的合规保障手段。 - **三方模型免责**：三方模型及输出不代表华为云观点，华为云不对其合规性、安全性、真实性、准确性、完整性做出担保，由此引发的损害由您与三方商家之间解决。 - **关闭护栏的风险**：关闭内容安全护栏后，因模型输出违规内容引发的法律责任与第三方索赔由您自行承担，建议在生产环境谨慎关闭并配套自建内容审核机制。 详情请参见[《MaaS模型即服务服务声明》](https://www.huaweicloud.com/declaration/modelartsstudio.html)。 #### 常见问题 **Q1：** **关闭护栏后会有什么影响？** 关闭后将仅使用模型原生安全能力，可能无法拦截部分违规内容，因模型输出违规内容引发的法律责任由您自行承担。 **Q2：** **命中风控拦截后如何处理？** 命中拦截时模型会返回HTTP 403状态码及ModelArts.81011错误码，您可更改请求内容（如Prompt）后重试。