# 大模型安全工作台 #### 操作场景 大模型安全工作台实时为您呈现大模型合规态势，支持大模型的数据语料风险运营、推理业务风险运营和环境安全风险运营，实时呈现大模型的风险概览，助您识别大模型风险和潜在威胁。"大模型安全工作台"为您呈现**推理安全** 、**语料安全** 、**环境安全**的风险态势。 - 推理安全：基于WAF攻击日志和访问日志，分析呈现大模型接口的调用请求次数、调用请求命中防护策略数、以及命中防护策略数排名前5的推理模型域名和数量、提示词注入的攻击分布、推理模型攻击类型分布等。 - 语料安全：基于DSC告警日志，分析呈现大模型中的语料风险类别和数量、TOP5语料风险资产分布等。 - 环境安全：基于安全云脑基线检查、漏洞管理、告警管理功能，分析呈现当前工作空间的TOP5合规检查风险、TOP5漏洞风险、TOP5告警和最近攻击列表。 #### 前提条件 - **推理安全** 依赖Web应用防火墙 WAF服务，在使用大模型安全工作台的推理安全功能模块前需要确保Web应用防火墙 WAF服务在有效使用期内，且**仅WAF云模式支持** 。购买WAF云模式请参见[购买WAF云模式](https://support.huaweicloud.com/usermanual-waf/waf_01_0109.html)。 - **语料安全** 依赖数据安全中心 DSC服务，在使用大模型安全工作台的语料安全功能模块前需要确保数据安全防护在有效使用期内**。** 购买DSC请参见[购买数据安全防护](https://support.huaweicloud.com/usermanual-dsc/dsc_01_0008.html)。 - 已经在安全云脑控制台接入"WAF攻击日志"，"WAF访问日志"和"DSC告警日志"。接入云服务日志请参见[接入日志数据](https://support.huaweicloud.com/usermanual-secmaster/secmaster_01_01335.html#secmaster_01_01335)。 - 仅**安全云脑专业版**支持。 #### 查看大模型安全工作台 1. [登录安全云脑 SecMaster控制台](https://console.huaweicloud.com/secmaster/#/secmaster/ssa/overview)。 2. 单击管理控制台左上角的![](https://support.huaweicloud.com/usermanual-secmaster/zh-cn_image_0000002020168740.png)，选择区域和项目。 3. 在左侧导航栏选择"工作空间 \> 空间管理"，并在工作空间列表中，单击目标工作空间名称，进入目标工作空间管理页面。 图1进入目标工作空间管理页面 ![](https://support.huaweicloud.com/usermanual-secmaster/zh-cn_image_0000002572515210.png "点击放大") 4. 在左侧导航栏选择"工作台 \> 大模型安全工作台"，进入大模型安全工作台页面。 5. 在大模型安全工作台页面，查看**推理安全** 、**语料安全** 、**环境安全** 的风险态势。 表1大模型安全工作台界面参数说明 | 模块 | 参数名称 | 参数说明 | |:---|:---|:---| | 统计时间 | 统计时间 | 支持用户选择或自定义查看概览的时间，支持选择范围如下： - 近24小时 - 近3天 - 近7天 - 近30天 - 自定义：用户自定义起止时间范围。 | | 推理安全 | 推理安全风险汇总 | 推理安全模块呈现所设置的统计时间周期内大模型推理业务风险运营的结果： - 请求总数：WAF请求日志中大模型接口调用的请求次数总和。 - 命中防护策略数：WAF攻击日志中告警类型为提示词注入攻击、提示词内容合规、响应内容合规数量总和。 - 提示词注入攻击次数：WAF攻击日志中提示词攻击数量总和。 - 提示词内容合规次数：WAF攻击日志中提示词内容合规数量总和 - 响应内容合规次数：WAF攻击日志中响应内容合规次数总和。 | | 推理安全 | 请求趋势 | 请求趋势呈现"总请求数"和"命中防护策略数"指标随时间的变化趋势，实时更新。其中 - 总请求数：WAF请求日志中大模型接口调用的请求数量。 - 命中防护策略数：WAF攻击日志中告警类型为提示词注入攻击、提示词内容合规、响应内容合规数量总和。 支持用户选择或自定义查看请求趋势的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 推理安全 | TOP5资产风险分布 | WAF攻击日志中，根据推理模型域名分组求和，展示命中防护策略数中排名前5的推理模型域名及数量。 支持用户选择或自定义查看TOP5资产风险分布的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 推理安全 | 提示词注入攻击分布 | WAF攻击日志中提示词注入攻击类型为越狱攻击、提示词泄露、角色扮演、不安全的指令话题、不安全的观点、反向诱导、政治敏感、合规敏感、个人隐私数据的分类数量统计。 支持用户选择或自定义查看提示词注入攻击分布的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 推理安全 | 大模型攻击类型分布 | WAF攻击日志中告警类型为提示词注入、提示词内容合规、响应内容合规三种类型的告警分类数量统计。 支持用户选择或自定义查看大模型攻击类型分布的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 语料安全 | TOP5语料资产风险分布 | DSC攻击日志中根据上报告警的OBS桶ID分组求和，展示前5的桶名及数量。 支持用户选择或自定义查看TOP5语料资产风险分布的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 语料安全 | 文本风险类别 | DSC攻击日志中文本风险类型为个人隐私敏感、内容合规敏感类型、来源或版权不合规三种类型的分类数量统计。 支持用户选择或自定义查看文本风险类别的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 环境安全 | TOP5合规检查 | 按照合规检查受影响资产数量排序，呈现TOP5影响资产数最多的5个不合规风险项。 支持用户选择或自定义查看TOP5合规检查的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 环境安全 | TOP5漏洞风险 | 按照漏洞的风险等级排序展示用户设定的大模型安全工作台"统计时间"内的TOP5漏洞，若漏洞的风险等级相同则按照漏洞名称排序。 支持用户选择或自定义查看TOP5漏洞风险的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 环境安全 | TOP5告警 | 按照告警的发现时间展示最近发生的5个告警。 支持用户选择或自定义查看TOP5告警的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 | | 环境安全 | 最近攻击清单 | 基于用户设定的大模型安全工作台"统计时间"展示攻击列表。 攻击就是原始的7层防线告警；七层防线的介绍请参见[策略管理概述](https://support.huaweicloud.com/usermanual-secmaster/secmaster_01_0288.html#secmaster_01_0288)。 支持用户选择或自定义查看最近攻击清单的时间，支持选择范围如下：近24小时、近3天、近7天、近30天、自定义（用户自定义起止时间范围）。 |