随着智能体(Agent)在企业核心业务场景中的深入应用,其行为安全与可控性成为关键挑战。智能体在执行复杂任务时,可能出现意图偏离、越权操作、数据泄露等风险行为,给企业带来难以预估的损失。
智能体卫士基于全链路Trace可观测日志,构建多维度行为检测策略,支持防护的维度如表1所示。
表1 防护维度说明 | 防护维度 | 说明 | 相关操作 |
| 意图行为一致性检测 | 基于大模型,深度解析用户原始意图与调用链上下文,动态校验智能体工作流与用户意图的一致性,精准检测提示词注入、数据投毒、越狱、越权操作等攻击。 | 开启意图行为一致性检测 |
| 命令执行检测 | 内置高危操作语义识别引擎,实时检测rm -rf等高危系统命令,避免提示词注入导致的核心数据丢失。 | 配置命令执行检测策略 |
| 文件访问检测 | 精准识别系统目录、配置文件及敏感路径访问,严格管控Agent文件访问权限,防止跨目录越权读取和非法篡改。 | 配置文件访问检测策略 |
| 敏感信息检测 | 内置敏感信息识别引擎,覆盖个人隐私信息、认证凭证等多个维度,严防Agent交互过程中敏感信息被诱导泄露。 | 配置敏感信息检测策略 |
约束限制
该策略只适用于OfficeAce、AgentArts智能体。
开启意图行为一致性检测
- 登录企业主机安全控制台。
- 在控制台左上角,单击
图标,选择区域或项目。 - 在左侧导航栏,选择,进入“防护配置”页面。
图1 防护配置
- (可选)如果您已开通企业项目,可在页面上方“企业项目”下拉框中选择企业项目,查看目标企业项目下的相关信息和数据。
- 在“Agent行为轨迹检测”策略所在行,单击“编辑”,进入策略详情页面。
图2 策略详情
- 将“意图行为一致性检测”的开关设置为
。
配置命令执行检测策略
- 登录企业主机安全控制台。
- 在控制台左上角,单击
图标,选择区域或项目。 - 在左侧导航栏,选择,进入“防护配置”页面。
图3 防护配置
- (可选)如果您已开通企业项目,可在页面上方“企业项目”下拉框中选择企业项目,查看目标企业项目下的相关信息和数据。
- 在“Agent行为轨迹检测”策略所在行,单击“编辑”,进入策略详情页面。
图4 策略详情
- 单击“命令执行检测”下方的“配置管理”,进入“命令执行检测”页面。
- 根据需要选择配置方式。
- 启用系统预置检测项:在对应命令所在行单击按钮开启或勾选多个命令后选择。
- 自定义检测项:请执行8。
- 单击“自定义命令”。
- 在弹窗中,根据提示添加需要检测的命令。
图5 添加自定义命令
表2 自定义命令参数说明 | 参数 | 说明 |
| 命令名称 | 命令的名称,自定义。只能由中文字符、英文字母、数字、逗号、句号、空格及_-组成,不超过128个字符。 |
| 命令说明 | 命令的描述信息。只能由中文字符、英文字母、数字、逗号、句号、空格及_-组成,不超过128个字符。 |
| 具体命令 | 需要防护的命令。只能包含字母、数字、下划线、横杠、点、斜杠、空格、引号及*?|;等Linux命令合法字符,不超过100个字符。 |
| 启用状态 | 是否启用该自定义命令检测。 表示已启用。 |
- 确认信息无误后,单击“确定”。
配置文件访问检测策略
- 登录企业主机安全控制台。
- 在控制台左上角,单击
图标,选择区域或项目。 - 在左侧导航栏,选择,进入“防护配置”页面。
图6 防护配置
- (可选)如果您已开通企业项目,可在页面上方“企业项目”下拉框中选择企业项目,查看目标企业项目下的相关信息和数据。
- 在“Agent行为轨迹检测”策略所在行,单击“编辑”,进入策略详情页面。
图7 策略详情
- 单击“文件访问检测”下方的“配置管理”,进入“文件访问检测”页面。
- 根据需要选择配置方式。
- 启用系统预置检测项:在对应命令所在行单击按钮开启或勾选多个命令后选择。
- 自定义检测项:请执行8。
- 单击“自定义文件”。
- 在弹窗中,根据提示添加需要检测的文件路径。
图8 添加自定义文件路径
表3 自定义文件路径参数说明 | 参数 | 说明 |
| 文件名称 | 文件的名称,自定义。只能由中文字符、英文字母、数字、逗号、句号、空格及_-组成,不超过128个字符。 |
| 文件说明 | 文件的描述信息。只能由中文字符、英文字母、数字、逗号、句号、空格及_-组成,不超过128个字符。 |
| 文件路径 | 文件路径需以/、~或*开头,仅支持字母、数字、下划线、点、连字符、斜杠和*?通配符,且通配符不可连续使用,不超过100个字符。 |
| 启用状态 | 是否启用该自定义命令检测。 表示已启用。 |
- 确认信息无误后,单击“确定”。
配置敏感信息检测策略
- 登录企业主机安全控制台。
- 在控制台左上角,单击
图标,选择区域或项目。 - 在左侧导航栏,选择,进入“防护配置”页面。
图9 防护配置
- (可选)如果您已开通企业项目,可在页面上方“企业项目”下拉框中选择企业项目,查看目标企业项目下的相关信息和数据。
- 在“Agent行为轨迹检测”策略所在行,单击“编辑”,进入策略详情页面。
图10 策略详情
- 单击“敏感信息检测”下方的“配置管理”,进入“敏感信息检测”页面。
图11 敏感信息检测
- 根据业务类型选择需要启用的敏感信息页签。
- 启用/停用敏感信息检测:在目标敏感信息所在行,单击开关按钮即可。
- 修改处置方式
- 修改单个文件路径处置方式:在目标命令所在行,单击对应的处置策略即可。
- 批量修改文件路径处置方式:勾选多个目标命令后,单击“处置方式”,选择处置方式。
相关文档
- 停用策略:单击目标策略的开关按钮,在弹窗中输入“YES”二次确认,单击“确定”,
表示策略已停用。 - 启用策略:单击目标策略的开关按钮,在弹窗中输入“YES”二次确认,单击“确定”,
表示策略已启用。