操作审计与模型监控
操作审计
云审计服务(Cloud Trace Service,CTS),是华为云安全解决方案中专业的日志审计服务,提供对各种云资源操作记录的收集、存储和查询功能,可用于支撑安全分析、合规审计、资源跟踪和问题定位等常见应用场景。
CTS支持追踪的MaaS管理事件和数据事件列表,请参见表1。
| 操作名称 | 资源类型 | 事件名称 |
|---|---|---|
| 创建API Key | api_key | CreateApiKey |
| 删除API Key | api_key | DeleteApiKey |
| 更新API Key | api_key | UpdateApiKey |
| 签署服务声明 | compliance | SignDisclaimer |
| 获取监控信息 | metrics | QueryServiceMetrics |
| 创建推理服务 | job | CreateService |
| 删除推理服务 | job | DeleteService |
| 更新风控配置 | job | UpdateModeration |
| 开通模型服务 | job | ActivateModelServices |
| 更新推理服务配置 | job | UpdateService |
| 查询新版在线服务 | job | ListUserInferV2ServicesByRegions |
| 创建接入点 | job | CreateCustomEndpoint |
| 启停接入点 | job | ControlCustomEndpoint |
| 更新接入点 | job | UpdateCustomEndpoint |
| 删除接入点 | job | DeleteCustomEndpoint |
模型调用统计与监控
- 模型调用统计
统计预置服务、自定义接入点在指定时间段内的调用数据,如总调用Tokens数、输入Tokens数、输出Tokens数、端到端时延等信息,并以分钟为最小时间粒度展示数据趋势,帮助您了解服务的使用情况和性能变化,从而更有效地进行模型评估、问题定位、故障排除和性能优化。统计详情请前往调用统计页面查看。
- 云监控 CES
MaaS对接了云监控服务(CES),监控在线服务和对应模型负载,如RPM/TPM、Token用量、模型调用成功率/失败率等监控指标,且支持指标仪表盘可视化。监控指标详情请参见监控指标说明。
- SMN 告警
MaaS对接了消息通知服务(SMN),支持对流控、异常请求(错误码等)配置短信、邮件、语音等告警方式。
- 运行日志记录
客户侧网关数据可记录服务调用、Token上下文等日志,按需存入OBS实现过程追溯。