使用LTS管理AI DataLake作业日志
在大数据作业开发、调试和线上运维过程中,用户对日志的实时查看、检索和分析能力提出了更高的要求。为了提高日志管理的效率和用户体验,AI DataLake提供了将Job标准输出日志自动投递到云日志服务(Log Tank Service,简称LTS)的功能。只需在AI DataLake控制台配置端点绑定LTS,系统将自动完成日志的实时采集、查询和分析,从而简化日志管理流程,提高问题定位和故障排查的效率,同时确保日志数据的安全隔离,满足多租户场景下的安全与合规要求。
约束与限制
- 仅AuraJob、AuraJobV2、RayCluster、RayJob端点支持配置AI DataLake对接LTS日志流。
- 每个端点仅支持对接一个LTS日志流。
- 一个日志流支持对接多个端点。
- 端点绑定LTS需要具备以下权限,请参考表1。
表1 端点绑定LTS需要具备的权限 权限类型
API
角色与策略授权
身份与策略授权
创建端点权限
POST /v2/workspaces/{workspace_id}/endpoints
DataArtsFabric:endpoint:create
DataArtsFabric:endpoint:create
读取日志组权限
GET /v2/{project_id}/groups
lts:groups:get
lts:logGroup:listLogGroup
读取日志流权限
GET /v2/{project_id}/groups/{log_group_id}/streams
lts:topics:get
lts:logStream:listLogStream
使用须知
绑定LTS后存储在日志组和日志流中的数据将按照LTS计费规则进行计费,详细计费说明请参考LTS计费说明。
操作流程

使用LTS管理AI DataLake作业日志分为以下操作步骤:
基本概念
本节介绍LTS相关的基本概念,便于您通过云日志服务快速高效地进行设备运维管理、用户业务趋势分析、安全监控审计等操作。
步骤1:创建引擎端点并绑定LTS
- 登录AI DataLake管理控制台。
- 在创建端点时,配置参数“日志对接LTS”。
- 创建Aura引擎端点的具体操作,请参见创建Aura引擎端点。
- 创建Ray引擎端点的具体操作,请参见创建Ray引擎端点。

- 日志对接LTS:勾选此参数。
- 日志组:选择日志组。
- 日志流:选择日志流。
- 单击“立即创建”,完成端点和LTS日志组与日志流的绑定。
完成绑定后,所有使用该端点提交作业的日志将通过绑定的LTS存储在对应的日志组和日志流中:
- 运行中的作业:从绑定开始后产生的日志将存储在LTS中。
- 新提交的作业:所有日志都将存储在LTS中。
相关信息:LTS支持的存储日志类型
| 引擎 | logType | 含义 | 对应的节点路径 |
|---|---|---|---|
| Aura | aura-kernel-log | 作业运行过程中内核的日志。 | /home/snuser/log/instances/*.log |
| aura-python-udf-log | 作业运行过程中用户在UDF自定义的日志。 | /home/snuser/log/python_udf/*.log | |
| aura-entrypoint-log | 作业运行过程中entrypoint脚本或用户脚本的日志。 | /home/snuser/log/entrypoint/*.log | |
| Ray | ray-cluster-log | RayCluster端点head、worker进程日志,作业运行日志。 | /tmp/ray/session_*/logs/**/* |
| ray-job-log | RayJob端点head、worker进程日志,临时集群作业日志。 | /tmp/ray/session_*/logs/**/* |
AuraJob作业日志为用户镜像中应用产生的运行日志,AI DataLake不单独提供日志类型。
相关操作:解绑LTS
绑定LTS后,端点上执行的所有作业日志都将存储至LTS日志组。
如果不再需要使用LTS存储,可随时解绑。
- 登录AI DataLake管理控制台。
- 选择目标端点,进入端点管理页面。
- 单击右上角“编辑”,在编辑引擎端点页面中取消勾选“日志对接LTS”。
- 单击“确定”,完成端点与LTS的解绑。
端点解绑LTS后,若不再使用日志组和日志流中的日志,请及时清理,以免产生额外费用。

