端边云车联网Serverless数据湖解决方案

加工：用户可使用该应用预加工Excel文件。 文档远程下载 该类应用允许用户下载SFTP、FTP、OBS等非结构化数据。 下载：用户下载SFTP、FTP、OBS等非结构化数据。 图片预览 该类应用允许用户预览图片文件。 查看：用户可以使用该应用预览查看图片文件。 父主题： 空间管理员指南

查看更多 →

创建数据处理任务版本 功能介绍 创建数据处理任务版本。 调试 您可以在 API Explorer 中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI POST /v2/{project_id}/processor

查看更多 →

查询结构化日志（新版） 功能介绍 该接口用于查询指定日志流下的结构化日志内容（新版）。 新版查询功能支持的局点信息请参考用户指南-日志可视化里的可视化章节。数据聚合结果不超过100亿条。仅支持分析最近30天内的数据，30天以上的数据不支持SQL分析。如您有更大的使用需求，请提工单申请。

查看更多 →

在“选择模板”下，选择“自定义模板”，单击“新增结构化模板”，在“新增结构化模板”界面选择正则分析、JSON、分隔符或Nginx方式，进行配置，配置完成后输入模板名称，单击“确定”。完成自定义模板的保存，会在“自定义模板”下的模板列表看到该模板。 父主题： 云端结构化解析

查看更多 →

在“选择模板”下，选择“自定义模板”，单击“新增结构化模板”，在“新增结构化模板”界面选择正则分析、JSON、分隔符或Nginx方式，进行配置，配置完成后输入模板名称，单击“确定”。完成自定义模板的保存，会在“自定义模板”下的模板列表看到该模板。 父主题： 设置云端结构化解析日志

查看更多 →

创建结构化配置（推荐） 功能介绍 该接口通过结构化模板创建结构化配置，便于参数提取且简化参数结构，推荐您使用。 单个用户每秒仅能调用1次该接口。 调用方法 请参见如何调用API。 URI POST /v3/{project_id}/lts/struct/template 表1 路径参数

查看更多 →

修改结构化配置（推荐） 功能介绍 该接口通过结构化模板修改结构化配置 调用方法 请参见如何调用API。 URI PUT /v3/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

离线作业服务开发 非结构化 非结构化数据服务支持文件的传输配置。通过文件传输配置能够将相应的文件资源传输给消费方。其主要功能包括： 新建文件传输配置。 编辑文件传输配置。 删除文件传输配置。 文件传输配置支持一对一、一对多传输；支持文件传输策略的配置。 图5 非结构化1 图6 非结构化2 订阅任务开发

查看更多 →

查询数据处理的算法类别 功能介绍 查询数据处理的算法类别。 调试 您可以在API Explorer中调试该接口，支持自动认证鉴权。API Explorer可以自动生成SDK代码示例，并提供SDK代码示例调试功能。 URI GET /v2/{project_id}/processor-tasks/items

查看更多 →

数据处理预置算子说明 数据校验 数据清洗 数据选择 数据增强

查看更多 →

个人数据处理说明 个人数据清单 使用目的 存留期 用户屏幕图像 投屏中屏幕镜像信息投放 IdeaShare不保存个人数据 用户音频输出口 投屏中音频信息投放 用户IP地址 投屏连接

查看更多 →

集中存储各类结构化和非结构化数据的大型 数据仓库 ，它可以存储来自多个数据源、多种数据类型的原始数据，数据无需经过结构化处理，就可以进行存取、处理、分析和传输。 数据湖 能帮助企业快速完成异构数据源的联邦分析、挖掘和探索数据价值。 数据湖的本质，是由“数据存储架构+数据处理工具”组成的解决方案。

查看更多 →

表格类型的数据集如何标注 表格类型的数据集适合表格等结构化数据处理。数据格式支持csv。不支持标注，支持对部分表格数据进行预览，但是最多支持100条数据预览。 父主题： 数据管理（旧版）

查看更多 →

用户项目ID。获取方法请参见获取项目ID和名称。 task_id 是 String 数据处理任务ID。 version_id 是 String 数据处理任务的版本ID。 请求参数 无 响应参数 无 请求示例 停止数据处理任务的版本 POST https://{endpoint}/v2/{pr

查看更多 →

alpaca_ft_packed_labels_document.bin alpaca_ft_packed_labels_document.idx 数据处理具体操作 SFT全参微调数据处理具体操作步骤如下。 创建处理后的数据存放目录/home/ma-user/ws/processed_for_ma_inpu

查看更多 →

在字段提取完成后，可对日志模板进行设置。结构化字段设置规则请参考设置结构化字段。 单击“保存”，完成日志结构化配置，初次设置完成后将不能对字段类型编辑修改。 结构化模板 结构化模板是通过自定义模板或系统内置模板提取字段。 详情请参考结构化模板。 父主题： 云端结构化解析

查看更多 →

在字段提取完成后，可对日志模板进行设置。结构化字段设置规则请参考设置结构化字段。 单击“保存”，完成日志结构化配置，初次设置完成后将不能对字段类型编辑修改。 结构化模板 结构化模板是通过自定义模板或系统内置模板提取字段。 详情请参考结构化模板。 父主题： 设置云端结构化解析日志

查看更多 →

Integer 最大解析层数（使用JSON方式结构化需要）。 最大值：3 tokenizer 否 String 分隔符（使用分隔符结构化时需要）。 log_format 否 String Nginx配置规则（使用分隔符结构化时需要）。 tag_fields 是 Array of TagField

查看更多 →

特定结构化数据函数 本文介绍特定结构化数据函数的语法规则，包括参数解释、函数示例等。 类型 函数 说明 JSON json_select 根据JMES语法提取或计算JSON表达式中特定的值。 json_parse 将值解析为JSON对象。 XML xml_to_json 将xml数据转成JSON数据。

查看更多 →

设置云端结构化解析日志 日志结构化概述 设置日志云端结构化解析 设置云端结构化字段 设置云端结构化自定义日志时间 设置云端结构化模板 结构化系统模板字段详情 父主题： 日志搜索与分析（默认推荐）

查看更多 →

设置云端结构化字段 使用限制 结构化字段最大长度为16KB，超过部分会被截断。 设置结构化字段 在进行结构化配置字段提取之后，可对结构化字段进行设置，具体设置规则如下表。 表1 结构化字段设置规则 日志提取方式 字段名称 字段类型是否可修改 字段是否可删除 正则分析（自动生成） 用户自定义。

查看更多 →