端边云车联网Serverless数据湖解决方案

服务”的内容。 假设某用户于2023年7月1日对15TB数据做图片处理。由于数据处理费用无适用的资源包，则按照按需计费方式分析如下。 0~10TB范围内的数据免费，因此该用户的数据处理费用为： 数据处理费用= (15TB - 10TB) * 1024 * 0.025元/GB = 128元

查看更多 →

非结构化抽取 前提条件 已创建图谱并选择图谱规格，请参见购买 知识图谱 。 已创建并选择本体，详情请参见配置图谱本体。 已完成数据源配置，详情请参见配置数据源。 如果选择使用自己自定义模型，您需要在创建知识图谱之前，自定义用于信息抽取的模型，具体操作请见自定义信息抽取模型。 操作步骤

查看更多 →

查询结构化配置 功能介绍 该接口用于查询指定日志流下的结构化配置内容。 调用方法 请参见如何调用API。 URI GET /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

完成后，单击“保存”。 修改结构化配置 结构化配置创建完成后，如果您需要修改结构化配置时，操作步骤如下： 在结构化配置页面中，单击，可修改结构化配置。 修改结构化配置支持修改结构化方式、日志提取字段和tag字段等。 系统模板不支持修改。 完成后，单击“保存”。 删除结构化配置 如果日志结构化配置不再

查看更多 →

时序数据处理 缺失时间填充 时序序列是在连续的等间隔时间点采集的序列，缺失时间填充即根据已知的时间信息，补充缺失的时间。缺失时间填充完成后，其值可通过“数据处理 > 数据清洗 > 空值填充”菜单，进行空值填充。 操作步骤如下所示。 单击界面右上角的图标，选择“数据处理 > 时序数据处理

查看更多 →

栅格数据处理 打开 SuperMap iDesktop 图1 打开 在数据的数据处理选项卡下面选择重分级，选择源数据，设置参数 图2 设置参数 执行完成后在数据源下面新生成数据集result_reclass 图3 新生成数据集 在数据的数据处理选项卡下面选择重采样，选择源数据，设置参数采样模式

查看更多 →

alpaca_ft_packed_labels_document.bin alpaca_ft_packed_labels_document.idx 数据处理具体操作 SFT全参微调数据处理具体操作步骤如下。 创建处理后的数据存放目录/home/ma-user/ws/processed_for_ma_inpu

查看更多 →

lpaca/GLM3-6B/alpaca_text_document， 不加文件类型后缀。 Alpaca数据处理操作步骤 Alpaca数据处理具体操作步骤如下： 创建数据处理后的输出目录/home/ma-user/ws/processed_for_ma_input/GLM3-6B/data/pretrain/。

查看更多 →

参数类型 描述 type String 结构化类型，只支持custom_regex,json,split,nginx 枚举值： custom_regex json split nginx param String 具体结构化规则，每种结构化类型都有自己独有的结构，具体结构如下：手

查看更多 →

删除结构化配置 功能介绍 该接口用于删除指定日志流下的结构化配置。 调用方法 请参见如何调用API。 URI DELETE /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

云端结构化配置 创建结构化配置（推荐） 修改结构化配置（推荐） 删除结构化配置 查询结构化配置 查询结构化模板简略列表 查询结构化模板 创建结构化配置（不推荐） 修改结构化配置（不推荐） 父主题： API说明

查看更多 →

配置结构化规则 日志数据可分为结构化数据和非结构化数据。结构化数据指能够用数字或统一的数据模型加以描述的数据，具有严格的长度和格式。非结构化数据指不便于用数据库二维逻辑表来表现的数据，数据结构不规则或不完整，没有预定义的数据模型。 日志结构化是以日志流为单位，通过不同的日志提取方

查看更多 →

云端结构化解析 日志结构化概述 设置日志云端结构化解析 设置云端结构化模板 设置云端结构化字段 设置云端结构化自定义日志时间 父主题： 日志搜索与分析（管道符方式-邀测）

查看更多 →

完成后，单击“保存”。 修改结构化配置 结构化配置创建完成后，如果您需要修改结构化配置时，操作步骤如下： 在结构化配置页面中，单击，可修改结构化配置。 修改结构化配置支持修改结构化方式、日志提取字段和tag字段等。 系统模板不支持修改。 完成后，单击“保存”。 删除结构化配置 如果日志结构化配置不再

查看更多 →

数据处理支持什么类型脚本？ 目前数据处理仅支持Python脚本。数据处理集成了华为公有云ModelArts服务的引擎，用来执行用户自编码的Python脚本。 父主题： 数据处理

查看更多 →

登录ModelArts管理控制台，在左侧的导航栏中选择“数据管理>数据处理”，进入“数据处理”页面。 数据管理模块在重构升级中，对未使用过数据管理的用户不可见。如果要使用数据管理相关功能，建议提交工单开通权限。 在“数据处理”页面，单击“创建”进入“创建数据处理”页面。 在创建数据处理页面，填写相关算法参数。 填写

查看更多 →

ca/llama2-70B/alpaca_text_document， 不加文件类型后缀。 Alpaca数据处理操作步骤 Alpaca数据处理具体操作步骤如下： 创建数据处理后的输出目录/home/ma-user/ws/processed_for_ma_input/Llama2-70B/data/pretrain/。

查看更多 →

paca/qwen-14b/alpaca_text_document， 不加文件类型后缀。 Alpaca数据处理操作步骤 Alpaca数据处理具体操作步骤如下： 创建数据处理后的输出目录/home/ma-user/ws/processed_for_ma_input/Qwen-14B/data/pretrain/。

查看更多 →

创建结构化配置（推荐） 功能介绍 该接口通过结构化模板创建结构化配置，便于参数提取且简化参数结构，推荐您使用。 单个用户每秒仅能调用1次该接口。 调用方法 请参见如何调用API。 URI POST /v3/{project_id}/lts/struct/template 表1 路径参数

查看更多 →

查询结构化日志（新版） 功能介绍 该接口用于查询指定日志流下的结构化日志内容（新版）。 新版查询功能支持的局点信息请参考用户指南-日志可视化里的可视化章节。数据聚合结果不超过100亿条。仅支持分析最近30天内的数据，30天以上的数据不支持SQL分析。如您有更大的使用需求，请提工单申请。

查看更多 →

在“选择模板”下，选择“自定义模板”，单击“新增结构化模板”，在“新增结构化模板”界面选择正则分析、JSON、分隔符或Nginx方式，进行配置，配置完成后输入模板名称，单击“确定”。完成自定义模板的保存，会在“自定义模板”下的模板列表看到该模板。 父主题： 云端结构化解析

查看更多 →