中软国际数据治理专业服务解决方案实践

正则表达式分隔半结构化文本 在创建表/文件迁移作业时，对简单 CS V格式的文件， CDM 可以使用字段分隔符进行字段分隔。但是对于一些复杂的半结构化文本，由于字段值也包含了分隔符，所以无法使用分隔符进行字段分隔，此时可以使用正则表达式分隔。 正则表达式参数在源端作业参数中配置，要求源连接

查看更多 →

查询结构化配置 功能介绍 该接口用于查询指定日志流下的结构化配置内容。 调用方法 请参见如何调用API。 URI GET /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

删除结构化配置 功能介绍 该接口用于删除指定日志流下的结构化配置。 调用方法 请参见如何调用API。 URI DELETE /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

云端结构化配置 创建结构化配置（推荐） 修改结构化配置（推荐） 删除结构化配置 查询结构化配置 查询结构化模板简略列表 查询结构化模板 创建结构化配置（不推荐） 修改结构化配置（不推荐） 父主题： API说明

查看更多 →

配置结构化规则 日志数据可分为结构化数据和非结构化数据。结构化数据指能够用数字或统一的数据模型加以描述的数据，具有严格的长度和格式。非结构化数据指不便于用数据库二维逻辑表来表现的数据，数据结构不规则或不完整，没有预定义的数据模型。 日志结构化是以日志流为单位，通过不同的日志提取方

查看更多 →

正则表达式分隔半结构化文本 在创建表/文件迁移作业时，对简单CSV格式的文件，CDM可以使用字段分隔符进行字段分隔。但是对于一些复杂的半结构化文本，由于字段值也包含了分隔符，所以无法使用分隔符进行字段分隔，此时可以使用正则表达式分隔。 正则表达式参数在源端作业参数中配置，要求源连接

查看更多 →

正则表达式分隔半结构化文本 在创建表/文件迁移作业时，对简单CSV格式的文件，CDM可以使用字段分隔符进行字段分隔。但是对于一些复杂的半结构化文本，由于字段值也包含了分隔符，所以无法使用分隔符进行字段分隔，此时可以使用正则表达式分隔。 正则表达式参数在源端作业参数中配置，要求源连接

查看更多 →

正则表达式分隔半结构化文本 在创建表/文件迁移作业时，对简单CSV格式的文件，CDM可以使用字段分隔符进行字段分隔。但是对于一些复杂的半结构化文本，由于字段值也包含了分隔符，所以无法使用分隔符进行字段分隔，此时可以使用正则表达式分隔。 正则表达式参数在源端作业参数中配置，要求源连接

查看更多 →

创建结构化配置（推荐） 功能介绍 该接口通过结构化模板创建结构化配置，便于参数提取且简化参数结构，推荐您使用。 单个用户每秒仅能调用1次该接口。 调用方法 请参见如何调用API。 URI POST /v3/{project_id}/lts/struct/template 表1 路径参数

查看更多 →

成。 字段选择器 左侧为外部数据源传入的全部元数据，勾选所需数据字段，单击，将所选数据移到右侧输出字段中。 赋值 数据赋值器，可将缓存中的对象数据、传入的外部数据源数据、某个常量数据或者数据取表达式值赋值给某参数。 图8 赋值器配置 表6 赋值器配置参数说明表 参数 参数说明 标签

查看更多 →

名称：投影在系统中的唯一标识，创建后不可修改。 字段选择器：左侧为外部数据源传入的全部元数据，勾选所需数据字段，单击将所选数据移到右侧输出字段中。 赋值：数据赋值器，可将缓存中的对象数据、传入的外部数据源数据、某个常量数据或者数据取表达式的值，赋值给某参数。 图9 赋值器配置 标签：赋值器的标签名，用于在页面展示。

查看更多 →

修改结构化配置（推荐） 功能介绍 该接口通过结构化模板修改结构化配置 调用方法 请参见如何调用API。 URI PUT /v3/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

如何用ModelArts训练基于结构化数据的模型？ 针对一般用户，ModelArts提供自动学习的预测分析场景来完成结构化数据的模型训练。 针对高阶用户，ModelArts在开发环境提供创建Notebook进行代码开发的功能，在训练作业提供创建大数据量训练任务的功能；用户在开发、

查看更多 →

创建结构化配置（不推荐） 功能介绍 该接口用于创建指定日志流下的结构化配置。 调用方法 请参见如何调用API。 URI POST /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

在lts页面根据日志组和日志流的ID来进入日志流，如图6。 图6 进入日志流 在日志流页面添加结构化配置，单击右上角的齿轮进行配置，如图7。 图7 日志流页面添加结构化配置 设置结构化配置，如图8。 图8 结构化配置 单击智能提取生成字段，如图9。 图9 智能提取字段 修改字段定义，单击进行修改，其中各字段介绍如下：

查看更多 →

修改结构化配置（不推荐） 功能介绍 该接口用于修改指定日志流下的结构化配置，由于参数较多且构建复杂，建议您使用8.9.2-修改结构化配置（推荐）。 调用方法 请参见如何调用API。 URI PUT /v2/{project_id}/lts/struct/template 表1 路径参数

查看更多 →

如何配置CSV数据来源？ CSV文件的第一行为表头，文件的每一行都是一个数据记录，每个记录由一个或多个字段组成，用逗号分隔。在配置数据源的时候，保留CSV的首行作为表头，并且每一个列的列名需要和相应图表中要求的数据结构的字段名保持一致。

查看更多 →

HBase集群管理简介 CloudTable集群模式提供了基于Apache HBase的分布式、可伸缩、全托管的NoSQL数据存储系统，它提供了毫秒级的随机读写能力，适用于海量结构化数据、半结构化数据存储和查询应用。 HBase集群管理下，用户申请专属集群，按需使用，专属集群是完全物理隔离且不受其他业

查看更多 →

HBase支持消息数据、报表数据、推荐类数据、风控类数据、日志数据、订单数据等结构化、半结构化的KeyValue数据存储。 利用 DLI ，用户可方便地将海量数据高速、低时延写入HBase。 表格存储服务 （CloudTable），是基于Apache HBase提供的分布式、可伸缩、全

查看更多 →

HBase支持消息数据、报表数据、推荐类数据、风控类数据、日志数据、订单数据等结构化、半结构化的KeyValue数据存储。 利用DLI，用户可方便地将海量数据高速、低时延写入HBase。 表格存储 服务（CloudTable），是基于Apache HBase提供的分布式、可伸缩、全

查看更多 →

特定结构化数据函数 本文介绍特定结构化数据函数的语法规则，包括参数解释、函数示例等。 类型 函数 说明 JSON json_select 根据JMES语法提取或计算JSON表达式中特定的值。 json_parse 将值解析为JSON对象。 XML xml_to_json 将xml数据转成JSON数据。

查看更多 →