中软国际数据治理专业服务解决方案实践

非结构化数据创建图谱 创建图谱简介 创建信息抽取模型 使用自定义抽取模型创建图谱

查看更多 →

表8 TemplateRule 参数 参数类型 描述 type String 结构化类型，只支持custom_regex,json,split,nginx param String 具体结构化规则，每种结构化类型都有自己独有的结构，具体结构如下： 手动正则为json字符串，包含key

查看更多 →

删除结构化配置 功能介绍 该接口用于删除指定日志流下的结构化配置。 调用方法 请参见如何调用API。 URI DELETE /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

云端结构化配置 创建结构化配置（推荐） 修改结构化配置（推荐） 删除结构化配置 查询结构化配置 查询结构化模板简略列表 查询结构化模板 创建结构化配置（不推荐） 修改结构化配置（不推荐） 父主题： API说明

查看更多 →

查询结构化配置 功能介绍 该接口用于查询指定日志流下的结构化配置内容。 调用方法 请参见如何调用API。 URI GET /v2/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

pe”，即可查看到可抽取的主语、谓语、宾语组合。 图2 抽取模型 单击“保存”，完成信息抽取。 如果创建多个数据源，请完成所有数据源的信息抽取配置。配置数据源请参见配置数据源。 后续操作 配置信息抽取后，进入创建图谱的下一步操作配置知识映射。 父主题： 配置信息抽取

查看更多 →

测量、物联网数据、金融数据和科学实验结果数据的收集监控。 表格存储服务 （CloudTable），是基于Apache HBase提供的分布式、可伸缩、全托管的KeyValue数据存储服务，为 DLI 提供了高性能的随机读写能力，适用于海量结构化数据、半结构化数据以及时序数据的存储和查询

查看更多 →

测量、物联网数据、金融数据和科学实验结果数据的收集监控。 表格存储 服务（CloudTable），是基于Apache HBase提供的分布式、可伸缩、全托管的KeyValue数据存储服务，为DLI提供了高性能的随机读写能力，适用于海量结构化数据、半结构化数据以及时序数据的存储和查询

查看更多 →

MD5校验文件一致性 字段转换器配置指导 新增字段操作指导 指定文件名迁移 正则表达式分隔半结构化文本 记录数据迁移入库时间 文件格式介绍 不支持数据类型转换规避指导 自动建表原理介绍 父主题： 数据集成（ CDM 作业）

查看更多 →

数据迁移进阶实践 增量迁移原理介绍 时间宏变量使用解析 事务模式迁移 迁移文件时加解密 MD5校验文件一致性 字段转换器配置指导 新增字段操作指导 指定文件名迁移 正则表达式分隔半结构化文本 记录数据迁移入库时间 文件格式介绍 不支持数据类型转换规避指导

查看更多 →

它能够让您快速深入了解大数据，并让您在Hadoop生态系统中更好地开展工作。 方案架构 Hive是建立在Hadoop上的数据仓库框架，提供大数据平台批处理计算能力，能够对结构化/半结构化数据进行批量分析汇总完成数据计算。提供类似SQL的Hive Query Language语言操作结构化数据，其基

查看更多 →

事务模式迁移 迁移文件时加解密 MD5校验文件一致性 字段转换器配置指导 新增字段操作指导 指定文件名迁移 正则表达式分隔半结构化文本 记录数据迁移入库时间 文件格式介绍 不支持数据类型转换规避指导 自动建表原理介绍

查看更多 →

增量迁移原理介绍 时间宏变量使用解析 事务模式迁移 迁移文件时加解密 MD5校验文件一致性 字段转换器配置指导 指定文件名迁移 正则表达式分隔半结构化文本 记录数据迁移入库时间 文件格式介绍

查看更多 →

MRS 支持用户将数据存储在OBS服务中，使用MRS集群仅作数据计算处理的存算分离场景。 用户通过IAM服务的“委托”机制进行简单配置，即可实现OBS的访问。 方案架构 Hive是建立在Hadoop上的数据仓库框架，提供大数据平台批处理计算能力，能够对结构化/半结构化数据进行批量分析汇

查看更多 →

修改结构化配置（推荐） 功能介绍 该接口通过结构化模板修改结构化配置 调用方法 请参见如何调用API。 URI PUT /v3/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

如何用ModelArts训练基于结构化数据的模型？ 针对一般用户，ModelArts提供自动学习的预测分析场景来完成结构化数据的模型训练。 针对高阶用户，ModelArts在开发环境提供创建Notebook进行代码开发的功能，在训练作业提供创建大数据量训练任务的功能；用户在开发、训

查看更多 →

设置云端结构化模板 云日志服务（LTS）目前支持的结构化模板有两种，分别为系统模板和自定义模板。 系统模板 支持多种系统模板，不支持修改系统模板的字段类型和删除字段，详情请参考表1。 在云端结构化解析页面中，日志结构化方式选择“结构化模板”。 在“选择模板”下，选择“系统模板”，

查看更多 →

设置云端结构化模板 云日志服务（LTS）目前支持的结构化模板有两种，分别为系统模板和自定义模板。 系统模板 支持多种系统模板，不支持修改系统模板的字段类型和删除字段，详情请参考表1。 在云端结构化解析页面中，日志结构化方式选择“结构化模板”。 在“选择模板”下，选择“系统模板”，

查看更多 →

查询结构化日志（新版） 功能介绍 该接口用于查询指定日志流下的结构化日志内容（新版）。 新版查询功能支持的局点信息请参考用户指南-日志可视化里的可视化章节。数据聚合结果不超过100亿条。仅支持分析最近30天内的数据，30天以上的数据不支持SQL分析。如您有更大的使用需求，请提工单申请。

查看更多 →

创建结构化配置（推荐） 功能介绍 该接口通过结构化模板创建结构化配置，便于参数提取且简化参数结构，推荐您使用。 单个用户每秒仅能调用1次该接口。 调用方法 请参见如何调用API。 URI POST /v3/{project_id}/lts/struct/template 表1 路径参数

查看更多 →

在lts页面根据日志组和日志流的ID来进入日志流，如图6。 图6 进入日志流 图7 进入日志流 在日志流页面添加结构化配置，单击右上角的齿轮进行配置，如图8。 图8 日志流页面添加结构化配置 设置结构化配置，如图9。 图9 结构化配置 单击智能提取生成字段，如图10。 图10 智能提取字段 修改字段定义，单击进行修改，其中各字段介绍如下：

查看更多 →