中软国际数据治理专业服务解决方案实践

结构化数据增量包可提供20GB的结构化数据容量。 文件数据增量包(500GB)：此类型增量包可对节点的文件数据容量进行扩容。单个文件数据增量包可提供500GB的文件数据容量。 基线数据增量包(20GB*2)：此类型增量包可对节点的基线数据容量进行扩容。单个基线数据增量包可提供40GB的基线数据容量。

查看更多 →

创建结构化配置（推荐） 功能介绍 该接口通过结构化模板创建结构化配置，便于参数提取且简化参数结构，推荐您使用。 单个用户每秒仅能调用1次该接口。 调用方法 请参见如何调用API。 URI POST /v3/{project_id}/lts/struct/template 表1 路径参数

查看更多 →

引擎，对其储存结构化数据（RDS）和非结构化数据（OBS）进行扫描、分类、分级，解决数据“盲点”，以此做进一步安全防护。 新建敏感数据识别任务 数据脱敏 DSC的数据脱敏支持静态脱敏和动态脱敏。您可以对指定数据配置脱敏规则实现敏感数据静态脱敏，同时，您也可以使用数据动态脱敏的AP

查看更多 →

数据集成概述、工具介绍及入湖范围 概述 数据集成是指将政府部门IT系统中的业务源数据按需通过全量或者增量的方式接入数管平台中，并确保数据的一致性、有效性及适用性。源数据种类可包括结构化数据、非结构化数据。在本次数据治理实施项目中，使用到的数据集成工具为 CDM 云数据迁移工具。 该过

查看更多 →

在界面上方的坐标图中，默认以折线图的形式展示该租户下按天统计的数据资产的变化趋势。数据资产包括数据模型、业务数据和数据准备模板。 在界面下方的表中，展示某一天的数据详细信息。 业务数据部分，对于非结构化数据展示到文件粒度，结构化数据展示到表粒度；数据模型和数据准备模板均只展示名称信息。 在界面上方的坐

查看更多 →

力。 画像数据存储和查询 应用场景： 画像通常用一些标签来刻画自然人/物的特征，而每一个自然人/物所拥有的标签集合是不确定的，数据更新非常频繁，这类数据被广泛应用于市场决策、推荐以及广告系统中。 优势 稀疏矩阵 HBase的稀疏矩阵模型，天然适合非结构化数据的存储，数据表无需预先

查看更多 →

数据或非结构化数据）中抽取结构化的信息。 在 知识图谱服务 中，需要通过输入实体类型、抽取函数及抽取前后的数据字段，或创建信息抽取模型来配置信息抽取。 知识映射 知识映射是建立从基础数据抽取出的结构化信息与 知识图谱 本体的映射关系，例如抽取出的有关电影结构化信息与图谱本体映射关系如图2所示。

查看更多 →

修改结构化配置（推荐） 功能介绍 该接口通过结构化模板修改结构化配置 调用方法 请参见如何调用API。 URI PUT /v3/{project_id}/lts/struct/template 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String

查看更多 →

规范检测和物品摆放的无人巡检。 预测分析 预测分析项目，是一种针对结构化数据的模型自动训练应用，能够对结构化数据进行分类或者数据预测。可用于用户画像分析，实现精准营销。也可应用于制造设备预测性维护，根据设备实时数据的分析，进行故障识别。 声音分类 声音分类项目，是识别一段音频中是

查看更多 →

敏感数据识别概述 敏感数据自动识别分类，从海量数据中自动发现并分析敏感数据使用情况，基于数据识别引擎，对其储存结构化数据（RDS、DWS等）和非结构化数据（OBS）进行扫描、分类、分级，解决数据“盲点”，以此做进一步安全防护。 使用约束 对于 MRS 中的HIVE数据，在敏感数据识别

查看更多 →

操作符函数 解析函数 资源函数 字典函数 列表函数 编码解码函数 IP解析函数 特定结构化数据函数 正则表达式函数 日期时间函数 字符串函数 算术函数 转换函数 操作符函数 事件检查函数 父主题： DSL数据加工语法（邀测）

查看更多 →

Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HiveQL语言操作结构化数据，其基本原理是将HiveQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下： 通过HiveQL语言非常容易的完成数据提取、转换和加载（ETL）。

查看更多 →

在字段提取完成后，可对日志模板进行设置。结构化字段设置规则请参考设置结构化字段。 单击“保存”，完成日志结构化配置，初次设置完成后将不能对字段类型编辑修改。 结构化模板 结构化模板是通过自定义模板或系统内置模板提取字段。 详情请参考结构化模板。 父主题： 云端结构化解析

查看更多 →

在字段提取完成后，可对日志模板进行设置。结构化字段设置规则请参考设置结构化字段。 单击“保存”，完成日志结构化配置，初次设置完成后将不能对字段类型编辑修改。 结构化模板 结构化模板是通过自定义模板或系统内置模板提取字段。 详情请参考结构化模板。 父主题： 设置云端结构化解析日志

查看更多 →

规范检测和物品摆放的无人巡检。 预测分析 预测分析项目，是一种针对结构化数据的模型自动训练应用，能够对结构化数据进行分类或者数据预测。可用于用户画像分析，实现精准营销。也可应用于制造设备预测性维护，根据设备实时数据的分析，进行故障识别。 声音分类 声音分类项目，是识别一段音频中是

查看更多 →

totalFileNumRawData：原始数据总文件数。 double totalSizeRawData：非结构化数据总大小。 String rawDataStatistics：原始数据统计。 int totalFileNumStruData：结构化数据总文件数。 double tota

查看更多 →

资源成本：空间实例、连接器、结构化数据增量包和非结构化数据增量包的成本，这取决于交换数据空间的计费项，详细介绍请参见计费项。 运维成本：使用交换数据空间EDS过程中产生的人力成本。 图1 EDS成本 成本分配 成本管理的基础是树立成本责任制，让各部门、各业务团队、各责任人参与进来

查看更多 →

totalFileNumRawData：原始数据总文件数。 double totalSizeRawData：非结构化数据总大小。 String rawDataStatistics：原始数据统计。 int totalFileNumStruData：结构化数据总文件数。 double tota

查看更多 →

Hive是一个开源的，建立在Hadoop上的数据仓库框架，提供类似SQL的HQL语言操作结构化数据，其基本原理是将HQL语言自动转换成MapReduce任务或Spark任务，从而完成对Hadoop集群中存储的海量数据进行查询和分析。 Hive主要特点如下： 通过HQL语言非常容易的完成数据提取、转换和加载（ETL）。

查看更多 →

Integer 最大解析层数（使用JSON方式结构化需要）。 最大值：3 tokenizer 否 String 分隔符（使用分隔符结构化时需要）。 log_format 否 String Nginx配置规则（使用分隔符结构化时需要）。 tag_fields 是 Array of TagField

查看更多 →

设置云端结构化解析日志 日志结构化概述 设置日志云端结构化解析 设置云端结构化字段 设置云端结构化自定义日志时间 设置云端结构化模板 结构化系统模板字段详情 父主题： 日志搜索与分析（默认推荐）

查看更多 →