中软国际数据治理专业服务解决方案实践

QL服务，提供毫秒级随机读写能力，适用于海量(半)结构化、时空、时序数据存储，可被广泛应用于物联网、车联网、金融、智慧城市、气象等行业。 CloudTable提供基于Doris全托管的实时数仓服务，仅需亚秒级响应时间即可返回海量数据下的查询结果，不仅可以支持高并发的点查询场景，也

查看更多 →

在lts页面根据日志组和日志流的ID来进入日志流，如图6。 图6 进入日志流 在日志流页面添加结构化配置，单击右上角的齿轮进行配置，如图7。 图7 日志流页面添加结构化配置 设置结构化配置，如图8。 图8 结构化配置 单击智能提取生成字段，如图9。 图9 智能提取字段 修改字段定义，单击进行修改，其中各字段介绍如下：

查看更多 →

修改结构化配置（不推荐） 功能介绍 该接口用于修改指定日志流下的结构化配置，由于参数较多且构建复杂，建议您使用8.9.2-修改结构化配置（推荐）。 调用方法 请参见如何调用API。 URI PUT /v2/{project_id}/lts/struct/template 表1 路径参数

查看更多 →

设置云端结构化字段 使用限制 结构化字段最大长度为16KB，超过部分会被截断。 设置结构化字段 在进行结构化配置字段提取之后，可对结构化字段进行设置，具体设置规则如下表。 表1 结构化字段设置规则 日志提取方式 字段名称 字段类型是否可修改 字段是否可删除 正则分析（自动生成） 用户自定义。

查看更多 →

QL服务，提供毫秒级随机读写能力，适用于海量(半)结构化、时空、时序数据存储，可被广泛应用于物联网、车联网、金融、智慧城市、气象等行业。 CloudTable提供基于Doris全托管的实时数仓服务，仅需亚秒级响应时间即可返回海量数据下的查询结果，不仅可以支持高并发的点查询场景，也

查看更多 →

Integer 最大解析层数（使用JSON方式结构化需要）。 最大值：3 tokenizer 否 String 分隔符（使用分隔符结构化时需要）。 log_format 否 String Nginx配置规则（使用分隔符结构化时需要）。 tag_fields 是 Array of TagField

查看更多 →

设置云端结构化解析日志 日志结构化概述 设置日志云端结构化解析 设置云端结构化字段 设置云端结构化自定义日志时间 设置云端结构化模板 结构化系统模板字段详情 父主题： 日志搜索与分析（默认推荐）

查看更多 →

设置云端结构化字段 使用限制 结构化字段最大长度为16KB，超过部分会被截断。 设置结构化字段 在进行结构化配置字段提取之后，可对结构化字段进行设置，具体设置规则如下表。 表1 结构化字段设置规则 日志提取方式 字段名称 字段类型是否可修改 字段是否可删除 正则分析（自动生成） 用户自定义。

查看更多 →

持消息数据、报表数据、推荐类数据、风控类数据、日志数据、订单数据等结构化、半结构化的KeyValue数据存储。 利用 DLI ，用户可方便地将海量数据高速、低时延写入HBase。 前提条件 该场景作业需要运行在DLI的独享队列上，因此要与HBase建立增强型跨源连接，且用户可以根据实际所需设置相应安全组规则。

查看更多 →

持消息数据、报表数据、推荐类数据、风控类数据、日志数据、订单数据等结构化、半结构化的KeyValue数据存储。 利用DLI，用户可方便地将海量数据高速、低时延写入HBase。 前提条件 该场景作业需要运行在DLI的独享队列上，因此要与HBase建立增强型跨源连接，且用户可以根据实际所需设置相应安全组规则。

查看更多 →

日志接入前，您可以提前了解ICAgent采集的结构化解析规则，方便您快速操作。需要ICAgent 5.12.147及以上版本，其优点是成本更低，支持组合解析，一个日志流的每个采集配置可以配置不同的结构化解析规则。 支持以下日志结构化解析规则： 单行-全文日志：采集的日志文件中，如

查看更多 →

创建 MRS 集群后，使用Hive对原始数据进行导入、分析等操作，展示了如何构建弹性、低成本的离线大数据分析。 方案架构 Hive是建立在Hadoop上的数据仓库框架，提供大数据平台批处理计算能力，能够对结构化/半结构化数据进行批量分析汇总完成数据计算。提供类似SQL的Hive Query

查看更多 →

NGINX结构化模板字段介绍 介绍NGINX接入日志结构化模板详情。 结构化模板日志详情 NGINX日志示例 表1 结构化模板示例 模板名称 示例日志 NGINX 192.168.1.101 - [27/Aug/2018:14:20:29 +0800] "GET http://www

查看更多 →

TOMCAT结构化模板字段介绍 介绍TOMCAT接入日志结构化模板详情。 结构化模板日志详情 TOMCAT日志示例 表1 结构化模板示例 模板名称 示例日志 TOMCAT 192.168.12.2 - - [07/Mar/2018:09:49:55 +0800] "GET /logHello/test

查看更多 →

HBase基本原理 数据存储使用HBase来承接，HBase是一个开源的、面向列（Column-Oriented）、适合存储海量非结构化数据或半结构化数据的、具备高可靠性、高性能、可灵活扩展伸缩的、支持实时数据读写的分布式存储系统。更多关于HBase的信息，请参见：https://hbase

查看更多 →

t算法，该算法可确保只要副本总数的一半以上可用，tablet就可以进行读写操作。例如，如果3个副本中有2个副本或5个副本中有3个副本可用，则tablet可用。即使主tablet出现故障，也可以通过只读的副tablet提供读取服务 支持结构化数据模型 通过结合所有以上属性，Kudu

查看更多 →

如何进行需求结构化管理 为什么要进行需求结构化管理？ 并不是说任何情况下都需要进行软件项目需求的结构化管理。如果只是事务性质的管理需求，也就是有需求了能记录、能跟踪状态、实现之后不需要继续跟踪、也不需要维护需求与需求之间的关联，那么不需要思考需求结构化管理这个问题。这种情况下，不

查看更多 →

查询结构化模板简略列表 功能介绍 该接口用于查询结构化模板简略列表。 调用方法 请参见如何调用API。 URI GET /v3/{project_id}/lts/struct/customtemplate/list 表1 路径参数 参数 是否必选 参数类型 描述 project_id

查看更多 →

算法，该算法可确保只要副本总数的一半以上可用，tablet就可以进行读写操作。例如，如果3个副本中有2个副本或5个副本中有3个副本可用，则tablet可用。即使主tablet出现故障，也可以通过只读的副tablet提供读取服务。 支持结构化数据模型。 通过结合所有以上属性，Kud

查看更多 →

算法，该算法可确保只要副本总数的一半以上可用，tablet就可以进行读写操作。例如，如果3个副本中有2个副本或5个副本中有3个副本可用，则tablet可用。即使主tablet出现故障，也可以通过只读的副tablet提供读取服务。 支持结构化数据模型。 通过结合所有以上属性，Kud

查看更多 →

数据湖 的本质，是由“数据存储架构+数据处理工具”组成的解决方案。 数据存储架构：要有足够的扩展性和可靠性，可以存储海量的任意类型的数据，包括结构化、半结构化和非结构化数据。 数据处理工具，则分为两大类： 第一类工具，聚焦如何把数据“搬到”湖里。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。 第二类工

查看更多 →