中软国际数据治理专业服务解决方案实践

如何配置 CS V数据来源？ CSV文件的第一行为表头，文件的每一行都是一个数据记录，每个记录由一个或多个字段组成，用逗号分隔。在配置数据源的时候，保留CSV的首行作为表头，并且每一个列的列名需要和相应图表中要求的数据结构的字段名保持一致。

查看更多 →

下步骤： 步骤1：创建并上传数据。将数据上传到 对象存储服务 OBS。 步骤2：使用 DLI 将CSV数据转换为Parquet数据。将CSV数据导入DLI，并将CSV数据转换为Parquet数据。 方案优势 提升查询性能 如果您在HDFS上拥有基于文本的数据文件或者表，而且正在使用Spark

查看更多 →

CSV Format 功能描述 CSV Format 允许我们基于CSV schema 进行解析和生成CSV 数据。目前的CSV schema 是基于table schema 推导出来的。 支持的Connector Kafka Upsert Kafka 参数说明 表1 参数 是否必选

查看更多 →

CSV Format 功能描述 CSV Format 允许我们基于CSV schema 进行解析和生成CSV 数据。目前的CSV schema 是基于table schema 推导出来的。 支持的Connector Kafka Upsert Kafka 参数说明 表1 参数 是否必选

查看更多 →

CSV Format 功能描述 CSV Format 允许我们基于CSV schema 进行解析和生成CSV 数据。目前的CSV schema 是基于table schema 推导出来的。更多具体使用可参考开源社区文档：CSV Format。 支持的Connector Kafka

查看更多 →

导出CSV、TXT数据到OBS 规划导出数据 创建OBS外表 执行导出 示例 父主题： 导出数据到OBS

查看更多 →

从OBS导入CSV、TXT数据 创建访问密钥（AK和SK） 上传数据到OBS 创建OBS外表 执行导入数据 处理导入错误 OBS导入数据示例 父主题： 从OBS并行导入数据

查看更多 →

map 是 无 数据处理规则 将每行数据按照指定的分隔符，分隔成多个字段，供之后的转换算子使用。 当字段的值与实际的类型不匹配时，该行数据会成为脏数据。 输入字段列数不等于原始数据实际包含字段列数，该行数据会保存为脏数据。 样例 源文件如下图： 配置“CSV文件输入”算子，分隔符为“

查看更多 →

map 是 无 数据处理规则 将每行数据按照指定的分隔符，分隔成多个字段，供之后的转换算子使用。 当字段的值与实际的类型不匹配时，该行数据会成为脏数据。 输入字段列数不等于原始数据实际包含字段列数，该行数据会保存为脏数据。 样例 源文件如下图： 配置“CSV文件输入”算子，分隔符为“

查看更多 →

幕右侧的“数据”面板。 在“数据”面板中，配置如下相关参数。 数据源类型：设置为“CSV文件”。 选择已有数据连接：选择一个您已创建好的CSV文件数据连接。 图6 选择CSV文件数据连接 单击“预览结果”，数据响应成功后可查看结果。 图7 查看数据响应结果 根据响应数据的属性名称

查看更多 →

解析CSV格式日志 本文档介绍在解析Syslog或者其他文本格式时，针对数据中以特殊字符分隔的格式如何进行解析。 解析正常形式的CSV格式日志 原始日志： { "program":"access", "severity":6, "priority":14, "facility":1

查看更多 →

创建并配置数据入图任务（CSV文件） 通过在LinkX-F中创建CSV文件类型的数据入图任务，您可以实现将指定模型源端CSV文件中对应的实例数据写入到目标端指定的图数据库中。 图1 数据入图任务配置流程图（CSV文件） 前提条件 已获取开发人员及以上权限用户的账号和密码。 步骤1：定义任务信息

查看更多 →

postgres_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

gaussdb_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

gaussdb_log FROM '/opt/data/gs_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

gaussdb_log FROM '/opt/data/gs_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

gaussdb_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

postgres_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

脏数据导致CSV数据类型问题插入MySQL报错 问题描述 客户作业失败，提示invalid utf-8 charater string '' 故障分析 根据报错，考虑用户数据中存在脏数据，个别字段类型不匹配导致。 解决方案 后台排查客户sqoop日志，考虑客户源端数据类型格式问题导致异常

查看更多 →

Excel打开监控数据CSV文件乱码如何处理？ 用户使用 云监控服务 可以将监控数据导出为csv文件，而使用Excel工具打开该文件时，可能出现中文乱码的情况。这是因为云监控服务导出的csv文件使用了UTF-8编码格式，而Excel是以ANSI格式打开的，没有做编码识别。针对此问题有以下解决方案：

查看更多 →

您分散存储数据，面临日志数据不完善时，您可以从OBS中获取数据。日志服务数据加工支持使用res_obs_file函数从OSS中获取数据，再使用tab_parse_csv函数构建表格，最后使用e_table_map函数进行字段匹配，返回指定字段和字段值，生成新的日志数据。 实践案例

查看更多 →