中软国际数据治理专业服务解决方案实践

从OBS读取 CS V数据 概述 从OBS（ 对象存储服务 ）中读取csv格式的数据。 输入 无 输出 数据集 参数说明 参数 参数说明 obs_data_path OBS中csv数据文件或数据所在文件夹的绝对路径，例如：obs://桶名称/文件夹/数据文件，obs://桶名称/文件夹 has_header

查看更多 →

如何配置CSV数据来源？ CSV文件的第一行为表头，文件的每一行都是一个数据记录，每个记录由一个或多个字段组成，用逗号分隔。在配置数据源的时候，保留CSV的首行作为表头，并且每一个列的列名需要和相应图表中要求的数据结构的字段名保持一致。

查看更多 →

保存CSV数据到OBS 概述 将csv格式的数据保存到OBS 输入 参数 子参数 参数说明 inputs dataframe inputs为字典类型，dataframe为pyspark中的DataFrame类型对象 输出 无 参数说明 参数 子参数 参数说明 output_file_path

查看更多 →

下步骤： 步骤1：创建并上传数据。将数据上传到对象存储服务OBS。 步骤2：使用 DLI 将CSV数据转换为Parquet数据。将CSV数据导入DLI，并将CSV数据转换为Parquet数据。 方案优势 提升查询性能 如果您在HDFS上拥有基于文本的数据文件或者表，而且正在使用Spark

查看更多 →

CSV Format 功能描述 CSV Format 允许我们基于CSV schema 进行解析和生成CSV 数据。目前的CSV schema 是基于table schema 推导出来的。 支持的Connector Kafka Upsert Kafka 参数说明 表1 参数 是否必选

查看更多 →

CSV Format 功能描述 CSV Format 允许我们基于CSV schema 进行解析和生成CSV 数据。目前的CSV schema 是基于table schema 推导出来的。 支持的Connector Kafka Upsert Kafka 参数说明 表1 参数 是否必选

查看更多 →

CSV Format 功能描述 CSV Format 允许我们基于CSV schema 进行解析和生成CSV 数据。目前的CSV schema 是基于table schema 推导出来的。更多具体使用可参考开源社区文档：CSV Format。 支持的Connector Kafka

查看更多 →

导出CSV、TXT数据到OBS 规划导出数据 创建OBS外表 执行导出 示例 父主题： 导出数据到OBS

查看更多 →

从OBS导入CSV、TXT数据 创建访问密钥（AK和SK） 上传数据到OBS 创建OBS外表 执行导入数据 处理导入错误 OBS导入数据示例 父主题： 从OBS并行导入数据

查看更多 →

read_csv("test.csv",index_col=0) df = df.replace(to_replace=r'[\n\r]', value=' ', regex=True, inplace=True) df.to_csv("output.csv") 样例 数据样本 5

查看更多 →

map 是 无 数据处理规则 将每行数据按照指定的分隔符，分隔成多个字段，供之后的转换算子使用。 当字段的值与实际的类型不匹配时，该行数据会成为脏数据。 输入字段列数不等于原始数据实际包含字段列数，该行数据会保存为脏数据。 样例 源文件如下图： 配置“CSV文件输入”算子，分隔符为“

查看更多 →

map 是 无 数据处理规则 将每行数据按照指定的分隔符，分隔成多个字段，供之后的转换算子使用。 当字段的值与实际的类型不匹配时，该行数据会成为脏数据。 输入字段列数不等于原始数据实际包含字段列数，该行数据会保存为脏数据。 样例 源文件如下图： 配置“CSV文件输入”算子，分隔符为“

查看更多 →

幕右侧的“数据”面板。 在“数据”面板中，配置如下相关参数。 数据源类型：设置为“CSV文件”。 选择已有数据连接：选择一个您已创建好的CSV文件数据连接。 图6 选择CSV文件数据连接 单击“预览结果”，数据响应成功后可查看结果。 图7 查看数据响应结果 根据响应数据的属性名称

查看更多 →

gaussdb_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

postgres_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

gaussdb_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

postgres_log FROM '/opt/data/pg_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

gaussdb_log FROM '/opt/data/gs_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

postgres_log FROM '/opt/data/gs_log/logfile.csv' WITH csv; 此处的日志名“logfile.csv”要换成实际生成的日志的名称。 简化输入 简化输入到CSV日志文件，可以通过如下操作： 设置log_filename和log_rotat

查看更多 →

脏数据导致CSV数据类型问题插入MySQL报错 问题描述 客户作业失败，提示invalid utf-8 charater string '' 故障分析 根据报错，考虑用户数据中存在脏数据，个别字段类型不匹配导致。 解决方案 后台排查客户sqoop日志，考虑客户源端数据类型格式问题导致异常

查看更多 →

Excel打开监控数据CSV文件乱码如何处理？ 用户使用 云监控服务 可以将监控数据导出为csv文件，而使用Excel工具打开该文件时，可能出现中文乱码的情况。这是因为云监控服务导出的csv文件使用了UTF-8编码格式，而Excel是以ANSI格式打开的，没有做编码识别。针对此问题有以下解决方案：

查看更多 →