中软国际数据治理专业服务解决方案实践

gds_ctl 背景信息 gds_ctl是一个批量控制GDS启停的脚本工具，一次执行可以在多个节点上启动/停止相同端口的GDS服务进程，并在启动时为每一个进程设置看护程序，用于看护GDS进程。 注意事项 执行脚本前需切换到GDS用户，必须在普通用户下执行脚本gds_ctl。 脚本需要在python

查看更多 →

gds_check 背景信息 gds_check用于对GDS部署环境进行检查，包括操作系统参数、网络环境、磁盘占用情况等，也支持对可修复系统参数的修复校正，有助于在部署运行GDS时提前发现潜在问题，提高执行成功率。 注意事项 执行脚本前需设置环境变量，可参考《开发指南》中“导入数

查看更多 →

处理数据 入门流程 示例：图片质量变换

查看更多 →

处理数据 处理模拟数据步骤如下。 用户进入DISDemo函数详情页，选择“dis-test”测试事件，单击“测试”，测试函数，如图1所示。 图1 配置测试事件 函数执行成功后，部分函数日志如图2所示，全部的日志信息，可以到“日志”页签查询。 图2 函数执行结果 父主题： 使用函数处理DIS数据

查看更多 →

处理数据 在作业总览中平台支持创建数据标记，数据图表、数据回放、数据集等作业，数据包选择相对应的算子就可以触发相对应的作业。 数据回放类型的算子作业不需要选择输出仓库。 当选择数据集算子时，数据类型可支持选择通用存储。 创建作业 在左侧菜单栏中，单击“数据处理 > 数据处理”。

查看更多 →

数据上报失败如何处理？ 若设备是使用接口注册的，请确认设备是否因为没在指定的timeout时间内上线而被物联网平台自动删除了。如果设备已被删除，请重新注册设备再尝试上报数据。 请检查使用接口注册设备时，填写的产品信息是否和产品模型一致。 请检查上报的数据名称是否和产品模型定义的服务属性一致。

查看更多 →

无法正常上报数据怎么办？进行排查。 确定以上都不存在问题时，请检查设备和物联网平台之间的网络链路是否畅通，设备是否正常运行。 如果确认设备上报数据成功，但在设备管理服务的历史数据中无法查看到设备上报的数据，请请确保创建应用时已打开“存储历史数据”开关。 父主题： 数据上报（联通用户专用）

查看更多 →

数据上报失败如何处理？ 若设备是使用接口注册的，请确认设备是否因为没在指定的timeout时间内上线而被物联网平台自动删除了。如果设备已被删除，请重新注册设备再尝试上报数据。 请检查使用接口注册设备时，填写的产品信息是否和产品模型一致。 请检查上报的数据名称是否和产品模型定义的服务属性一致。

查看更多 →

出现字段超长，数据同步失败 执行创建OBS外表的SQL语句时，提示Access Denied GDS导入失败后，磁盘占用空间增大 GDS导入数据时，脚本执行报错：out of memory 使用GDS传输数据的过程中，报错：connection failure error 使用DataArts

查看更多 →

创建GDS外表 外表中配置了数据源格式信息、GDS服务的访问信息，从而 GaussDB (DWS)最终可以通过外表将数据 服务器 上的数据引流进数据库实表中。 操作步骤 收集数据源格式信息、GDS服务的访问信息。 需要收集的主要数据源格式信息如下： format：GDS外表导入支持 CS V

查看更多 →

gdsgrp gds_user 修改数据服务器上数据文件目录“/output_data”的属主为gds_user。 1 chown -R gds_user:gdsgrp /output_data 以gds_user用户登录数据服务器上分别启动GDS。 其中GDS安装路径为“/

查看更多 →

请确保需要导入的sheet表头不含空单元格，否则该sheet内数据导入失败。 仅数字、日期、布尔（默认为检查框）可以自动识别字段类型，其他内容默认文本。 选择需导入的工作表并预览数据，单击“下一步”。 在“数据预览”页签的“工作表”处选择需导入的sheet页数据，下方预览数据。 图2 数据预览 设置事件模板名称和表单字段类型，单击“生成表单”。

查看更多 →

查看报告Excel状态 功能介绍 根据任务ID查看报告Excel状态 URI GET /v1/{project_id}/sbc/report/excel/status 表1 路径参数 参数 是否必选 参数类型 描述 project_id 是 String 用户project_id

查看更多 →

0/24 -l /opt/gds/gds04_log.txt -D #TPC-DS使用 命令中的斜体部分请根据实际填写，如果数据分片存放至多个数据盘目录，需要启动对应目录数量的GDS。 如果TPC-H和TPC-DS数据同时测试，需要启动以上4个GDS，如果只测试TPC-D

查看更多 →

使用GDS从远端服务器导入数据 关于GDS并行导入 准备源数据 安装配置和启动GDS 创建GDS外表 执行导入数据 处理导入错误 停止GDS GDS导入示例 父主题： 导入数据

查看更多 →

上传数据集失败如何处理？ 问题原因 上传数据集失败，一般是因为数据集格式不对导致的。不同行业套件的工作流，对数据集要求也不同。 首先请检查数据集是否符合要求，各个套件的数据集要求如下： 文字识别 套件 自然语言处理套件 视觉套件 HiLens套件 确认数据集符合要求后，将数据集上传至OBS桶。

查看更多 →

梳理待导出数据的格式信息，确定创建外表时使用的数据格式参数的值。 根据前面步骤确定的参数，创建GDS外表。 示例 示例：创建GDS导出外表foreign_tpcds_reasons，待导出数据格式为CSV，用于接收数据服务器上的数据。 其中设置的导出模式信息如下所示： 规划数据服务器

查看更多 →

status 查询通过gds.conf启动的gds实例的运行状态。 示例 启动gds。 python3 gds_ctl.py start 停止由配置文件启动的gds。 python3 gds_ctl.py stop 停止所有当前用户有权限关闭的gds。 python3 gds_ctl.py

查看更多 →

数据处理 数据处理介绍 创建工作流 启动工作流

查看更多 →

数据处理 数据处理简介 数据批导 数据处理 回放仿真

查看更多 →

数据处理 数据集 数据探索 数据采样 数据清洗 数据合并 数据转换 特征选择 时序数据处理 自定义 发布算法工程服务 父主题： JupyterLab开发平台

查看更多 →