可以设置Batch和Caching关键参数。 Batch 使用Scan调用next接口每次最大返回的记录数，与一次读取的列数有关。 Caching RPC请求返回next记录的最大数量，该参数与一次RPC获取的行数有关。 父主题： 样例代码说明

查看更多 →

使用Get读取数据 功能介绍 要从表中读取一条数据，首先需要实例化该表对应的Table实例，然后创建一个Get对象。也可以为Get对象设定参数值，如列族的名称和列的名称。查询到的行数据存储在Result对象中，Result中可以存储多个Cell。 针对开启冷热分离特性的列族，可以

查看更多 →

读取Hudi数据概述 Hudi的读操作，作用于Hudi的三种视图之上，可以根据需求差异选择合适的视图进行查询。 Hudi 支持多种查询引擎Spark和Hive，具体支持矩阵见表1和表2。 表1 cow表 查询引擎 实时视图/读优化视图 增量视图 Hive Y Y Spark（SparkSQL）

查看更多 →

读取Hudi数据概述 Hudi的读操作，作用于Hudi的三种视图之上，可以根据需求差异选择合适的视图进行查询。 Hudi支持多种查询引擎Spark、Hive、HetuEngine，具体支持矩阵见表1和表2。 表1 cow表 查询引擎 实时视图/读优化视图 增量视图 Hive Y Y

查看更多 →

读取Phoenix表数据 功能简介 使用Phoenix实现读数据。 代码样例 以下代码片段在com.huawei.bigdata.hbase.examples包的“PhoenixSample”类的testSelect方法中。 /** * Select Data */

查看更多 →

读取Phoenix表数据 功能简介 使用Phoenix实现读数据。 代码样例 以下代码片段在com.huawei.bigdata.hbase.examples包的“PhoenixSample”类的testSelect方法中。 /** * Select Data */

查看更多 →

查询仓库或文件的审计日志信息 功能介绍 查询仓库或文件的审计日志信息 调用方法 请参见如何调用API。 URI GET /cloudartifact/v5/{tenant_id}/{project_id}/{module}/{repo}/audit 表1 路径参数 参数 是否必选

查看更多 →

读取输出口显示内容 接口名称 WEB_GetVideoOutSourceAPI 功能描述 读取输出口显示内容时调用该接口。 应用场景 读取输出口显示内容。 URL https://ip/action.cgi?ActionID=WEB_GetVideoOutSourceAPI 参数

查看更多 →

训练过程读取数据 在ModelArts上训练模型，输入输出数据如何配置？ 如何提升训练效率，同时减少与OBS的交互？ 大量数据文件，训练过程中读取数据效率低？ 使用Moxing时如何定义路径变量？ 父主题： Standard训练作业

查看更多 →

注意事项 可以设置Batch和Caching关键参数。 Batch 使用Scan调用next接口每次最大返回的记录数，与一次读取的列数有关。 Caching RPC请求返回next记录的最大数量，该参数与一次RPC获取的行数有关。 父主题： 开发HBase应用

查看更多 →

配置Hive读取Hudi表 Hudi表对应的Hive外部表介绍 Hudi源表对应一份HDFS的数据，通过Spark组件、Flink组件或者Hudi客户端，可以将Hudi表的数据映射为Hive外部表，基于该外部表，Hive可以进行实时视图查询、读优化视图查询以及增量视图查询。 根据

查看更多 →

大量数据文件，训练过程中读取数据效率低？ 当数据集存在较多数据文件（即海量小文件），数据存储在OBS中，训练过程需反复从OBS中读取文件，导致训练过程一直在等待文件读取，效率低。 解决方法 建议将海量小文件，在本地压缩打包。例如打包成.zip格式。 将此压缩后的文件上传至OBS。

查看更多 →

以下代码展示了如何进行流式下载： // 引入依赖库 require 'vendor/autoload.php'; // 使用源码安装时引入SDK代码库 // require 'obs-autoloader.php'; // 声明命名空间 use Obs\ObsClient; // 创建ObsClient实例

查看更多 →

通过Sqoop读取MySQL数据并写parquet文件到OBS时失败 用户问题 通过Sqoop读取MySQL数据，然后直接写到OBS，指定parquet格式时写入报错，不指定parquet时不报错。 问题现象 原因分析 parquet格式不支持hive3，用Hcatalog方式写入。

查看更多 →

部署主机相关的应用时，出现“权限不够”日志提示时，说明当前用户对当前文件或文件夹没有操作权限。 原因分析 当前用户对当前文件或文件夹没有操作权限。 处理方法 采用对当前用户可以访问的文件。 使用权限更高的用户，如：root。 给当前用户赋予更高权限（在“/etc/sudoers”文件中添加 'user

查看更多 →

在OBS中，用户操作的基本数据单元是对象。OBS PHP SDK提供了丰富的对象上传接口，可以通过以下方式上传对象： 文本上传 流式上传 文件上传 分段上传 基于表单上传 SDK支持上传0KB~5GB的对象。流式上传和文件上传的内容大小不能超过5GB；当上传较大文件时，请使用分段上传，分段上传每段

查看更多 →

java_pid*”文件定期清理。因为HDFS的内存监控使用了JVM的jinfo命令，而jinfo依赖“/tmp/.java_pid*”文件，当该文件不存在时，jinfo会执行kill -3将jstack信息打印到.out日志文件里，从而导致.out日志文件过大。 处理步骤 在每个HDFS实例的节点上部署定期清理

查看更多 →

java_pid*”文件定期清理。因为HBase的内存监控使用了JVM的jinfo命令，而jinfo依赖“/tmp/.java_pid*”文件，当该文件不存在时，jinfo会执行kill -3将jstack信息打印到.out日志文件里，从而导致.out日志文件过大。 处理步骤 在每个HBase实例的节点上部署定期清理

查看更多 →

在弹出的提示框中，单击“确定”。 读取数据需要等待一段时间，您可以单击刷新数据源的状态，当“状态”为“读取成功”即表示成功将本地数据库的物理表读取至应用设计态。 读取成功后，xDM-F会根据读取的物理表数据自动生成相应的建模信息和物理表信息，这些信息后续会被反向生成相应的数据模型和属性。

查看更多 →

使用Get读取HBase数据 功能简介 要从表中读取一条数据，首先需要实例化该表对应的Table实例，然后创建一个Get对象。也可以为Get对象设定参数值，如列族的名称和列的名称。查询到的行数据存储在Result对象中，Result中可以存储多个Cell。 代码样例 以下代码片段在com

查看更多 →

。 由于环境或网络问题，读OBS时遇到读取数据失败情况，从而导致整个作业失败。 重复打印日志，该日志表示正在读取远端存在的文件，当文件列表读取完成以后，开始下载数据。如果文件比较多，那么该过程会消耗较长时间。 处理方法 在创建训练作业时，数据可以保存到OBS上。不建议使用Tens

查看更多 →