使用Scan读取数据 功能简介 要从表中读取数据，首先需要实例化该表对应的Table实例，然后创建一个Scan对象，并针对查询条件设置Scan对象的参数值，为了提高查询效率，最好指定StartRow和StopRow。查询结果的多行数据保存在ResultScanner对象中，每行数

查看更多 →

使用Get读取数据 功能介绍 要从表中读取一条数据，首先需要实例化该表对应的Table实例，然后创建一个Get对象。也可以为Get对象设定参数值，如列族的名称和列的名称。查询到的行数据存储在Result对象中，Result中可以存储多个Cell。 针对开启冷热分离特性的列族，可以

查看更多 →

读取Phoenix表数据 功能简介 使用Phoenix实现读数据。 代码样例 以下代码片段在com.huawei.bigdata.hbase.examples包的“PhoenixSample”类的testSelect方法中。 /** * Select Data */

查看更多 →

读取Hudi数据概述 Hudi的读操作，作用于Hudi的三种视图之上，可以根据需求差异选择合适的视图进行查询。 Hudi 支持多种查询引擎Spark和Hive，具体支持矩阵见表1和表2。 表1 cow表 查询引擎 实时视图/读优化视图 增量视图 Hive Y Y Spark（SparkSQL）

查看更多 →

读取Hudi数据概述 Hudi的读操作，作用于Hudi的三种视图之上，可以根据需求差异选择合适的视图进行查询。 Hudi支持多种查询引擎Spark、Hive、HetuEngine，具体支持矩阵见表1和表2。 表1 cow表 查询引擎 实时视图/读优化视图 增量视图 Hive Y Y

查看更多 →

读取Phoenix表数据 功能简介 使用Phoenix实现读数据。 代码样例 以下代码片段在com.huawei.bigdata.hbase.examples包的“PhoenixSample”类的testSelect方法中。 /** * Select Data */

查看更多 →

初始化大文件（API名称：initRiskBigFile） 功能介绍 该接口用于初始化大文件分段上传任务。 URL 请求方式 HTTPS地址 消息体类型 POST https://AppCube 域名 /service/ISDP__SecurityRiskBO/1.0.1/initRiskBigFile

查看更多 →

公网环境下如何提高上传大文件速度？ 在公网环境下对于超过100MB的大文件建议通过分段上传方式上传。分段上传是将单个对象拆分为一系列段分别上传。每个段都是对象数据的连续部分。您可以按照任意顺序上传段。如果其中某个段传输失败，可以重新传输该段且不会影响其他段。通过多线程并发上传同一对象的多个段，可大大提高传输效率。

查看更多 →

一个典型的SAP应用系统，涉及哪些模块？ 在一个典型的SAP系统中，一般可以分为二大部分：应用 服务器 、SAP HANA数据库。 应用服务器，一般会分为生产/开发/测试，如ERP生产、ERP开发、ERP测试、CRM生产、CRM开发、CRM测试等。生产应用一般采用物理机部署，开发/测

查看更多 →

fragMemroy：Frag缓冲区使用量。 rawInuse：正在使用的Raw套接字数量。 文件系统异常 / 文件系统状态 readonly：文件系统只读 deviceError：文件系统错误 磁盘读写速率 次/秒 磁盘每秒进行的读写次数 磁盘读和写延迟（秒） 秒 磁盘读写时延 IO队列数

查看更多 →

参数类型 是否必选 描述 Bucket string 必选 参数解释： 并行文件系统名。 约束限制： 并行文件系统的名字需全局唯一，不能与已有的任何并行文件系统名称重复，包括其他用户创建的并行文件系统。 并行文件系统命名规则如下： 3～63个字符，数字或字母开头，支持小写字母、数字、“-”、“

查看更多 →

并行文件系统是否支持挂载到Windows服务器？ 并行文件系统当前仅支持通过obsfs工具挂载至 Linux服务器 ，暂不支持挂载至Windows服务器。 并行文件系统挂载至Linux服务器，具体请参见挂载并行文件系统。 父主题： OBS Browser+和obsutil等工具相关

查看更多 →

分段上传分为如下3个步骤： 初始化分段上传任务。 逐个或并行上传段。 合并段或取消分段上传任务。 分段上传的主要目的是解决大文件上传或网络条件较差的情况。下面的代码示例展示了如何使用分段上传并发上传大文件： // 引入obs库 // 使用npm安装 const ObsClient = requi

查看更多 →

参数max_connections外，还受操作系统对单进程允许打开最大文件数的限制。例如，当操作系统控制每个进程的最大打开文件数为100时，即使设置参数max_connections为200也不会起作用。 查看操作系统对单进程打开最大文件数的限制（默认为1024）。 ulimit

查看更多 →

SQL的表中，经常会存在很多小文件（大小远小于HDFS块大小），每个小文件默认对应Spark中的一个Partition，也就是一个Task。在很多小文件场景下，Spark会起很多Task。当SQL逻辑中存在Shuffle操作时，会大大增加hash分桶数，严重影响性能。 在小文件场景下，您可以通过如下

查看更多 →

从OBS并行导入数据 关于OBS并行导入 从OBS导入 CS V、TXT数据 从OBS导入ORC、CARBONDATA数据 父主题： 导入数据

查看更多 →

分区的平均文件大小是否小于16MB（默认值）。如果发现平均文件大小小于16MB，则认为分区下有小文件，Spark会启动一个Job合并这些小文件，并将合并后的大文件写入到最终的表目录下。 使用约束 写入表的类型为：Hive、Datasource 支持的数据格式：parquet、orc

查看更多 →

迁移并行文件系统内的对象数据有哪些限制？ 当待迁移对象所属文件层级过深时，建议通过创建迁移任务组进行迁移。如果通过创建迁移任务进行迁移，可能出现列举对象超时，导致列举中断。 父主题： 迁移限制

查看更多 →

列举并行文件系统内对象(Harmony SDK) 功能介绍 调用列举并行文件系统内对象接口，可列举指定并行文件系统内的部分或所有对象的描述信息。您还可以通过设置前缀、数量、起始位置等参数，返回符合您筛选条件的对象信息。返回结果以对象名的字典序排序。 接口约束 您必须是并行文件系统拥

查看更多 →

MapReduce应用开发简介 MapReduce简介 Hadoop MapReduce是一个使用简易的并行计算软件框架，基于它写出来的应用程序能够运行在由上千个服务器组成的大型集群上，并以一种可靠容错的方式并行处理上T级别的数据集。 一个MapReduce作业（application/job）通常会把输

查看更多 →

合理设置并行度 任务运行的速度和并行度相关，一般来说提升并行度能有效提升读取的速度，但是过大的并行度可能导致部分节点资源的浪费，过小的并行度可能导致部分节点运行缓慢。对于SQL当前不能手动指定每个Task的并行度，指定的是所有Task统一的并行度。 推荐Source的并行度由上游

查看更多 →