Flink业务程序无法读取NFS盘上的文件 用户问题 Flink业务程序无法读取集群节点挂载的NFS盘上的文件。 问题现象 用户开发的Flink业务程序中需要读取用户定义的配置文件，该配置文件放在NFS盘上，NFS盘是挂载在集群节点上的，集群的所有节点均可以访问该盘。用户提交Fl

查看更多 →

读取数据 概述 读取格式化的数据，支持csv、json、parquet等。 输入 无 输出 数据集 参数说明 参数 参数说明 input_file_path 数据文件的绝对路径、相对路径、目录路径或者文件路径均可 format 文件格式，支持csv等 has_header 是否包含表头

查看更多 →

如何读取“__consumer_offsets”内部topic的内容 用户问题 Kafka如何将consumer消费的offset保存在内部topic“ __consumer_offsets”中？ 处理步骤 以客户端安装用户，登录安装Kafka客户端的节点。 切换到Kafka客户

查看更多 →

PutExample文件： # -*- coding:utf-8 -*- """ 【说明】 由于pyspark不提供Hbase相关api,本样例使用Python调用Java的方式实现 """ from py4j.java_gateway import java_import from

查看更多 →

手工搭建Hadoop环境（Linux） 简介 本文介绍了如何在华为云上使用弹性云 服务器 的Linux实例手工搭建Hadoop环境。Hadoop是一款由Apache基金会用Java语言开发的分布式开源软件框架，用户可以在不了解分布式底层细节的情况下，开发分布式程序，充分利用集群的能力

查看更多 →

PutExample文件： # -*- coding:utf-8 -*- """ 【说明】 由于pyspark不提供Hbase相关api,本样例使用Python调用Java的方式实现 """ from py4j.java_gateway import java_import from

查看更多 →

keytab 文件上传到客户端多在服务器上。 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中编包并运行Spark程序。 编译打包前，样例代码中的user.keytab、krb5.conf文件路径需要修改为该文件所在客户端服务器的实际路径。

查看更多 →

table2表，用于将分析后的数据写入。 将原日志文件放置到HDFS系统中。 在本地新建一个空白的log1.txt文件，并在文件内写入如下内容： 1,100 在HDFS中新建一个目录/tmp/input，并将log1.txt文件上传至此目录。 在Linux系统HDFS客户端使用命令hadoop

查看更多 →

挂载NFS协议类型文件系统到云服务器（Linux） 当创建文件系统后，您需要使用云服务器来挂载该文件系统，以实现多个云服务器共享使用文件系统的目的。 CIFS类型的文件系统不支持使用Linux操作系统的云服务器进行挂载。 同一SFS容量型文件系统不能同时支持NFS协议和CIFS协议。

查看更多 →

ME}/conf”下顺序读取alluxio-site.properties , 当alluxio-site.properties文件被读取到则跳过剩余路径的查找，所以请根据实际环境情况存放alluxio-site.properties文件。 在Linux环境下执行运行样例程序。 chmod

查看更多 →

Linux如何创建swap分区/swap文件 适用场景 本节操作以CentOS 6.8操作系统云服务器为例，指导用户创建swap分区。 约束与限制 操作过程中涉及创建指定大小的文件，请确认系统磁盘空间有足够的空余空间。 场景一：使用块设备创建swap 执行以下命令，新建一个分区（以2G为例）。

查看更多 →

conf 两个文件上传客户端所在服务器上。 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中编包并运行Spark程序。 编译打包前，样例代码中的user.keytab、krb5.conf文件路径需要修改为该文件所在客户端服务器的实际路径。例如：“/opt/female/user

查看更多 →

Spark从Hive读取数据再写入HBase样例程序（Java） 功能介绍 在Spark应用中，通过使用Spark调用Hive接口来操作hive表，然后把Hive表的数据经过分析后写到HBase表。 代码样例 下面代码片段仅为演示，具体代码参见：com.huawei.bigdata

查看更多 →

table2表，用于将分析后的数据写入。 将原日志文件放置到HDFS系统中。 在本地新建一个空白的log1.txt文件，并在文件内写入如下内容： 1,100 在HDFS中新建一个目录/tmp/input，并将log1.txt文件上传至此目录。 在Linux系统HDFS客户端使用命令hadoop

查看更多 →

keytab 文件上传到客户端多在服务器上。 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。 编译打包前，样例代码中的user.keytab、krb5.conf文件路径需要修改为该文件所在客户端服务器的实际路径。例如：“/opt/female/user

查看更多 →

Linux服务器登录方式概述 根据裸金属服务器的网络设置，以及您本地设备的操作系统，您可以选择合适的方法登录Linux服务器。 表1 Linux服务器登录方式说明 能访问公网 本地设备操作系统 登录方法 是/否 Windows或者Linux 远程登录方式 是 Windows 使用PuTTY等远程连接工具：

查看更多 →

本地Windows主机使用WinSCP上传文件到Linux云服务器 操作场景 WinSCP工具可以实现在本地与远程计算机之间安全地复制文件。与使用FTP上传代码相比，通过 WinSCP 可以直接使用服务器账户密码访问服务器，无需在服务器端做任何配置。 通常本地Windows计算机将文件上传至Linux服务器一般会采

查看更多 →

需要写回修改的部分即可。 Page cache：主要用来作为文件系统上的文件数据的缓存来用，尤其是针对当进程对文件有read/write操作的时候。Linux默认会将读取的文件内容缓存在内存中，方便后续使用。 Linux默认使用的是lazy模式，即内存如果还够用，则不会主动释放当

查看更多 →

写入HBase表中。 读取HBase表中的数据，并且对其进行简单的操作。 运行前置操作 安全模式下Spark Core样例代码需要读取两个文件（user.keytab、krb5.conf）。user.keytab和krb5.conf文件为安全模式下的认证文件，需要在 FusionInsight

查看更多 →

keytab、krb5.conf 两个文件上传客户端所在服务器上。 通过IDEA自带的Maven工具，打包项目，生成jar包。具体操作请参考在Linux环境中调测Spark应用。 编译打包前，样例代码中的user.keytab、krb5.conf文件路径需要修改为该文件所在客户端服务器的实际路径。例如：“/opt/female/user

查看更多 →

写入HBase表中。 读取HBase表中的数据，并且对其进行简单的操作。 运行前置操作 安全模式下Spark Core样例代码需要读取两个文件（user.keytab、krb5.conf）。user.keytab和krb5.conf文件为安全模式下的认证文件，需要在FusionInsight

查看更多 →