文档首页/
MapReduce服务 MRS/
开发指南(LTS版)/
Spark2x开发指南(安全模式)/
开发Spark应用/
Spark同时访问两个HBase样例程序/
Spark同时访问两个HBase样例程序(Scala)
更新时间:2024-10-31 GMT+08:00
Spark同时访问两个HBase样例程序(Scala)
以下为Spark同时访问两个HBase样例程序的Scala示例。
下面代码片段仅为演示。
具体代码参见:com.huawei.spark.examples.SparkOnMultiHbase
def main(args: Array[String]): Unit = { val conf = new SparkConf().setAppName("SparkOnMultiHbaseExample") conf.set("spark.serializer", "org.apache.spark.serializer.KryoSerializer") conf.set("spark.kryo.registrator", "com.huawei.spark.examples.MyRegistrator") val sc = new SparkContext(conf)val tableName = "SparkOnMultiHbase" val clusterFlagList=List("B", "A") clusterFlagList.foreach{ item => val hbaseConf = getConf( item ) println(hbaseConf.get("hbase.zookeeper.quorum")) val hbaseUtil = new HbaseUtil(sc,hbaseConf) hbaseUtil.writeToHbase(tableName) hbaseUtil.readFromHbase(tableName) } sc.stop() } private def getConf(item:String):Configuration={ val conf: Configuration = HBaseConfiguration.create() val url = "/opt" + File.separator + "example" + File.separator + item + File.separator + "hbase-site.xml" conf.addResource(new File(url).toURI.toURL) conf }
父主题: Spark同时访问两个HBase样例程序