更新时间:2024-06-05 GMT+08:00
分享

Spark

Spark jar包冲突列表

Jar包名称

描述

处理方案

spark-core_2.1.1-*.jar

Spark任务的核心jar包。

Spark可以直接使用开源同版本的Spark包运行样例代码,但是不同版本的spark-core包在使用的时候可能导致互相序列化ID不一样,因此建议使用集群自带jar包。

jackson-*.jar

执行Spark程序时会报错:

com.fasterxml.jackson.databind.JsonMappingException: Scala module 2.11.4 requires Jackson Databind version >= 2.11.0 and < 2.12.0

执行程序时引入的jackson相关包与集群自带的包版本不一致,导致报错,建议使用集群自带的jackson相关jar包。

集群jar包路径:“客户端安装目录/Spark2x/spark/jars”或者“客户端安装目录/Spark/spark/jars”。

相关文档