更新时间:2024-08-03 GMT+08:00

导入并配置Spark样例工程

操作场景

Spark针对多个场景提供样例工程,包含Java样例工程和Scala样例工程等,帮助客户快速学习Spark工程。

针对Java和Scala不同语言的工程,其导入方式相同。使用Python开发的样例工程不需要导入,直接打开Python文件(*.py)即可。

以下操作步骤以导入Java样例代码为例。操作流程如图1所示。

图1 导入样例工程流程

操作步骤

  1. 参考获取MRS应用开发样例工程,下载样例工程到本地。
  2. 将Java样例工程导入到IDEA中。

    1. 打开IntelliJ IDEA。在“Quick Start”页面选择“Import Project”
      或者,针对已使用过的IDEA工具,您可以从IDEA主界面直接添加。选择File > Import project...导入工程。
      图2 Import Project(Quick Start页面)
    2. 选择需导入的样例工程存放路径,单击“OK”
      图3 Select File or Directory to Import
    3. 确认导入路径和名称,单击“Next”。
      图4 Import Project from Maven
    4. 选择需要导入的工程,单击“Next”。
    5. 确认工程所用JDK,单击“Next”。
      图5 Select project SDK
    6. 确认工程名称和路径,单击“Finish”完成导入。
      图6 Select project to import
    7. 导入完成后,IDEA主页显示导入的样例工程。
      图7 已导入工程

  3. (可选)如果导入Scala语言开发的样例程序,还需要为工程设置语言。

    1. 在IDEA主页,选择File > Project Structures...进入“Project Structure”页面。
    2. 选择“Modules”,选中工程名称,然后右键选择Add > Scala
      图8 选择Scala语言
    3. 在设置界面,选择编译的依赖jar包,单击“Apply”
      图9 选择编译依赖包
    4. 单击“OK”保存设置。

  4. 设置IDEA的文本文件编码格式,解决乱码显示问题。

    1. 在IDEA首页,选择File > Settings...
      图10 选择Settings
    2. “Settings”页面,选择“File Encodings”。然后在右侧的“IDE Encoding”的下拉框中,选择“UTF-8”。单击“Apply”

    3. 单击“OK”完成编码配置。