建Spark作业。 适用于大规模数据处理和分析，如机器学习训练、 日志分析 、大规模数据挖掘等场景。 管理Jar作业的程序包 DLI 允许用户提交编译为Jar包的Flink或Spark作业，Jar包中包含了Jar作业执行所需的代码和依赖信息，用于在数据查询、数据分析、机器学习等特定的数

查看更多 →

确保OBS中的数据存在 如果存储在OBS中的图片或数据被删除，且未同步至ModelArts自动学习或数据集中，则会导致任务失败。 建议前往OBS检查，确保数据存在。针对图像分类、声音分类、文本分类、物体检测等类型，可在自动学习的数据标注页面，单击“同步数据源”，将OBS中的数据重新同步至ModelArts中。

查看更多 →

使用自动学习实现预测分析 准备预测分析数据 创建预测分析项目 训练预测分析模型 部署预测分析服务 父主题： 使用自动学习实现零代码AI开发

查看更多 →

自动学习为什么训练失败？ 当自动学习项目训练失败时，请根据如下步骤排除问题。 进入当前账号的费用中心，检查是否欠费。 是，建议您参考华为云账户充值，为您的账号充值。 否，执行2。 检查存储图片数据的OBS路径。是否满足如下要求： 此OBS目录下未存放其他文件夹。 文件名称中无特殊

查看更多 →

可信联邦学习作业管理 新建联邦学习作业 获取横向联邦学习作业详情 获取纵向联邦作业详情 保存纵向联邦作业 保存横向联邦学习作业 查询联邦学习作业列表 查询特征选择执行结果 删除联邦学习作业 执行横向联邦学习作业 执行纵向联邦模型训练作业 父主题： 计算节点API

查看更多 →

职业认证考试的学习方法 华为云职业认证 提供在线学习/导师面授+在线测试+真实环境实践，理论与实践结合的学习模式，帮助您轻松通过认证。 您可以通过如下途径进行职业认证的学习： 进入华为云开发者学堂职业认证，按照页面指引在线学习认证课程。 在HALP处报名认证培训课程，由专业导师进行面授培训。

查看更多 →

在哪里可以进行课程学习？ 开发者认证订单支付完成后，点击“返回我的云市场”，回到“我的开发者认证”个人中心，进行对应开发者认证学习。如图1 图1 进入课程学习-返回我的云市场 您也可以到华为云开发者学堂右上方的“个人中心”，选择“我的开发者认证”，进行对应开发者认证学习。如图2 图2

查看更多 →

基本概念 AI引擎 可支持用户进行机器学习、深度学习、模型训练作业开发的框架，如Tensorflow、Spark MLlib、MXNet、PyTorch、华为自研AI框架MindSpore等。 数据集 某业务下具有相同数据格式的数据逻辑集合。 特征操作 特征操作主要是对数据集进行特征处理。

查看更多 →

存储费用：自动学习作业的数据通过 对象存储服务 （OBS）上传或导出，存储计费按照OBS的计费规则。 综上，运行自动学习作业的费用 = 计算资源费用（2.43 元） + 存储费用 示例：使用专属资源池运行自动学习作业。计费项：标准存储费用 假设用户于2023年4月1日创建了自动学习的图像分

查看更多 →

使用Moodle搭建在线学习系统 应用场景 Moodle是一个面向全球用户的开源在线教育系统，它被用于在线学习等场景。Moodle应用镜像基于Ubuntu 22.04操作系统，采用Docker部署，已预装Moodle应用以及其需要的运行环境。本节介绍如何安装部署Moodle应用。

查看更多 →

执行横向联邦学习作业 功能介绍 执行横向联邦学习作业 调用方法 请参见如何调用API。 URI POST /v1/{project_id}/leagues/{league_id}/fl-jobs/{job_id}/execute 表1 路径参数 参数 是否必选 参数类型 描述 project_id

查看更多 →

获取横向联邦学习作业详情 功能介绍 获取横向联邦学习作业详情 调用方法 请参见如何调用API。 URI GET /v1/{project_id}/leagues/{league_id}/fl-jobs/{job_id} 表1 路径参数 参数 是否必选 参数类型 描述 project_id

查看更多 →

在哪里可以进行课程学习？ 订单支付完成后，点击“返回我的云市场”，回到“我的微认证”个人中心，进行对应微认证学习。如图1。 图1 进入课程学习-返回我的云市场 您也可以到华为云开发者学堂右上方的“个人中心”，选择“我的微认证”，进行对应微认证学习。如图2。 图2 进入课程学习-我的微认证

查看更多 →

针对一般用户，ModelArts提供自动学习的预测分析场景来完成结构化数据的模型训练。 针对高阶用户，ModelArts在开发环境提供创建Notebook进行代码开发的功能，在训练作业提供创建大数据量训练任务的功能；用户在开发、训练流程中使用Scikit_Learn、XGBoost或Spark_MLlib引擎均可。

查看更多 →

Spark性能优化 概述 Spark是基于内存的分布式计算框架。在迭代计算的场景下，数据处理过程中的数据可以存储在内存中，提供了比MapReduce高10到100倍的计算能力。Spark可以使用HDFS作为底层存储，使用户能够快速地从MapReduce切换到Spark计算平台上去

查看更多 →

提供Java语言的API，Spark Core、SparkSQL和Spark Streaming模块的常用接口请参见Spark Java API接口介绍。 Python API 提供Python语言的API，Spark Core、SparkSQL和Spark Streaming模块的常用接口请参见Spark

查看更多 →

Spark常用API介绍 Spark Java API接口介绍 Spark Scala API接口介绍 Spark Python API接口介绍 Spark REST API接口介绍 Spark client CLI介绍 Spark JD BCS erver接口介绍 父主题： Spark应用开发常见问题

查看更多 →

Spark2x Spark2x jar包冲突列表 Jar包名称 描述 处理方案 spark-core_2.1.1-*.jar Spark任务的核心jar包。 Spark可以直接使用开源同版本的spark包运行样例代码，但是不同版本的spark-core包在使用的时候可能互相序列化ID不一样，建议使用集群自带jar包。

查看更多 →

Spark应用开发概述 Spark应用开发简介 Spark应用开发常用概念 Spark应用开发流程介绍 父主题： Spark开发指南

查看更多 →

Spark Python接口介绍 由于Spark开源版本升级，为避免出现API兼容性或可靠性问题，建议用户使用配套版本的开源API。 Spark Core常用接口 Spark主要使用到如下这几个类： pyspark.SparkContext：是Spark的对外接口。负责向调用该类

查看更多 →

Spark作业开发类 Spark作业使用咨询 Spark如何将数据写入到DLI表中 通用队列操作OBS表如何设置AK/SK 如何查看DLI Spark作业的实际资源使用情况 将Spark作业结果存储在MySQL数据库中，缺少pymysql模块，如何使用python脚本访问MySQL数据库？

查看更多 →