批量提交任务（API名称：modifyTaskLists） 功能介绍 用于批量提交任务使用的接口 相关接口 接口名称 调用说明 获取Token 调用该接口获取到Token，再调用其他接口时，需要在请求消息头中添加“Authorization”，其值即为Token。 URL 请求方式

查看更多 →

提交录音文件识别任务 录音文件识别接口，用于识别长录音文件，支持中文普通话、四川话识别。录音文件放在OBS（ 对象存储服务 ）或公网可访问的 服务器 上。 由于录音文件识别通常会需要较长的时间，因此识别是异步的，即接口分为创建识别任务和查询任务状态两个接口。创建识别任务接口创建任务完成后

查看更多 →

步骤3：提交事务型任务 操作场景 工业数字模型驱动引擎-数据建模引擎（xDM Foundation，简称xDM-F）提供同步提交和异步提交两种提交方式。 URI 同步提交 URI格式： PUT http://{Endpoint}/rdm_{appID}_app/services/

查看更多 →

示例2：提交视频转码任务 场景描述 若您需要将存储在OBS桶中的视频文件进行转码，并添加图片水印，您可以调用MPC API进行转码处理。 本章节指导用户如何使用API调用的方式提交视频转码任务。 接口约束 不支持处理跨区域的媒资文件，如使用“华北-北京一”的MPC服务不能处理存储

查看更多 →

提交Spark任务时报错“ClassNotFoundException” 问题现象 运行Spark任务报找不到指定的类“ClassNotFoundException”。 详细报错内容如下： Exception encountered | org.apache.spark.internal

查看更多 →

配置MapReduce任务推测执行 操作场景 当集群规模很大时（如几百上千台节点的集群），个别节点出现软硬件故障的概率会增大，并且会因此延长整个任务的执行时间（运行完成的任务会等待异常设备运行完成）。推测执行通过将一个task分给多台机器运行，取首先运行完成的节点。对于小集群，可以将该功能关闭。

查看更多 →

配置MapReduce任务推测执行 操作场景 当集群规模很大时（如几百上千台节点的集群），个别节点出现软硬件故障的概率会增大，并且会因此延长整个任务的执行时间（运行完成的任务会等待异常设备运行完成）。推测执行通过将一个task分给多台机器运行，取首先运行完成的节点。对于小集群，可以将该功能关闭。

查看更多 →

使用Yarn客户端提交任务 操作场景 该任务指导用户在运维场景或业务场景中使用Yarn客户端。 前提条件 已安装客户端。 例如安装目录为“/opt/client”，以下操作的客户端目录只是举例，请根据实际安装目录修改。 各组件业务用户由 MRS 集群管理员根据业务需要创建。安全模式下

查看更多 →

提交样本量或者时域分析任务 功能介绍 管理员在数据集详情页面提交样本量或者时域探索任务。 URI URI格式 PUT /softcomai/datalake/v1.0/datasets/metadata 参数说明 无。 请求 请求样例 PUT https://telcloud.huawei

查看更多 →

MapReduce任务长时间无进展 问题 MapReduce任务长时间无进展。 回答 一般是因为内存太少导致的。当内存较小时，任务中拷贝map输出的时间将显著增加。 为了减少等待时间，您可以适当增加堆内存空间。 任务的配置可根据mapper的数量和各mapper的数据大小来进行优

查看更多 →

MapReduce任务长时间无进展 问题 MapReduce任务长时间无进展。 回答 一般是因为内存太少导致的。当内存较小时，任务中拷贝map输出的时间将显著增加。 为了减少等待时间，您可以适当增加堆内存空间。 任务的配置可根据mapper的数量和各mapper的数据大小来进行优

查看更多 →

参数 描述 默认值 mapreduce.fileoutputcommitter.algorithm.version 用于指定Job的最终输出文件提交的算法版本，取值为“1”或“2”。 说明： 版本2为建议的优化算法版本。该算法通过让任务直接将每个task的输出结果提交到最终的结果输出目录，从而减少大作业的输出提交时间。

查看更多 →

提交样本量或者时域分析任务 功能介绍 管理员在数据集详情页面提交样本量或者时域探索任务。 URI URI格式 PUT /softcomai/datalake/v1.0/datasets/metadata 参数说明 无。 请求 请求样例 PUT https://telcloud.huawei

查看更多 →

示例3：提交视频截图任务 场景描述 媒体处理可以在提交视频转码任务时配置截图参数，实现截图。若需要单独仅对某个视频文件进行截图而不转码，则可以调用视频截图接口来处理。 本章节指导用户如何使用API调用的方式提交视频截图任务。 接口约束 不支持处理跨区域的媒资文件，如使用“华北-北

查看更多 →

使用Yarn客户端提交任务 操作场景 该任务指导用户在运维场景或业务场景中使用Yarn客户端。 前提条件 已安装客户端。 例如安装目录为“/opt/client”，以下操作的客户端目录只是举例，请根据实际安装目录修改。 各组件业务用户由MRS集群管理员根据业务需要创建。安全模式下

查看更多 →

使用Mapreduce 配置使用分布式缓存执行MapReduce任务 配置MapReduce shuffle address 配置MapReduce集群管理员列表 通过Windows系统提交MapReduce任务 配置MapReduce任务日志归档和清理机制 MapReduce性能调优

查看更多 →

MapReduce为分布式计算框架，Map/Reduce任务启动所在的节点存在不确定性，建议将集群内NodeManager实例只保留一个运行，其他全部停止，以保证任务一定会在这个唯一运行的NodeManager节点上启动。 在客户端提交MapReduce任务，在Map/Reduce任务启动时会挂起并监测8000端口，等待远程调试。

查看更多 →

参数 描述 默认值 mapreduce.fileoutputcommitter.algorithm.version 用于指定Job的最终输出文件提交的算法版本，取值为“1”或“2”。 说明： 版本2为建议的优化算法版本。该算法通过让任务直接将每个task的输出结果提交到最终的结果输出目录，从而减少大作业的输出提交时间。

查看更多 →

MapReduce为分布式计算框架，Map/Reduce任务启动所在的节点存在不确定性，建议将集群内NodeManager实例只保留一个运行，其他全部停止，以保证任务一定会在这个唯一运行的NodeManager节点上启动。 在客户端提交MapReduce任务，在Map/Reduce任务启动时会挂起并监测8000端口，等待远程调试。

查看更多 →

MapReduce常见问题 ResourceManager进行主备切换后，任务中断后运行时间过长 MapReduce任务长时间无进展 为什么运行任务时客户端不可用 在缓存中找不到HDFS_DELEGATION_TOKEN如何处理 如何在提交MapReduce任务时设置任务优先级

查看更多 →

通过这个接口，可以查询当前集群中已完成的MapReduce任务，并且可以得到表1 表1 常用信息 参数 参数描述 submitTime 任务提交时间 startTime 任务开始执行时间 finishTime 任务执行完成时间 queue 任务队列 user 提交这个任务的用户 state 任务执行成功或失败

查看更多 →