码，确保MapReduce程序能够正常运行。 安全认证有两种方式： 命令行认证： 提交MapReduce应用程序运行前，在MapReduce客户端执行如下命令获得认证。 kinit 组件业务用户 代码认证： 通过获取客户端的principal和keytab文件在应用程序中进行认证。

查看更多 →

准备MapReduce样例初始数据 操作场景 在调测程序之前，需要提前准备将待处理的数据。 运行MapReduce统计样例程序，请参考规划MapReduce统计样例程序数据。 运行MapReduce访问多组件样例程序，请参考规划MapReduce访问多组件样例程序数据。 规划MapReduce统计样例程序数据

查看更多 →

在Linux环境中调测MapReduce应用 操作场景 在程序代码完成开发后，您可以在Linux环境中运行应用。 MapReduce应用程序运行完成后，可通过如下方式查看应用程序的运行情况。 通过运行结果查看程序运行情况。 登录MapReduce WebUI查看应用程序运行情况。 登录Yarn

查看更多 →

开发MapReduce应用 MapReduce统计样例程序 MapReduce访问多组件样例程序 父主题： MapReduce开发指南（普通模式）

查看更多 →

IDEA中查看应用程序运行情况。 通过MapReduce日志获取应用程序运行情况。 登录MapReduce WebUI查看应用程序运行情况。 登录Yarn WebUI查看应用程序运行情况。 在MapReduce任务运行过程中禁止重启HDFS服务，否则可能会导致任务失败。 运行统计样例程序

查看更多 →

开发MapReduce应用 MapReduce统计样例程序开发思路 MapReduce访问多组件样例程序开发思路 父主题： MapReduce开发指南

查看更多 →

IDEA中查看应用程序运行情况。 通过MapReduce日志获取应用程序运行情况。 登录MapReduce WebUI查看应用程序运行情况。 登录Yarn WebUI查看应用程序运行情况。 在MapReduce任务运行过程中禁止重启HDFS服务，否则可能会导致任务失败。 运行统计样例程序

查看更多 →

开发MapReduce应用 MapReduce统计样例程序 MapReduce访问多组件样例程序 父主题： MapReduce开发指南（普通模式）

查看更多 →

IDEA中查看应用程序运行情况。 通过MapReduce日志获取应用程序运行情况。 登录MapReduce WebUI查看应用程序运行情况。 登录Yarn WebUI查看应用程序运行情况。 如果Windows运行环境中使用IBM JDK，不支持在Windows环境中直接运行应用程序。 在M

查看更多 →

在Linux环境中调测MapReduce应用 操作场景 在程序代码完成开发后，可以在Linux环境中运行应用。 MapReduce应用程序运行完成后，可通过如下方式查看应用程序的运行情况。 通过运行结果查看程序运行情况。 登录MapReduce WebUI查看应用程序运行情况。 登录Yarn

查看更多 →

用程序中需要写入安全认证代码，确保MapReduce程序能够正常运行。 安全认证有两种方式。 命令行认证 提交MapReduce应用程序运行前，在MapReduce客户端执行如下命令获得认证。 kinit 组件业务用户 代码认证 通过获取客户端的principal和keytab文件在应用程序中进行认证。

查看更多 →

多种数据源，支持MapReduce程序平滑转接。 集群服务部署规划 服务规模与业务容量参数配置对照表 Spark作为内存计算引擎，需要更多的内存和CPU。用户在规划规格时，应根据当前的业务容量和增长速度，规划合理的内存和CPU资源，特别需要关注以下几点： 当程序运行在yarn-c

查看更多 →

MapReduce Action 功能描述 MapReduce任务节点，负责执行一个map-reduce任务。 参数解释 MapReduce Action节点中包含的各参数及其含义，请参见表1。 表1 参数含义 参数 含义 name map-reduce action的名称 resourceManager

查看更多 →

使用MapReduce 配置使用分布式缓存执行MapReduce任务 配置MapReduce shuffle address 配置MapReduce集群管理员列表 通过Windows系统提交MapReduce任务 配置MapReduce任务日志归档和清理机制 MapReduce性能调优

查看更多 →

构建程序 本案例提供了实现告警日志功能的程序包，用户可以下载（index.zip）、学习使用。 创建功能函数 创建实现日志提取功能的函数，将示例代码包上传，如图1所示。创建过程请参考创建函数。 图1 创建函数 函数实现的功能是：将收到的日志事件数据进行分析，过滤白名单功能，对非法

查看更多 →

程序输出 代码片段描述 缩写 扩展内容 将表达式发送到标准输出 “print” print(my_expression) 父主题： 后缀片段

查看更多 →

子程序 存储在数据库中的存储过程、函数、操作符和高级包等。当在数据库上建立好后，可以在其他程序中调用它们。 父主题： 声明语法

查看更多 →

子程序 存储在数据库中的存储过程、函数和操作符及高级包等。当在数据库上建立好后，可以在其他程序中调用它们。 父主题： 声明语法

查看更多 →

构建程序 本例提供了实现图片压缩功能的程序包，使用空白模板创建函数，用户可以下载（fss_examples_image_thumbnail.zip）（sha256校验包）学习使用。 创建程序包 本例使用Python语言实现图片压缩的功能，有关函数开发的过程请参考Python函数开

查看更多 →

构建程序 本例提供了为图片打水印功能的程序包，使用空白模板创建函数，用户可以下载（watermark.zip）学习使用。 创建程序包 本例使用Python语言实现为图片打水印的功能，有关函数开发的过程请参考Python函数开发。本例不再介绍业务功能实现的代码，样例代码目录如图1所示。

查看更多 →

构建程序 本案例提供了实现提取告警日志功能的程序包，使用空白模板创建函数，用户可以下载（fss_examples_logstore_warning.zip）学习使用。 创建功能函数 创建实现日志提取功能的函数，将示例代码包上传。创建过程请参考创建函数，运行时语言选择“Python2

查看更多 →