基于Slurm构建泛HPC场景云上云下资源协同解决方案

Storm应用开发概述 Storm应用开发简介 Storm应用开发常用概念 Storm应用开发流程 父主题： Storm开发指南（安全模式）

查看更多 →

Storm应用开发简介 简介 Storm是一个分布式的、可靠的、容错的数据流处理系统。它会把工作任务委托给不同类型的组件，每个组件负责处理一项简单特定的任务。Storm的目标是提供对大数据流的实时处理，可以可靠地处理无限的数据流。 Storm有很多适用的场景：实时分析、在线机器学

查看更多 →

。 Storm应用开发常用概念 准备开发和运行环境 Storm的应用程序当前推荐使用Java语言进行开发。可使用IntelliJ IDEA工具。 Storm的运行环境即Storm客户端，请根据指导完成客户端的安装和配置。 准备Storm应用开发和运行环境 准备工程 Storm提供

查看更多 →

查看Storm拓扑日志 操作场景 用户需要查看Storm拓扑在worker进程中的执行情况时，需要查看worker中关于拓扑的日志。如果需要查询拓扑在运行时数据处理的日志，提交拓扑并启用“Debug”功能后可以查看日志。仅启用Kerberos认证的流集群支持该场景，且用户需要是拓

查看更多 →

导入并配置Storm样例工程 背景信息 Storm客户端安装程序目录中包含了Storm开发样例工程，将工程导入到IntelliJ IDEA开始样例学习。 前提条件 确保本地PC的时间与集群的时间差要小于5分钟，若无法确定，请联系系统管理员。集群的时间可通过 FusionInsight

查看更多 →

.0.0.1:28443/web”。 选择“集群 > 待操作集群的名称 > 服务 > Storm”，单击进入Storm WebUI。 在Storm UI中单击word-count应用，查看应用程序运行情况，如图1所示。 图1 Storm应用程序执行界面 Topology stat

查看更多 →

，并正常运行。 已搭建Storm示例代码工程，将storm-examples导入到Eclipse开发环境，参见导入并配置Storm样例工程。 用WinScp工具将Storm客户端安装包导入Linux环境并安装客户端，参见准备Linux客户端环境。 如果集群启用了安全服务，需要从管

查看更多 →

.0.0.1:28443/web”。 选择“集群 > 待操作集群的名称 > 服务 > Storm”，单击进入Storm WebUI。 在Storm UI中单击word-count应用，查看应用程序运行情况，如图1所示。 图1 Storm应用程序执行界面 Topology stat

查看更多 →

将jar包放在1中指定的目录下。 在Storm客户端安装目录“Storm/storm-1.2.1/bin”下执行打包命令，将上述jar包打成一个完整的业务jar包放入指定目录/opt/jartarget（可为任意空目录）。执行sh storm-jartool.sh /opt/jarsource/

查看更多 →

导入并配置Storm样例工程 背景信息 Storm客户端安装程序目录中包含了Storm开发样例工程，将工程导入到Eclipse开始样例学习。 前提条件 确保本地PC的时间与集群的时间差要小于5分钟，若无法确定，请联系系统管理员。集群的时间可通过 MRS Manager页面右上角查看。

查看更多 →

拓扑提交成功后，请登录HDFS集群查看/user/foo目录下是否有文件生成。 如果使用票据登录，则需要使用命令行定期上传票据，具体周期由票据刷新截止时间而定，步骤如下。 在安装好的storm客户端目录的Storm/storm-0.10.0/conf/storm.yaml文件尾部新起一行添加如下内容。

查看更多 →

。 可能原因 集群中Supervisor处于异常状态。 处理步骤 检查Supervisor状态 选择“集群 > 待操作集群的名称 > 服务 > Storm > Supervisor”，进入Storm服务管理页面。 查看“角色”中是否存在状态为故障或者是正在恢复的Supervisor实例。

查看更多 →

集群中Supervisor处于异常状态。 集群中Supervisor的状态正常，但是处理能力不足。 处理步骤 检查Supervisor状态 选择“集群 > 待操作集群的名称 > 服务 > Storm > 实例”，进入Storm实例管理页面。 查看是否存在状态为“故障”或者是“正在恢复”的Supervisor实例。

查看更多 →

码解压目录中“src\storm-examples”目录下的样例工程文件夹storm-examples并将storm-examples导入到IntelliJ IDEA开发环境，参见准备Storm应用开发环境。 在Linux环境下安装Storm客户端。 集群的Master节点或者C

查看更多 →

ALM-26054 Storm Nimbus堆内存使用率超过阈值（2.x及以前版本） 告警解释 系统每30秒周期性检测Storm Nimbus堆内存使用率，并把实际的Storm Nimbus堆内存使用率和阈值相比较。当Storm Nimbus堆内存使用率超出阈值（默认值为80%）时产生该告警。

查看更多 →

方式一：通过storm原生页面查看进程堆栈 登录Storm原生界面。 MRS Manager界面操作： 访问MRS Manager。 在Manager选择“服务管理 > Storm”，在“Storm 概述”的“Storm WebUI”，单击任意一个UI链接，打开Storm的WebUI。

查看更多 →

在Linux环境中调测Storm应用 操作场景 Storm应用程序不支持在Windows环境下运行，只支持在Linux环境下运行。 在Linux环境下可以使用storm命令行完成拓扑的提交。 前提条件 已安装Storm客户端。 当客户端所在主机不是集群中的节点时，需要在客户端所在

查看更多 →

系统当前指标取值满足自定义的告警设置条件。 对系统的影响 集群已经存在的任务无法运行。 集群可接收新的Storm任务，但是无法运行。 可能原因 集群中Supervisor处于异常状态。 处理步骤 检查Supervisor状态。 登录MRS集群详情页面，选择“组件管理”。 选择“Storm > Supervisor”，进入Storm服务管理页面。

查看更多 →

Linux中安装客户端时提交Storm拓扑 操作场景 在Linux环境下可以使用storm命令行完成拓扑的提交。 前提条件 已安装Storm客户端。 当客户端所在主机不是集群中的节点时，需要在客户端所在节点的hosts文件中设置主机名和IP地址映射。主机名和IP地址请保持一一对应。

查看更多 →

Storm开发指南 Storm应用开发概述 准备Storm应用开发环境 开发Storm应用 调测Storm应用 Storm应用开发常见问题

查看更多 →

Storm应用开发流程介绍 本文档主要基于Java API进行Storm拓扑的开发。 开发流程如图1所示。 图1 拓扑开发流程 表1 Storm应用开发的流程说明 阶段 说明 了解基本概念 在开始开发应用前，需要了解Storm的基本概念。 准备开发环境 推荐使用Eclipse工具

查看更多 →