基于Slurm构建泛HPC场景云上云下资源协同解决方案

创建Storm Topology 功能介绍 一个Topology是Spouts和Bolts组成的有向无环图。 应用程序是通过storm jar的方式提交，则需要在main函数中调用创建Topology的函数，并在storm jar参数中指定main函数所在类。 代码样例 下面代码片段在com

查看更多 →

开发Storm应用 Storm样例程序开发思路 创建Storm Spout 创建Storm Bolt 创建Storm Topology 父主题： Storm开发指南（安全模式）

查看更多 →

创建Storm Bolt 功能介绍 所有的消息处理逻辑都被封装在各个Bolt中。Bolt包含多种功能：过滤、聚合等等。 如果Bolt之后还有其他拓扑算子，可以使用OutputFieldsDeclarer.declareStream定义Stream，使用OutputCollector

查看更多 →

创建Storm Topology 功能介绍 一个Topology是Spouts和Bolts组成的有向无环图。 应用程序是通过storm jar的方式提交，则需要在main函数中调用创建Topology的函数，并在storm jar参数中指定main函数所在类。 代码样例 下面代码片段在com

查看更多 →

Storm日志介绍 本章节内容适用于 MRS 3.x及后续版本。 日志描述 日志路径：Storm相关日志的默认存储路径为“/var/log/Bigdata/storm/角色名”（运行日志），“/var/log/Bigdata/audit/storm/角色名”（审计日志）。 Nimb

查看更多 →

提交Storm拓扑失败排查思路 问题背景与现象 使用MRS流式集群，主要安装ZooKeeper、Storm、Kafka。 使用客户端命令，提交Topology失败。 可能原因 Storm服务异常。 客户端用户没有进行安全认证或者认证过期。 提交拓扑中包含storm.yaml文件和服务端冲突。

查看更多 →

管理Storm拓扑 操作场景 用户可以使用Storm的WebUI管理拓扑。“storm”用户组的用户只能管理由自己提交的拓扑任务，“stormadmin”用户组的用户可以管理所有拓扑任务。 操作步骤 访问Storm的WebUI，请参考访问Storm的WebUI。 在“Topology

查看更多 →

开发Storm应用 Storm样例程序开发思路 创建Storm Spout 创建Storm Bolt 创建Storm Topology 父主题： Storm开发指南

查看更多 →

创建Storm Spout 功能介绍 Spout是Storm的消息源，它是Topology的消息生产者，一般来说消息源会从一个外部源读取数据并向Topology中发送消息（Tuple）。 一个消息源可以发送多条消息流Stream，可以使用OutputFieldsDeclarer.

查看更多 →

提交Storm拓扑 Linux中安装客户端时提交Storm拓扑 Linux中未安装客户端时提交Storm拓扑 在IDEA中提交Storm拓扑 父主题： 调测Storm应用

查看更多 →

开发Storm应用 Storm样例程序开发思路 创建Strom Spout 创建Strom Bolt 创建Strom Topology 父主题： Storm开发指南（普通模式）

查看更多 →

码解压目录中“src\storm-examples”目录下的样例工程文件夹storm-examples并将storm-examples导入到IntelliJ IDEA开发环境，参见准备Storm应用开发环境。 在Linux环境下安装Storm客户端。 集群的Master节点或者C

查看更多 →

Manager，然后选择“集群 > 待操作的集群名称 > 服务 ”。 登录Storm WebUI： MRS 2.x及之前版本：选择“Storm”，在“Storm 概述”的“Storm WebUI”，单击任意一个UI链接，打开Storm的WebUI。 第一次访问Storm WebUI，需要在浏览器中添加站点信任以继续打开页面。

查看更多 →

执行以下命令，查看Storm中的拓扑。启用Kerberos认证的集群，只有属于“stormadmin”或“storm”的用户可以查看所有拓扑。 storm list 执行以下命令，删除Storm中的拓扑。 storm kill 拓扑名称 父主题： 使用Storm

查看更多 →

MRS 2.1.0版本集群对Storm日志的大小有什么限制？ 问： MRS 2.1.0版本的集群对Storm日志的大小有什么限制？ 答： MRS 2.1.0版本的集群对Storm日志有不超过20G的限制，超出后会循环删除。 因为日志是保存在系统盘上，有空间限制。如需长期保存，则需要将日志挂载出来。

查看更多 →

创建Storm Spout 功能介绍 Spout是Storm的消息源，它是Topology的消息生产者，一般来说消息源会从一个外部源读取数据并向Topology中发送消息（Tuple）。 一个消息源可以发送多条消息流Stream，可以使用OutputFieldsDeclarer.

查看更多 →

com/apache/storm/tree/v0.10.0/external/storm-hdfs。 Storm-HBase采用的接口同开源社区版本保持一致，详情参见： https://github.com/apache/storm/tree/v0.10.0/external/storm-hbase。

查看更多 →

打包Storm业务 Linux下打包Storm业务 Windows下打包Storm业务 父主题： 调测Storm应用

查看更多 →

提交Storm拓扑 Linux中安装客户端时提交Storm拓扑 Linux中未安装客户端时提交Storm拓扑 在IDEA中提交Storm拓扑 父主题： 调测Strom应用

查看更多 →

导入并配置Storm样例工程 背景信息 Storm客户端安装程序目录中包含了Storm开发样例工程，将工程导入到Eclipse开始样例学习。 前提条件 确保本地PC的时间与集群的时间差要小于5分钟，若无法确定，请联系系统管理员。集群的时间可通过MRS Manager页面右上角查看。

查看更多 →

配置影响。 为Storm业务用户配置独立的密码策略后，如果配置了跨集群互信，请根据此密码策略，在Manager为Storm业务用户重置密码。 前提条件 MRS集群管理员已明确业务需求，并创建好“人机”用户，例如“testpol”。 操作步骤 以“omm”用户登录集群内任意节点。 执行以下命令，防止超时退出。

查看更多 →