storm从入门到放弃教程(4)

Easter79
• 阅读 585

概述

     上一篇博文 https://my.oschina.net/u/2342969/blog/878084 详细讲解在生产和本地如何运行拓扑,

本篇就对storm开发环境的搭建进行详细讲解,欢迎同志(此同志非彼同志)们通过私信/评论等方式共同学习了解.

总述

      搭建一个开发环境,步骤很简单:

  1. 下载storm包(本文使用的1.1.0),解压到服务器上。下载地址:http://storm.apache.org/downloads.html(对应好版本进行下载)
  2. ~/.storm/storm.yaml  在此文件配置集群信息

具体操作下面会详细讲解

什么是开发环境

     storm有两种运行模式:本地模式和远程模式。本地模式中,在自己机器上完成开发和测试storm拓扑。在远程模式,将拓扑提交到集群中运行。

     storm开发环境搭建完成,就可以在本地机器完成开发和测试storm拓扑,将打包的拓扑提交到生产集群运行以及在生产集群中止和更新拓扑。

     下面说一下本地模式和远程模式的区别和联系,一个storm集群被成为“ Nimbus ”的主节点管理,提交拓扑以及拓扑在集群的执行都是执行机与Nimbus  通讯,Nimbus将代码发送到集群并分配工作进程运行拓扑。通过命令行客户端调用 storm 命令与Nimbus交互。storm 客户端仅在远程模式下使用;它无法在本地模式运行和测试拓扑使用。

在本地安装storm

     如果想在本地提交拓扑到远程集群,就需要在本地安装storm,安装完毕后,在本地会有storm 客户端和远程集群进行交互,在本地安装,步骤如下:

  1. 下载对应版本strom(下载地址:https://github.com/apache/storm/releases)
  2. 解压到机器任何目录(需要记住解压目录),本人举例解压到D盘根目录
  3. 确认 D://storm 下面的脚本是否可以执行

在本地安装storm 只是为了和远程集群交互,如果为了在本地开发和测试拓扑,推荐项目使用maven加入storm依赖,既可以开发测试了。

在本地启动停止一个生产集群的拓扑

      按照以上步骤安装storm,用于和生产集群交互。为了和生产集群进行交互,我们需要修改配置文件~/.storm/storm.yaml,举例如下:

nimbus.seeds: ["123.45.678.890"]
点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Wesley13 Wesley13
3年前
java将前端的json数组字符串转换为列表
记录下在前端通过ajax提交了一个json数组的字符串,在后端如何转换为列表。前端数据转化与请求varcontracts{id:'1',name:'yanggb合同1'},{id:'2',name:'yanggb合同2'},{id:'3',name:'yang
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
4个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Easter79 Easter79
3年前
storm从入门到放弃教程(5)
概述    上一篇【storm开发环境搭建】博文连接:https://my.oschina.net/u/2342969/blog/878765本篇会深入理解Streams,欢迎同志(此同志非彼同志)们通过私信/评论等方式共同学习了解.     Streams是storm中一个核心的概念,它是在分布式并行处理和创建的无限序列元组,St
Wesley13 Wesley13
3年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Easter79 Easter79
3年前
Storm VS Flink ——性能对比
!(https://oscimg.oschina.net/oscnet/2cec00eb2dccf5fdec8def77207da253a86.jpg)1.背景ApacheFlink和ApacheStorm是当前业界广泛使用的两个分布式实时计算框架。其中ApacheStorm(以下简称“Storm”)在美团点评实时
Wesley13 Wesley13
3年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
10个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这
Easter79
Easter79
Lv1
今生可爱与温柔,每一样都不能少。
文章
2.8k
粉丝
5
获赞
1.2k