zookeeper-3.4.5-cdh5.3.6

应用服务器tomcat Tomcat7.0

表3.1列出了hadoop集群中应用到的软件版本信息,这些软件也不能一股脑的分配在同一个机器上,所以需要对各个节点进行分配服务,合理的分配也是集群性能调优的一种方式。表2.2是本文测试环境中对于5台节点的角色分配,及各个节点的硬件配置信息。

 

表2.2 开发环境的硬件配置信息表

服务器名称及IP 软件配置 运行的服务 硬件配置

Namenode01

192.168.109.141 Jdk1.7

hadoop-2.5.0-cdh5.3.6 NameNode、 ResourceManager DFS-ZKFailoverController

Intel(R)Core(TM) i5 CPU,、4G内存,1T硬盘

Namenode02

192.168.109.142 Jdk1.7

hadoop-2.5.0-cdh5.3.6 NameNode、 ResourceManager DFS-ZKFailoverController(zkfc)、 Intel(R)Core(TM) i5

CPU,、4G内存,1T硬盘

Datanode01

192.168.109.143 Jdk1.7

hadoop-2.5.0-cdh5.3.6

zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain、 Intel(R)Core(TM)i5 CPU,、4G内存,1T  硬盘

Datanode02

192.168.109.144 Jdk1.7

hadoop-2.5.0-cdh5.3.6zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain Intel(R)Core(TM)i5 CPU,、4G内存,1T   硬盘

Datanode03

192.168.109.145 Jdk1.7

hadoop-2.5.0-cdh5.3.6

zookeeper DataNode、NodeManager、JournalNode、QuorumPeerMain Intel(R)Core(TM)i5 CPU,、4G内存,1T  硬盘

hadoop2.4.1以后对于hadoop的集群安全性能提高很大,主要是引进了HDFS-HA高可靠性和YARN-HA高可靠性,分别能够对NameNode和ResourceManager进行实时备份。所以本文的hadoop2.5.0可以设置2个或2个以上的主节点,本文基于稳定性和容错性的考虑设置了Namenode01和Namenode02为两个主节点,启动的时候自动选择一个作为active主节点,另外一个作为standby备用节点;安装Hbase时候也考虑到安全性问题,选择Namenode01和Namenode02两个主节点作为HMaster,可以在开启了一个HMaster的时候,同时开启一个HMaster作为备用,所以active主节点和standby备用主节点都是由zookeeper监控,并在active主节点出现问题的时候无缝切换到standby节点。Datanode01~03作为hadoop的3个子节点,完成HDFS分布式存储数据和job任务计算。表2.2中的第三列运行的服务分别对应于表2.3中的解释。

上一篇:java+mysql网上图书销售系统的设计与实现
下一篇:asp.net培训中心考试系统开发与建设

《信息技术课程标准》微课的设计与制作

《读书交流分享》APP的设计与开发

《信息技术课程标准》系列微课的设计与制作

《大学生课堂教学管理与...

教育技术学专业技能学习网站的设计

基于Android的电子拍卖系统设计与开发

基于Web应用的致胜公司企业内部培训系统设计

浅谈农村大气环境保护的制度构建【1868字】

激光模拟训练器材国内外研究现状

个案管理茬老年糖尿病患...

日语论文中日酒文化对比研究

大淘宝网的虚假交易研究

发酵米粉优势菌株的发酵特性研究

新疆农林高校學生昆虫生...

肢体语言在小学英语教学中的应用浅谈

淮安市高校足球运动损伤问卷调查表

2021年什么行业赚钱,适合...