微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Hadoop集群部署

集群规划

HDFS需要部署NameNodeDatanode
YARN需要部署ResourceManagerNodeManager

假设现在有三台服务器,规划方式如下:
hadoop000 192.168.199.234

  • NameNode
  • Datanode
  • ResourceManager
  • NodeManager

hadoop001 192.168.199.235

hadoop002 192.168.199.236

配置

  • 修改hostname(每台都要):vim /etc/hostname,将hostname分别改为hadoop000、hadoop001和hadoop002
  • 配置hostname和ip的映射关系(每台都要):vim /etc/hosts
    e.g:假设当前机器是hadoop000,则配置如下:
    192.168.199.234 hadoop000
    192.168.199.235 hadoop001
    192.168.199.236 hadoop002
    192.168.199.234 localhost
    

前置安装

  • ssh免密登录 (每台都要):ssh-keygen -t rsa

  • 机器间免密登录(只要hadoop000):

    ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop000
    ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop001
    ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop002
    

    第一次执行需要密码,后续就不用输密码

  • JDK、Hadoop安装(每台都要)

senga07 发布了28 篇原创文章 · 获赞 18 · 访问量 1万+ 私信 关注

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐