微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

hadoop--hadoop集群常用脚本

集群启动/停止方式总结

各个模块分开启动/停止(前提配置ssh)常用
1). 整体启动/停止HDFS:

start-dfs.sh/stop-dfs.sh

2).整体启动/停止YARN:

start-yarn.sh/stop-yarn.sh

2.各个服务组建注意启动/停止

1). 分别启动/停止HDFS组件:

hdfs --daemon start/stop namenode/datanode/secondarynamenode

2). 启动/停止YARN:

yarn --daemon start/stop resourcemanager/nodemanager

编写Hadoop集群常用脚本

1.Hadoop集群启停脚本(包含HDFS、YARN、Historyserver):myhadoop.sh;

在/opt/module/hadoop-3.2.2/bin目录下创建myhadoop.sh:

[xiaobai@hadoop102 bin]$ vim myhadoop.sh

文件里输入如下内容

case $1 in
"start")
        echo "=========启动hadoop集群==========="

        echo "---------启动hdfs----------"
        ssh hadoop102 "/opt/module/hadoop-3.2.2/sbin/start-dfs.sh"
        echo "----------启动yarn----------"
        ssh hadoop103 "/opt/module/hadoop-3.2.2/sbin/start-yarn.sh"
        echo "----------启动historyserver----------"
        ssh hadoop102 "/opt/module/hadoop-3.2.2/bin/mapred --daemon start historyserver"
;;
"stop")
echo "=========关闭hadoop集群==========="

        echo "----------关闭historyserver----------"
        ssh hadoop102 "/opt/module/hadoop-3.2.2/bin/mapred --daemon stop historyserver"
        echo "----------关闭yarn------------"
        ssh hadoop103 "/opt/module/hadoop-3.2.2/sbin/stop-yarn.sh"
        echo "-----------关闭hdfs------------"
        ssh hadoop102 "/opt/module/hadoop-3.2.2/sbin/stop-dfs.sh"
;;
*)

        echo "Input Args Error..."
;;
esac

保存退出,赋予脚本权限:

[xiaobai@hadoop102 bin]$ chmod 777 myhadoop.sh 

2.查看3x服务器Java进程脚本:jpsall

在/opt/module/hadoop-3.2.2/bin目录下创建jpsall:

[xiaobai@hadoop102 bin]$ vim jpsall

输入如下内容

#!/bin/bash

for host in hadoop102 hadoop103 hadoop104
do
        echo ============ $host ===========
        ssh $host jps
done

保存退出,赋予脚本执行权限:

[xiaobai@hadoop102 bin]$ chmod +x jpsall

3.分发/home/xiaobai/bin目录,保证自定义脚本在三台机器上都可以使用:

[xiaobai@hadoop102 hadoop-3.2.2]$ xsync /home/xiaobai/bin/

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐