微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

YARN执行DistributedShell示例

本文介绍YARN自带一个非常简单的应用程序实例—distributedshell的使用方法。它可以看做YARN编程中的“hello world”,主要功能是并行执行用户提供的shell命令或者shell脚本。

我的集群情况,主要关注1个RM和3个NM

在这里插入图片描述

distributedShell创建一个hello-world文件

  • 这里不能用echo输出,应该是运行环境输出定向的问题
  • 我自己虚拟机跑的,只有3个NM,内存设置的也比较小
$HADOOP_HOME/bin/hadoop jar $HADOOP_HOME/share/hadoop/yarn/hadoop-yarn-applications-distributedshell-2.7.6.jar \
org.apache.hadoop.yarn.applications.distributedshell.Client \
   --jar $HADOOP_HOME/share/hadoop/yarn/hadoop-yarn-applications-distributedshell-2.7.6.jar\
   --shell_command "touch /tmp/hello-world" \
   --num_containers 3 \
   --container_memory 350 \
   --master_memory 350 \
   --priority 10

可以看到3个NM都执行了这个命令

在这里插入图片描述

成功了之后可以看到三台机器上都创建出了hello-world

在这里插入图片描述

如果想了解distributedShell是怎么实现的,可以参考distributedshell源码分析

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐