微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Spark提交任务时指定资源

--spark-submit
--master yarn               # 用yarn来管理资源
--deploy-mode cluster
--executor-cores            # 每个excutor进程分配多少个内核,一般指定为【3-5】个
--num-executors 50          # 一共申请多少个executor进程
--executor-memory 12G       # 每个executor进程分配多少内存,(yarn的cpu与内存的配比是1核:3~5G内存)
--driver-cores 2            # 一个driver的cpu数
--driver-memory 2G          # 一个driver的内存大小

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐