--spark-submit
--master yarn # 用yarn来管理资源
--deploy-mode cluster
--executor-cores # 每个excutor进程分配多少个内核,一般指定为【3-5】个
--num-executors 50 # 一共申请多少个executor进程
--executor-memory 12G # 每个executor进程分配多少内存,(yarn的cpu与内存的配比是1核:3~5G内存)
--driver-cores 2 # 一个driver的cpu数
--driver-memory 2G # 一个driver的内存大小
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。