1）使用高性能序列化类库
2）优化数据结构
3）对多次使用的RDD进行持久化或Checkpoint
4）提高并行度（根据Spark官方的推荐，最优的方案是给集群中的每个cpu core设置2~3个task，也就是task的数量是cpu核的2~3倍。）
5）广播共享数据
6）数据本地化
7）reduceByKey和groupByKey的选择
8）shuffle性能优化
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 [email protected] 举报，一经查实，本站将立刻删除。
