原理回顾
一个RDD的两个分区的数据shuffle到另一个RDD的两个分区中后，如果上一个RDD还存在其他分区没执行完毕的话，不能往下执行，就会造成当前RDD内存数据挤压
所以中间就需要落盘操作，中间需要磁盘文件File
shuffle一定会有落盘，但是效率慢，如何提高效率？落盘数据量越少速度就会变快。算子如果存在预聚合功能，就会提升shuffle性能
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 [email protected] 举报，一经查实，本站将立刻删除。
