微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Spark学习入门

写给自己的话:

    对于大数据开发的工作要求,spark随时可见。所以要下定决心好好看一看spark相关的技术。

学习目录:

第一步是配置spark环境:包括linux系统的安装,java,ssh,Hadoop,Scala,spark的安装与环境变量设置。

第二步:java学习。

第三步:Hadoop学习。HDFS,MR计算框架,必须得知道吧。spark也是需要在HDFS上进行数据获取的,学习Hadoop才能知道其不足,明白spark的优势,为什么Hadoop必死。在hdfs的操作指令也必须掌握。能会写MapReduce程序就再好不过了。 第四步:Scala学习。函数式编程,重点明白这个吧。只需能看懂,而且会使用Scala操作RDD就行。 第五步:就是spark学习。当然,最好学习spark的方式就是看官方文档,读源码,看博客博客写的都太简单,没有特别深入的),看RDD的论文,作业如何调度,某研究院的spark官方文档中文翻译https://www.cnblogs.com/BYRans/p/5057110.html   学习渠道:
  • 官网的编程手册
  • 只有实际项目才能从本质上提升一个人的spark能力
 

 

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐