微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

06 Spark SQL 及其DataFrame的基本操作

1.Spark sql出现的 原因是什么?

目前关系数据库在大数据时代已经不能满足各种新增的用户需求。Spark sql的出现,填补了这个鸿沟。首先,Spark sql可以提供DataFrame API,可以对内部和外部各种数据源执行各种关系操作;其次,可以支持大量的数据源和数据分析算法,组合使用Spark sql和Spark MLlib,可以融合传统关系数据库结构化数据管理能力和机器学习算法的数据处理能力,有效满足各种复杂的应用需求。

 

2.用spark.read 创建DataFrame

 

 

 

 

 

3.观察从不同类型文件创建DataFrame有什么异同?

 txt文件创建的DataFrame数据没有结构而json文件创建的DataFrame数据有结构

 

4.观察Spark的DataFrame与Python pandas的DataFrame有什么异同?

 

 

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐