微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

apache spark conenct 提升spark 能力

spark 是一个很强大的工具,但是大家可能也会使用比较费事,包含了集群管理,以及多租户管理,所以社区开发了不少
基于spark 的扩展,apachekyuubi 就是一个典型提供了多租户以及直接使用sql 进行spark 操作的能力

原有spark 集成模式

 

 

新spark 集成模式

 

 

说明

apache spark conenct 利用了grpc 以及arrow 进行协议通信,这样以后我们开发基于spark 的处理就很简单了,从目前来说原有开源软件基于单体的模式都在向模块化
以及可灵活集成发现

参考资料

https://databricks.com/blog/2022/07/07/introducing-spark-connect-the-power-of-apache-spark-everywhere.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐