Linkis 1. Linkis管理台2. 支持标签功能3. AppGovernance应用治理实现4. 支持Flink和Spark Structured Streaming 介绍
Linkis是一个打通了多个计算存储引擎如:Spark、TiSpark、Hive、Python和HBase等,对外提供统一REST/WebSocket/JDBC接口,提交执行sql、Pyspark、HiveQL、Scala等脚本的计算中间件。
Linkis基于微服务架构,提供了金融级多租户隔离、资源管控、权限隔离等企业级特性,支持统一变量、UDF、函数、用户资源文件管理,具备高并发、高性能、高可用的大数据作业/请求全生命周期管理能力。
基于Linkis计算中间件的架构设计理念,在上层构建了很多的应用系统。
-
目前已开源的有: 数据研发IDE工具Scriptis。
-
即将开源的有: 数据可视化展示工具 、 图形化工作流工具 和 数据质量工具 。
核心特点:
目前支持的计算引擎有 :Spark、Python、TiSpark、Hive和Shell等。
支持的脚本语言有 :Sparksql、Spark Scala、Pyspark、R、Python、HQL和Shell等;
目前已支持的资源类型 :Yarn队列资源、服务器(cpu和内存)、用户并发个数等。
-
应用管理服务 :管理所有系统的所有用户应用,包括离线批量应用、交互式查询应用和实时流式应用,为离线和交互式应用提供强大的复用能力,并提供应用全生命周期管理,自动释放用户多余的空闲应用;
-
统一上下文服务 :统一用户和系统资源文件(JAR、ZIP、Properties等),用户、系统、计算引擎的参数和变量统一管理,一处设置,处处自动引用;
-
元数据服务 :实时的库表结构和分区情况展示。
与类似系统的对比:
Linkis跟Apache Livy和Apache Zeppelin
Interpreter的定位不一样,但是由于开源社区目前尚没有同类竞品,所以这里做一个简单对比供大家参考。
文档列表
更多文档,请点我访问
Architecture:
RoadMap
1. Linkis管理台
2. 支持标签功能
3. AppGovernance应用治理实现
4. 支持Flink和Spark Structured Streaming
如果您有任何需求,欢迎给我们提issue,我们将会及时给您回复。
Linkis 1. Linkis管理台2. 支持标签功能3. AppGovernance应用治理实现4. 支持Flink和Spark Structured Streaming 官网
https://gitee.com/WeBank/Linkis
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。