微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Bark 数据质量管理方案

程序名称:Bark

授权协议: GPL

操作系统: 跨平台

开发语言: Java

Bark 介绍

模型驱动的数据质量服务平台

Bark是eBay开发的一种应用于分布式数据系统中的开源数据质量解决方案,例如在Hadoop, Spark,
Storm等分布式系统中,Bark提供了一整套统一的流程来定义、测量数据集的质量并及时报告问题。可以@R_502_6329@fork下载源代码
https://ebay.github.io/DQSolution/

主要特性:

  • 精确度检测:验证结果集数据是否与源数据是一致的

  • 数据剖析:利用数据集的一致性、独特性和逻辑性,来进行统计分析和数值评估。

  • 异常监测:利用预先设定的算法,检测出不符合预期的数据

  • 可视化监测:利用控制面板来展现数据质量的状态。

核心优势:

  • 实时性:可以实时进行数据质量检测,能够及时发现问题。

  • 可扩展性:可以用于多个数据系统。

  • 可伸缩性:工作在大数据量的环境中,目前运行的数据量约1.2PB (eBay环境)。

自助服务:Bark提供了一个简单的用户界面,可以创建数据集以及相应规则;同时用户可以查看数据质量控制面板和自定义显示内容

主业务流程:

系统架构:

Bark 官网

https://ebay.github.io/DQSolution/

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐