微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

Apache Hudi如何集成Prometheus/Pushgateway进行监控

这篇文章主要介绍Apache Hudi如何集成Prometheus/Pushgateway进行监控,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!

1. 可用性

在Hudi最新master分支,prometheus监控Hudi应用指标,该功能将在即将发布的0.6.0 版本中可用。

2. 简介

prometheus是一个流行的监控服务。在即将发布的Apache Hudi 0.6.0版本中,除已有的报告者类型(Graphite、JMX、DATADOG、用户自定义指标)之外,我们将引入通过pushgateway和httpserver方式报告Hudi指标的功能

3. 配置

3.1  pushgateway

类似于其他支持的报告者,启用pushgateway报告者需要配置以下属性

hoodie.metrics.on=true
hoodie.metrics.reporter.type=PROMETHEUS_PUSHGATEWAY

下面的属性用来配置pushgateway 的地址和端口号。地址认是localhost,端口认是9091

hoodie.metrics.pushgateway.host=x.x.x.x
hoodie.metrics.pushgateway.port=9091

下面属性用来配置任务结束时候是否将监控信息从pushgateway删除认是true

hoodie.metrics.pushgateway.delete.on.shutdown=false

下面属性用来配置任务名称前缀、是否需要随机的后缀,认是true

hoodie.metrics.pushgateway.job.name=xiaomm
hoodie.metrics.pushgateway.random.job.name.suffix=false

下面属性用来配置任务结束时候是否将监控信息从pushgateway删除认是true

hoodie.metrics.pushgateway.delete.on.shutdown=false

3.2  prometheus-httpserver

hoodie.metrics.on=true
hoodie.metrics.reporter.type=PROMETHEUS
hoodie.metrics.reporter.host=9090

至此配置介绍结束

4. 示例演示

在这个示例中,我们运行了一个 HoodieDeltaStreamer,启用了指标收集并做了相应的配置。

Apache Hudi如何集成Prometheus/Pushgateway进行监控

Apache Hudi如何集成Prometheus/Pushgateway进行监控

以上是“Apache Hudi如何集成Prometheus/Pushgateway进行监控”这篇文章的所有内容,感谢各位的阅读!希望分享内容对大家有帮助,更多相关知识,欢迎关注编程之家行业资讯频道!

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐