streamDM 介绍
streamDM，是由华为诺亚方舟实验室开源的使用 Spark Streaming 挖掘大数据的开源软件。
大数据流学习
大数据流学习（Big Data stream
learning）比批量或离线学习更富有挑战性，因为数据在流动的过程中不太可能保持同一种分布。而且，数据流中的每一个样本只能被处理一次，否则它们就需要占用内存进行总结，同时该学习算法也必须非常高效。
Spark Streaming
Spark Streaming 是核心 Spark API
的一个扩展，它能让多个源的数据流处理成为可能。Spark
是一个可扩展可编程的框架，用于大规模分布式数据集（也称为弹性分布式数据集（RDD））处理。Spark Streaming 接收输入的数据流后将数据分批，再由
Spark 引擎处理，生成结果。
Spark Streaming 数据被编成一个 DStreams 序列，内在地表示成一个 RDD 序列。
包含以下方法：
在第一次开放的 StreamDM 中，我们部署了：
我们部署了以下数据生成器：
我们部署了 SampleDataWriter：
它可以调取数据生成器创建样本数据用于模拟和测试。后面我们将计划开放：
-
回归：Hoeffding 回归树，Bagging，随机森林
-
聚类：Clustree, DenStream
下一步
为了快速介绍一下 StreamDM 的运行，请打开 Getting Started 文件。StreamDM Programming Guide
展示了 StreamDM
的细节。完整的 API 文档，可以参考这里：http://huawei-noah.github.io/streamDM/api/index.html。
streamDM 官网
http://huawei-noah.github.io/streamDM/
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 [email protected] 举报，一经查实，本站将立刻删除。
