GraphPipe 介绍
GraPHPipe 是甲骨文开源的通用深度学习模型部署框架。官方对 GraPHPipe
的定义为,这是一种协议和软件集合,旨在简化机器学习模型部署并将其与特定于框架的模型实现分离。
甲骨文表示,这一新工具可提供跨深度学习框架的模型通用 API、开箱即用的部署方案以及强大的性能。
GraPHPipe 为在网络上传递张量数据(tensor
data)提供了一个标准、高性能的协议,以及提供了客户端和服务器的简单实现,因而使得从任何框架部署和查询机器学习模型变得轻而易举。GraPHPipe
的高性能服务器支持 TensorFlow、PyTorch、MXNet、cntk 和 Caffe2。
-
基于 flatbuffers 的极简机器学习传输规范
-
适用于 Tensorflow,Caffe2 和 ONNX 的简单高效参考模型服务器(reference model servers)
-
Go,Python 和 Java 的高效客户端实现
使用这些工具,企业应该可跨多个服务器进行模型的部署,或者使用通用协议从不同的框架创建模型集合。GraPHPipe
可以帮助为依赖远程运行模型的物联网应用程序部署机器学习。
GraphPipe 官网
https://oracle.github.io/graphpipe/#/
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。