微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

GraphPipe 深度学习模型部署框架

程序名称:GraphPipe

授权协议: UPL

操作系统: 跨平台

开发语言: C/C++

GraphPipe 介绍

GraPHPipe 是甲骨文开源的通用深度学习模型部署框架。官方对 GraPHPipe
的定义为,这是一种协议和软件集合,旨在简化机器学习模型部署并将其与特定于框架的模型实现分离。

甲骨文表示,这一新工具可提供跨深度学习框架的模型通用 API、开箱即用的部署方案以及强大的性能

GraPHPipe 为在网络上传递张量数据(tensor
data)提供了一个标准、高性能的协议,以及提供了客户端和服务器的简单实现,因而使得从任何框架部署和查询机器学习模型变得轻而易举。GraPHPipe
的高性能服务器支持 TensorFlow、PyTorch、MXNet、cntk 和 Caffe2。

GraPHPipe 包括

  • 一组 flatbuffer 定义

  • 根据 flatbuffer 定义一致的模型的指南

  • 来自各种机器学习框架的模型的示例

  • 用于通过 GraPHPipe 查询模型的客户端库

GraPHPipe 功能特性

  • 基于 flatbuffers 的极简机器学习传输规范

  • 适用于 TensorflowCaffe2ONNX 的简单高效参考模型服务器(reference model servers)

  • Go,Python 和 Java 的高效客户端实现

使用这些工具,企业应该可跨多个服务器进行模型的部署,或者使用通用协议从不同的框架创建模型集合。GraPHPipe
可以帮助为依赖远程运行模型的物联网应用程序部署机器学习。

GraphPipe 官网

https://oracle.github.io/graphpipe/#/

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐