neural-network - 神经网络有没有通用的格式

Question

不同的团队使用不同的库来训练和运行神经网络(caffe、torch、theano...)。这使得共享变得困难:每个库都有自己的格式来存储网络，并且每次要测试其他团队的工作时都必须安装一个新库。

我正在寻找解决方案，使这不那么乏味:
- 是否有首选(共享？)格式来存储神经网络？
- 是否有可以帮助处理不同类型网络/或将一种类型转换为另一种类型的服务或库？

谢谢!

Answer 1

Is there a preferred (shared?) format to store neural networks?

每个库/框架都有自己的序列化，例如Caffe 使用 Protocol Buffers , Torch 有 built-in serialization scheme和 Theano 对象可以是 serialized with pickle .

在某些情况下，例如 OverFeat或 darknet权重和偏差通过普通 fwrite 以二进制格式存储在磁盘上-s 对应的 float (或 double)连续数组(有关更多详细信息，请参阅 this answer)。请注意，这不包括必须单独知道或表示的网络/模型的架构(如 declared explicitly at load time )。

另外:像 libccv 这样的图书馆将结构和权重存储在 SQLite database 中.

Is there a service or library that can help handle different types of networks / or transform one type into another?

我认为没有一个(元)库声称这样做。但它存在提供方便转换器的不同项目。

一些示例(非详尽无遗):

Caffe -> 火炬:https://github.com/szagoruyko/loadcaffe

Torch -> Caffe:https://github.com/facebook/fb-caffe-exts

Caffe -> TensorFlow:https://github.com/ethereon/caffe-tensorflow

——

更新 (2017-09):两个值得注意的举措是:

(1) ONNX格式(又名开放神经网络交换):

[...] a standard for representing deep learning models that enables models to be transferred between frameworks

看到这些 blog posts .

(2) CoreML Apple 推出的格式:

[...] a public file format (.mlmodel) for a broad set of ML methods [...] Models in this format can be directly integrated into apps through Xcode.