如何部署二元神经网络？

Question

我遇到过各种精彩论文，如https://arxiv.org/abs/1603.05279 https://arxiv.org/abs/1602.02830 显示了二值化神经网络如何减少模型大小并缩短执行时间。但是这里公布的研究代码https://github.com/allenai/XNOR-Net和https://github.com/itayhubara/BinaryNet在内部将二进制权重表示为浮点数据类型（仅限于二进制值）。我想知道是否有任何框架提供了有效推理（运行时内存和速度）的实现。我似乎没有在流行的框架如tensorflow和torch7中找到任何模块。

Answer 1

如果你想更深入地了解在GPU内核进行二值化网络，那么这Theano项目相关：https://github.com/MatthieuCourbariaux/BinaryNet/tree/master/Run-time

霓虹灯有一些位层的支持，在此承诺介绍：https://github.com/NervanaSystems/neon/commit/caf0aaaaa1438b09c905e0780ba1120c6fd25f1c

至于Tensorflow，你应该保持对该问题的兴趣＃1592

另外，您可能有兴趣阅读论文“Bitwise Neural Networks”Minje Kim，Paris Smaragdis。