哪个深度学习库支持在手机上使用的深度学习模型的压缩？

Question

我想建立一个先进的深度学习模型（例如：使用注意力的模型），并在Android手机上使用它（当然不需要培训），我只会用它进行推理。
我想要一个库，可以做到这一点，并可以压缩模型的大小，以在手机或Android上使用。
您是否知道任何类似于我的目标的项目或应用程序？

Answer 1

有一个咖啡叉叫Ristretto。它允许压缩神经网络以降低数值精度（每个参数小于32位），同时保持高精度。 MXNet和Tensorflow现在也有这个功能。 Pytorch还没有。这些工具允许减少存储神经网络参数所需的内存，但它们并不特定于Android。