如何使用C++为tensorflow加载检查点和推理？

Question

我Tensorflow与Python API，并得到了这些检查点模型文件：

model.ckpt-17763.data-00000-of-00001 
model.ckpt-17763.index 
model.ckpt-17763.meta 

但我希望有一个C/C++共享库（.so文件）集成到生产时。所以我需要加载这些模型文件并用C++代码进行推理并编译为共享库。有没有一些教程或样本来做到这一点？

Answer 1

你可以编写C++代码来加载和使用你的图形，给出的指令here。

您可以使用文件here在TF资源库之外创建一个张量流的Cmake项目，然后编译您的库。

但是，您仍然需要在.so文件旁边.ckpt文件，我不知道如何在它们之间插入它们。

有很多关于SO的问题和一些教程（参见this answer中引用的两个），但是由于张量流变化迅速，它们很快就会过时，并且总是有点难以实现正常工作（完全可行，并且越来越容易）。