0
我正在使用@shai的代码将数据转换为hdf5,但转换后数据的大小过大,大于caffe的限制大小(2GB) 那么,我的问题是我们应该如何拆分数据? 我们只需要分别转换数据取决于我们想要的?如何将分割回归数据转换为hdf5(Caffe)
我正在使用@shai的代码将数据转换为hdf5,但转换后数据的大小过大,大于caffe的限制大小(2GB) 那么,我的问题是我们应该如何拆分数据? 我们只需要分别转换数据取决于我们想要的?如何将分割回归数据转换为hdf5(Caffe)
这将有助于获得更多的信息以给出更好的答案。请给出Caffe给你的实际错误。另外,什么是大于2GB?它是txt文件吗?
HDF5效率不高。我会建议使用数据库层(http://caffe.help/manual/layers/data.html)或编写自己的自定义Python层(http://caffe.help/manual/layers/python.html)。
您是否将每个示例都制作为hdf5文件,并且单个示例大于2GB?你能添加一个链接到shai的代码以供参考吗? – Jonathan
@Jonathan我使用caffe中的matlab示例代码来转换我的数据,并且我自己将文本文件中的数据分开,但是这个shai的代码: http://stackoverflow.com/q/31774953/6281477 –