numpy-memmap

    0热度

    1回答

    我在理解numpy.memmap的工作方式时遇到问题。背景是我需要通过删除条目来减少保存在光盘上的大型numpy阵列。读数组并通过复制所需的部分来建立一个新的部分不起作用 - 它只是不适合内存。所以想法是使用numpy.memmap - 即在光盘上工作。她是我的代码(具有很小的文件): import numpy in_file = './in.npy' in_len = 10 out_fi

    -1热度

    1回答

    我有一个包含32位浮点数N的大文件。此文件是使用numpys MEMMAP功能如下创建: mmoutput = np.memmap("filename", dtype='f4', mode='w+', offset=0, shape=N) mmoutput[:] = my_floats mmoutput.flush() 当我使用numpy的加载这些系数回来,并使用它们求和: mminput

    3热度

    1回答

    使用FLOAT32当我试图使用dask.array 文件导入1.25 GB数据集成蟒是uint16是一个1312 * 2500 * 196阵列。我需要将其转换为float32数组以备后续处理。 我设法然而缝合在一起这DASK数组中uint16,当我尝试转换为float32我得到内存错误。 无论我对块大小做什么,我都会遇到内存错误。 我通过连接在100线(打破了2500维阵列成的100行小件创建阵列

    1热度

    1回答

    让我说我有一些大的矩阵保存在磁盘上。存储所有在内存中是不是真的可行,所以我用MEMMAP访问它 A = np.memmap(filename, dtype='float32', mode='r', shape=(3000000,162)) 现在让我们说,我想遍历这个矩阵(基本上不是以有序的方式),使得每行会正好一次访问。 p = some_permutation_of_0_to_2999999