繁体   English   中英

numpy数组中有多少内存? RAM是限制因素吗?

[英]How much memory in numpy array? Is RAM a limiting factor?

我正在使用numpy创建一个边长为100的立方体数组,因此总共包含100万个条目。 对于每百万个条目,我插入一个100x100矩阵,其条目由随机生成的数字组成。 我使用以下代码来执行此操作:

import random
from numpy import *

cube = arange(1000000).reshape(100,100,100)

for element in cube.flat:
    matrix = arange(10000).reshape(100,100)
    for entry in matrix.flat:
        entry = random.random()*100
    element = matrix

我期待这需要一段时间,但是生成了100亿个随机数,我不确定我的电脑是否可以处理它。 这样一个阵列会占用多少内存? RAM是一个限制因素,即如果我的计算机没有足够的RAM,它是否无法实际生成阵列?

此外,如果有更高效的实现此代码,我会很感激提示:)

几点:

  • numpy数组的内存大小很容易计算。 它只是元素的数量乘以数据大小,加上一个小的常量开销。 例如,如果你的cube.dtypeint64 ,并且它有1,000,000个元素,那么它将需要1000000 * 64 / 8 = 8,000,000 cube.dtype 1000000 * 64 / 8 = 8,000,000字节(8Mb)。
  • 但是,正如@Gabe指出的那样,100 * 100 * 1,000,000双打将需要大约80 Gb
  • 这不会导致任何“破坏”本身,但由于您的计算机需要进行的所有交换 ,操作将会非常缓慢。
  • 你的循环不会达到预期的效果。 element = matrix不是替换cube的元素,而是简单地覆盖element变量,保持cube不变。 entry = random.rand() * 100
  • 相反,请参阅: http//docs.scipy.org/doc/numpy/reference/arrays.nditer.html#modifying-array-values

对于函数的“内部”部分,请查看numpy.random模块

import numpy as np
matrix = np.random.random((100,100))*100

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM