python - 巨大的对称矩阵——如何巧妙地存储和使用——Python

标签 python bigdata matrix-multiplication matrix-inverse symmetric

我有一个对称矩阵。 现在,问题是我需要填充这样一个维度矩阵 (32**3) x (32**3)。我需要填充矩阵的原因是因为在我的程序中我将它用于各种计算:我正在反转它,我正在将它与其他矩阵相乘......在我看来,为了执行这些各种你确实需要实际存储完整矩阵的计算,你不能只使用其中的一半(但我可能是错的,在这种情况下请告诉我我应该怎么做)。

问题是这样的矩阵对我的电脑来说太大了,我得到了以下错误:

Traceback (most recent call last):
    File "program.py", line 191, in <module>
        A = zeros((n_x*n_y*n_z. n_x*n_y*n_z), float)
MemoryError

在这里,n_x = 32。那么,我该如何解决这个问题呢?有没有什么方法可以存储这么大的矩阵,或者有什么巧妙的方法可以避免存储它?这两种方法对我来说都可以,只要我可以使用它们而不会在计算中出错。

为了完整起见,我在下面报告了 A 矩阵是如何构建的:

    n_x = n_y = n_z = 32
    L_x = L_y = L_z = n_x
    A = zeros((n_x*n_y*n_z , n_x*n_y*n_z), float)
    P_0 = 50.0
    sigma_x = sigma_y = sigma_z = 0.9
    sigma_root = np.sqrt(sigma_x**2 + sigma_y**2 + sigma_z**2)
    twosigmasquared = 2.*sigma_root**2
    for l in range(n_x*n_y*n_z):
        for m in range(n_x*n_y*n_z):
            A[l][m] = P_0*(L_x/(np.sqrt(2.*np.pi)*sigma_root*n_x**2)) * (L_y/(np.sqrt(2.*np.pi)*sigma_root*n_y**2)) * (L_z/(np.sqrt(2.*np.pi)*sigma_root*n_z**2))*np.exp((-((x[l]-x[m])**2)-((y[l]-y[m])**2)-((z[l]-z[m])**2))/twosigmasquared)
            A[m][l] = A[l][m]

最佳答案

要节省 50% 的空间,您可以使用 scipy 中的 lil_sparse 矩阵。

from scipy import sparse as S
A = S.lil_matrix((n_x*n_y*n_z , n_x*n_y*n_z), float)

n_x = n_y = n_z = 32
L_x = L_y = L_z = n_x
P_0 = 50.0
sigma_x = sigma_y = sigma_z = 0.9
sigma_root = np.sqrt(sigma_x**2 + sigma_y**2 + sigma_z**2)
twosigmasquared = 2.*sigma_root**2
for l in range(n_x*n_y*n_z):
    for m in range(l, n_x*n_y*n_z): # Filling only the top half
        A[l][m] = P_0*(L_x/(np.sqrt(2.*np.pi)*sigma_root*n_x**2)) * (L_y/(np.sqrt(2.*np.pi)*sigma_root*n_y**2)) * (L_z/(np.sqrt(2.*np.pi)*sigma_root*n_z**2))*np.exp((-((x[l]-x[m])**2)-((y[l]-y[m])**2)-((z[l]-z[m])**2))/twosigmasquared)

然后您可以编写一个辅助函数,而不是访问矩阵本身:

def getA(i, j):
    if i < j:
        return A[j, i]
    else:
        return A[i, j] 

但是,如果您想使用标准方法计算矩阵的逆,想要有效地乘以矩阵或执行任何操作,这对您没有多大帮助。

将整个矩阵保存在内存中可能是更好的选择。

关于python - 巨大的对称矩阵——如何巧妙地存储和使用——Python,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/31940864/

相关文章:

python - 在 Python 中对对象进行排序

Python XLWT - 插入与单元格右上角对齐的图像

sql - 如何存储稀疏邻接矩阵

python - Pytorch 广播两个张量的乘积

Python BeautifulSoup 编码

python - "Time Limit Exceeded"关于 LeetCode 的三和题?

java - Morphlines Java自定义命令类在哪里存储?

algorithm - 从另一个点有效地找到最近的点

Java ThreadPool 限制创建的最大线程数

c - 需要帮助使用 MPI 调试并行矩阵乘法