我正在使用 R 构建一个基于代理的模型,但我在尝试使用大对象时遇到了内存问题。特别是,在初始化时创建了 8 个 3D 数组,并且在每个时间步长每个 3D 数组都由不同的函数填充。
目前,ABM 运行时间超过 1825 天,并模拟了 2500 个人在整个景观中移动。景观中有1000个细胞。使用此配置,我没有内存问题。
在初始化时,
1 3D 数组是这样的:
h <- array(NA, dim=c(1825, 48, 2500), dimnames=list(NULL, NULL, as.character(seq(1, 2500, 1)))) ## 3th dimension = individual ID
1 3D 数组是这样的:
p <- array(NA, dim=c(1825, 38, 1000), dimnames=list(NULL, NULL, as.character(seq(1, 1000, 1)))) ## 3th dimension = cell ID
6 个 3D 数组如下:
t <- array(NA, dim=c(1825, 41, 2500), dimnames=list(NULL, NULL, as.character(seq(1, 2500, 1)))) ## 3th dimension = individual ID
数组包含字符/字符串数据类型。
理想情况下,我想增加个体数量和/或补丁数量,但由于内存问题,这是不可能的。似乎有一些可用的工具,如 bigmemory
、gc
来管理内存。这些工具有效吗?我是编程初学者,没有管理内存和高性能计算的经验。非常感谢您的任何建议,感谢您的宝贵时间。
sessionInfo() R version 3.5.3 (2019-03-11) Platform: x86_64-w64-mingw32/x64 (64-bit) Running under: Windows 7 x64 (build 7601) Service Pack 1
最佳答案
据我了解,bigmemory
只适用于矩阵而不是多维数组,但您可以将多维数组保存为矩阵列表。
gc
只是垃圾收集器,您实际上不必调用它,因为它会自动调用,但手册中还指出:
It can be useful to call gc after a large object has been removed, as this may prompt R to return memory to the operating system.
我认为对你的任务最有用的包是 ff
。
这里有一个简短的例子来说明 ff
包的强度,它将数据存储在磁盘上,几乎不影响内存。
使用 base-R 初始化数组:
p <- array(NA, dim=c(1825, 38, 1000),
dimnames=list(NULL, NULL, as.character(seq(1, 1000, 1))))
format(object.size(p), units="Mb")
"264.6 Mb"
所以总的来说,您的初始数组已经占用了将近 5GB 内存,这会给您带来繁重的计算问题。
用ff初始化数组:
library(ff)
myArr <- ff(NA, dim=c(1825, 38, 1000),
dimnames=list(NULL, NULL, as.character(seq(1, 1000, 1))),
filename="arr.ffd", vmode="logical", overwrite = T)
format(object.size(myArr), units="Mb")
[1] "0.1 Mb"
相等性测试:
euqals <- list()
for (i in 1:dim(p)[1]) {
euqals[[i]] <- all.equal(p[i,,],
myArr[i,,])
}
all(unlist(euqals))
[1] TRUE
关于r - 如何使用 R 在基于代理的建模中管理内存,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56402377/