c++ - 大数组的 cudaMemcpy2D 错误

Question

我尝试使用 cudaMallocPitch 和 cudaMemcpy2D，但是当我尝试对大型数组使用 cudaMemcpy2D 时，我遇到了一个问题:

Segmentation fault

这是可运行的源代码，没有错误。

#include "cuda_runtime.h"
#include "device_launch_parameters.h"

#include <iostream>
#include <random>

#define ROW_SIZE 32
#define COL_SIZE 1024

int main()
{
    float ** pfTest;
    pfTest = (float**)malloc(ROW_SIZE * sizeof(float*));
    for (int i = 0; i < ROW_SIZE; i++) {
        pfTest[i] = (float*)malloc(COL_SIZE * sizeof(float));
    }

    std::default_random_engine generator;
    std::uniform_real_distribution<float> distribution;

    for (int y = 0; y < ROW_SIZE; y++) {
        for (int x = 0; x < COL_SIZE; x++) {
            pfTest[y][x] = distribution(generator);
        }
    }   

    float *dev_Test;
    size_t pitch;
    cudaMallocPitch(&dev_Test, &pitch, COL_SIZE * sizeof(float), ROW_SIZE);
    cudaMemcpy2D(dev_Test, pitch, pfTest, COL_SIZE * sizeof(float), COL_SIZE * sizeof(float),  ROW_SIZE, cudaMemcpyHostToDevice);
    printf("%s\n", cudaGetErrorString(cudaGetLastError()));

    return 0;
}

如您所见，完全没有问题。 但是，当我尝试将 COL_SIZE 扩展到 500,000 左右(确切地说，524288)时，它因段错误而崩溃。

关于问题的根源有什么帮助吗？

Answer 1

cudaMemcpy2D 只能用于复制倾斜的线性内存。您的源数组不是倾斜的线性内存，它是一个指针数组。这不受支持，并且是段错误的来源。

尝试这样的事情:

float*  buffer;
float** pfTest;
const size_t buffer_pitch = size_t(COL_SIZE) * sizeof(float); 
buffer = (float*)malloc(size_t(ROW_SIZE) * buffer_pitch);
pfTest = (float**)malloc(ROW_SIZE * sizeof(float*));
for (size_t i = 0; i < ROW_SIZE; i++) {
    pfTest[i] = buffer + i * size_t(COL_SIZE);
}

// ...

cudaMallocPitch(&dev_Test, &pitch, buffer_pitch, ROW_SIZE);
cudaMemcpy2D(dev_Test, pitch, buffer, buffer_pitch, 
               buffer_pitch, ROW_SIZE, cudaMemcpyHostToDevice);

[注意:用浏览器编写，未经测试或编译，使用风险自负]

即将要复制的数据存储在一个连续的内存分配中，它可以作为 cudaMemcpy2D 的倾斜线性源。如果您坚持在主机上使用[][] 样式的索引，那么您必须付出额外的代价，即在数据旁边存储一个额外的指针数组。请注意，这实际上不是必需的，您可以直接索引到 buffer 并获得相同的结果，同时节省内存。