为了减少我的应用程序从主机到设备的传输时间,我想使用固定内存。 NVIDIA's best practices guide建议使用以下代码映射缓冲区并写入数据:
cDataIn = (unsigned char*)clEnqueueMapBuffer(cqCommandQue, cmPinnedBufIn, CL_TRUE,CL_MAP_WRITE, 0, memSize, 0, NULL, NULL, NULL);
for(unsigned int i = 0; i < memSize; i++)
{
cDataIn[i] = (unsigned char)(i & 0xff);
}
clEnqueueWriteBuffer(cqCommandQue, cmDevBufIn, CL_FALSE, 0,
szBuffBytes, cDataIn, 0, NULL, NULL);
Intel's optimization guide建议使用对 clEnqueueMapBuffer 和 clEnqueueUnmapBuffer 的调用,而不是对 clEnqueueReadBuffer 或 clEnqueueWriteBuffer 的调用。
使用固定内存/映射内存的正确方法是什么?是否需要使用 enqueueWriteBuffer 写入数据或 enqueueMapBuffer 是否足够?
另外,CL_MEM_ALLOC_HOST_PTR 和 CL_MEM_USE_HOST_PTR 有什么区别?
最佳答案
这是一个有趣的话题,很少有人详细介绍。 我将尝试准确定义它的工作原理。
固定内存是指除了在设备中之外,还存在于主机中的内存,因此可以在这两个内存之间进行 DMA 写入。提高复印性能。
这就是为什么它需要 CL_MEM_ALLOC_HOST_PTR
在缓冲区创建参数中。
另一方面,CL_MEM_USE_HOST_PTR
将使用主机指针来创建缓冲区,规范不清楚这是否可以是固定内存。但一般来说,不应该以这种方式创建固定内存,因为主机指针没有被 OpenCL API 保留,并且不清楚它在内存中的位置。
关于 map /阅读问题。 两个都可以。他们会给出同样的表现。 这两种技术的区别在于:
- Map/Unmap:你需要在写/读之前先映射,然后再取消映射。这样可以确保数据的一致性。这些是 API 调用,需要时间来完成并且是异步的。好处是,除了缓冲区对象之外,您不需要持有任何其他东西。
- For Map+Read/Write:在创建内存区时,你需要做一个 Map 并保存指针值。然后,在销毁缓冲区时,您需要先 Unmap 然后销毁它。你需要一直持有
buffer+Mapped_Buffer
。好消息是您现在可以clEnqueueRead/Write
到该映射指针。 API 将等待固定数据保持一致,然后认为已完成。它更易于使用,因为它就像一次完成 map +取消 map 。
读/写模式更易于使用,特别适用于重复读取,但不如手动映射选项那样通用,因为您无法编写 只读
映射,也无法读取只写
映射。但对于一般用途,读取的变量永远不会被写入,反之亦然。
我的理解是Intel的推荐,指的是“使用Map,不是普通的Read/Write”,而不是“使用Map时,不要使用Read/Write over Mapped指针”。
您是否通过英特尔硬件检查过此 nVIDIA 建议?我认为它应该可以工作,但是我不知道该操作是否确实是最佳的(如在 AMD 或 nVIDIA HW 中)。
关于memory - 如何在 OpenCL 中使用固定内存/映射内存,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/24158909/