我的机器是Intel IvyBride架构。我的L3缓存是12MB，16路关联，缓存行大小64B。
我的程序中有一个非常大的数组长数组[12MB/sizeof(long)]。我想在程序执行之前预加载大数组以加快初始化过程。
我能想到的实现此目的的一种方法是“按顺序”访问从索引 0 到数组末尾的整个数组。然而，访问整个数组的时间太大。这种方法使用一个核心。
我可以做的另一种方法是使用多个线程并行访问整个数组。每个线程仅访问数组的一部分。由于这些线程可以在多个核心上运行，因此这可以加快将阵列预加载到共享缓存的速度。然而，这种方法需要多核来运行这些线程。
我的问题是: 是否有任何硬件(例如 DMA)可以用来发出命令并使硬件将一堆数据预加载到共享缓存？
最佳答案
在某些情况下可能会出现这种情况 - 检查您的 CPU 是否支持“DCA”(直接缓存访问)，以及是否可以激活此功能。这可能有用:https://www.myricom.com/software/myri10ge/790-how-do-i-enable-intel-direct-cache-access-dca-with-the-linux-myri10ge-driver.html
不过，我认为您并不真正需要这个，按顺序遍历整个数组应该非常有效，因为 CPU 很容易将其识别为顺序流并触发硬件预取器。由于它是 IvyBridge，即使是线性页面交叉也应该很快，因为它可以预取到下一个物理页面。并行访问多个页面时可能会进行一些优化(也包括 TLB 未命中延迟)，但最终这一切都归结为一个问题 - 您能否使内存带宽饱和。单个核心可能会遇到核心/L3 边界中的瓶颈，因此最佳方法是通过在每个核心上运行硬件线程来分配工作，每个核心到不同的段(大小可能是每次迭代一个 4k 页，但较大的 block 也将享受每个核心中页面映射局部性的好处)
但是，您可能会遇到比访问数据更大的问题，那就是说服 L3 将数据保留在那里。据说 IvyBridge 在 L3 中使用动态替换策略，这意味着它会问自己 - 谁在使用所有这些数据，并且由于您只预加载一次，所以答案可能是“没有人”。此时，L3 可能会决定完全避免缓存该数组，或者在旧 block 上写入新 block 。
确切的行为取决于未发布的实际实现，但为了“欺骗”它，我相信您必须在每个数据行被丢弃之前多次访问它。请注意，连续访问它两次是没有帮助的，因为它已经在上层缓存中，您必须在一定距离内访问它 - 不要太小，以免再次访问 L3，但也不要太大，以避免它被扔掉。当然需要一些实验来对此进行微调。
编辑:
这是一篇博客文章，介绍了您应该担心的 IvyBridges L3 更换政策 -
http://blog.stuffedcow.net/2013/01/ivb-cache-replacement/
实际过程当然应该表现良好，因为它应该被认为利用了 L3 缓存的优势，只是预加载阶段可能会给您带来麻烦。如果处理时间相对较长，那么最初的冷缺失可能不值得预加载的努力 - 请注意过早优化。
关于c - 如何预加载大型数组以并行缓存？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/23224243/