c - SSE:跨页边界的未对齐加载和存储

标签 c linux x86-64 sse memory-alignment

我在某处读到,在页面边界旁边执行未对齐加载或存储之前(例如使用 _mm_loadu_si128/_mm_storeu_si128 内在函数),代码应该首先检查整个 vector (在此case 16 bytes)属于同一页,不属于则切换到非 vector 指令。我知道如果下一页不属于进程,这是防止核心转储所必需的。

但是如果两个页面都属于进程怎么办(例如,它们是一个缓冲区的一部分,并且我知道该缓冲区的大小)?我写了一个小测试程序,它执行未对齐的加载和跨越页面边界的存储,它没有崩溃。在这种情况下,我是否必须始终检查页面边界,或者足以确保我不会溢出缓冲区?

环境:Linux、x86_64、gcc

最佳答案

分页行分割对性能不利,但不影响未对齐访问的正确性。 当您提前知道长度时,足以确保您不会读取超过缓冲区的末尾


为了正确性,在实现类似 strlen 的东西时,您经常需要担心它,当您找到标记值时,循环会停止。该值可以位于 vector 中的任何位置,因此只需执行 16B 未对齐加载就会读取数组末尾。如果终止 0 在一页的最后一个字节中,并且下一页不可读,并且您的当前位置指针未对齐,则包含 0 的加载byte 还将包含来自不可读页面的字节,因此它会出错。

一种解决方案是执行标量直到您的指针对齐,然后加载对齐的 vector 。对齐加载总是完全来自一页,也来自一个缓存行。因此,即使您将读取字符串末尾之后的一些字节,也可以保证不会出错。 Valgrind虽然可能对此不满意,但是标准库 strlen 实现使用它。

除了对齐指针之前的标量,您可以从字符串的开头执行未对齐的 vector (只要它不会跨越页面行),然后执行对齐的加载。第一个对齐的加载将与第一个未对齐的加载重叠,但这对于像 strlen 这样的函数来说完全没问题,它不关心它是否两次看到相同的数据。


出于性能原因,避免分页行可能是值得的。即使您知道您的 src 指针未对齐,让硬件处理高速缓存行拆分通常会更快。但在 Skylake 之前,页面拆分有大约 100c 的额外延迟。 (Down to 5c in Skylake)。如果你有多个指针可以相对于彼此不同地对齐,你不能总是只使用序言来对齐你的 src。 (例如 c[i] = a[i] + b[i]c 对齐但 b 不对齐。)

在这种情况下,可能值得使用分支在页面拆分前后执行对齐加载,并将它们与 palignr 组合。

分支预测错误 (~15c) 比页面拆分延迟更便宜,但会延迟一切(不仅仅是加载)。因此它也可能值得,这取决于硬件和计算与内存访问的比率。


如果您正在编写一个通常使用对齐指针调用的函数,则只使用未对齐的加载/存储指令是有意义的。任何检测未对齐的序言只是已经对齐的情况的额外开销,并且在现代硬件(Nehalem 和更新的)上,地址上的未对齐加载在运行时证明是对齐的,与对齐加载指令具有相同的性能。 (但是对于未对齐的加载,您需要 AVX 将其作为内存操作数折叠到其他指令中。例如 vpxor xmm0, xmm1, [rsi])

通过添加代码来处理未对齐的输入,您正在减慢常见的对齐情况以加快不常见的未对齐情况。对未对齐的加载/存储的快速硬件支持让软件在少数确实发生的情况下将其留给硬件。

(如果未对齐的输入很常见,那么值得使用序言来对齐您的输入指针,尤其是如果您使用的是 AVX。连续的 32B AVX 加载将缓存行拆分每隔一个负载。)

参见 Agner Fog's Optimizing Assembly guide更多信息,以及 中的其他链接标记维基。

关于c - SSE:跨页边界的未对齐加载和存储,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/37736496/

相关文章:

c - 10X10 数组中的随机游走

c++ - linux/unix 下是否有相当于 WinAPI 的 MAX_PATH 的?

linux - 如何使用最新的 Raspbian Stretch Lite 自动登录?

x86 - x86数据段在真实操作系统和进程中是如何使用的?

c - 二进制炸弹阶段 5 - 寻找两个整数作为输入

assembly - 是否真的需要RBP/EBP寄存器来支持可变大小堆栈帧?

c - 按位 AND 运算符在 C 和 C++ 中是可传递的吗?

C - 将 base64 方法添加到我的文件中

cat 函数无限次调用 read()

python - 在curl下载python脚本时添加延迟,然后通过管道执行脚本?