simd - 如何使用avx(但没有avx-512)将int 64转换为int 32

Question

我想将 4 个长整数(64 位)的寄存器转换/打包为 4 个整数(32 位)。换句话说，将 int64 的 __m256i 转换为 int32 的 __m128i。
我没有 avx-512 可供我使用，所以本质上是:

__m256i n;
__m128i r128i = _mm256_cvtepi64_epi32( n );

对我不可用。还有比下面更好的选择吗？
丢失矢量化:

__m256i n;
alignas(32) int64_t temp[4];
_mm256_store_si256((__m256i*)temp, n);
int32_t a = (int32_t)temp[0];
int32_t b = (int32_t)temp[1];
int32_t c = (int32_t)temp[2];
int32_t d = (int32_t)temp[3];
__m128i r128i = _mm_set_epi32(a, b, c, d);

这将打包成 16 位整数而不是 32 位

__m128i lo_lane = _mm256_castsi256_si128(n);
__m128i hi_lane = _mm256_extracti128_si256(n, 1);
__m128i r128i = _mm_packus_epi32(lo_lane, hi_lane);

Answer 1

所以只是截断，而不是有符号(或无符号)饱和？ (我问是因为 AVX-512 提供 signed and unsigned saturation versions 以及截断。像 _mm_packus_epi32 ( packusdw )这样的非 AVX512 包你使用的总是做饱和，如果你想打包，你必须使用普通的 shuffle 指令AVX-512 之前的截断。但如果任何一个都很好，因为上半部分已知为零，那么是的，打包说明可能很有用。)

单向量 __m256i -> __m128i对于单个向量，产生更窄的输出，您可以使用 vextracti128与 vshufps包单__m256i成__m128i .在 AVX-512 之前，vshufps是仅有的具有任何控制输入的 2-input shuffle 之一，而不仅仅是一个固定的交错，例如。
在带有内在函数的 C 中，您需要 _mm_castsi128_ps并返回使用 _mm_shuffle_ps 让编译器满意在整数向量上，但现代 CPU 没有在整数 SIMD 指令之间使用 FP shuffle 的旁路延迟。或者，如果您只是要存储它，则可以将结果保留为 __m128并使用 _mm_store_ps((float*)p, vec); (是的，将整数指针强制转换为 float* 仍然是严格别名安全的，因为 deref 发生在内部函数中，而不是纯 C 中)。

#include <immintrin.h>

__m128 cvtepi64_epi32_avx(__m256i v)
{
   __m256 vf = _mm256_castsi256_ps( v );      // free
   __m128 hi = _mm256_extractf128_ps(vf, 1);  // vextractf128
   __m128 lo = _mm256_castps256_ps128( vf );  // also free
   // take the bottom 32 bits of each 64-bit chunk in lo and hi
   __m128 packed = _mm_shuffle_ps(lo, hi, _MM_SHUFFLE(2, 0, 2, 0));  // shufps
   //return _mm_castps_si128(packed);  // if you want
   return packed;
}   

这是每 128 位输出数据 2 次混洗。我们可以做得更好:每 256 位输出数据 2 次 shuffle。 (如果我们可以很好地安排我们的输入，甚至只是 1)。

2x __m256i输入产生 __m256i输出
幸运的是，clang 发现了比我更好的优化。我想到了 2x vpermd + vpblendd可以做到这一点，将一个向量中每个元素的 low32 改组到底部 channel 或另一 channel 的顶部 channel 。 (使用 set_epi32(6,4,2,0, 6,4,2,0) 随机播放控件)。
但是 clang 将其优化为 vshufps将我们想要的所有元素放入一个向量中，然后 vpermpd (相当于 vpermq )使它们按正确顺序排列。 (这通常是一个很好的策略，我自己应该想到这一点。:P 同样，它利用 vshufps 作为 2-input shuffle。)
将其转换回内部函数，我们得到的代码将编译为 GCC 或其他编译器的高效 asm ( Godbolt compiler explorer for this and the original ):

// 2x 256 -> 1x 256-bit result
__m256i pack64to32(__m256i a, __m256i b)
{
    // grab the 32-bit low halves of 64-bit elements into one vector
   __m256 combined = _mm256_shuffle_ps(_mm256_castsi256_ps(a),
                                       _mm256_castsi256_ps(b), _MM_SHUFFLE(2,0,2,0));
    // {b3,b2, a3,a2 | b1,b0, a1,a0}  from high to low

    // re-arrange pairs of 32-bit elements with vpermpd (or vpermq if you want)
    __m256d ordered = _mm256_permute4x64_pd(_mm256_castps_pd(combined), _MM_SHUFFLE(3,1,2,0));
    return _mm256_castpd_si256(ordered);
}

它仅编译为 2 条指令，带有即时随机控制，没有向量常量。源代码看起来很冗长，但它主要是为了让编译器对类型感到满意。

# clang -O3 -march=haswell
pack64to32:                             # @pack64to32
        vshufps ymm0, ymm0, ymm1, 136           # ymm0 = ymm0[0,2],ymm1[0,2],ymm0[4,6],ymm1[4,6]
        vpermpd ymm0, ymm0, 216                 # ymm0 = ymm0[0,2,1,3]
        ret

输入重新排序以避免交叉:一个 vshufps如果您可以排列输入向量对，使它们在 {a0, a1 | a4, a5} 中具有 64 位元素和 {a2, a3 | a6, a7}顺序，你只需要一个 in-lane shuffle:低 4x 32 位元素来自每个 256 位输入的低半部分，等等。你可以用一个 _mm256_shuffle_ps 来完成工作。 . (完全如上，不需要 _mm256_permute4x64_pd )。在此建议的问题下的评论中归功于@chtz。
Mandelbrot 不需要元素之间的交互，因此您可以使用成对的 __m256i具有 64 位元素排列的向量。
如果你从一个展开的循环开始，比如 {0,1,2,3}和 {4,5,6,7}并使用 _mm256_add_epi64与 set1_epi64(8)要增加，您可以改为从 {0,1,4,5} 开始和 {2,3,6,7}一切都应该相同。 (除非您正在做其他事情，否则您的元素的顺序很重要？)

Asm 与内在名称
咨询 Intel's intrinsics guide按 asm 助记符搜索；它们打字更短，更容易思考机器实际可以做什么，并且需要 asm 助记符来查找 https://uops.info/table.html 中的性能。/https://agner.org/optimize/