我正在学习 AVX 内在用法,问题是如何优化以下代码。我将其移植到内部工作的方式,但我有一种不好的感觉,它变得更容易、更高效。
C++伪代码版本
float min_value = FLOAT_MAX;
float result_p = 0;
for loop
{
float u = ....
if(u > 0.0f || u < 1.0f)
continue;
float p = ...
float t = ....
if(t < min_value)
{
min_value = t;
result_p = p;
}
}
我使用以下代码对此进行了优化:
int resultMask = 0
float min_value = FLOAT_MAX;
float result_p = 0;
for loop
{
__m256 u = ....
if(u.m256_f32[0] < 0.0f || u.m256_f32[0] > 1.0f) resultMask &= 0xFE;
if(u.m256_f32[1] < 0.0f || u.m256_f32[1] > 1.0f) resultMask &= 0xFD;
if(u.m256_f32[2] < 0.0f || u.m256_f32[2] > 1.0f) resultMask &= 0xFB;
if(u.m256_f32[3] < 0.0f || u.m256_f32[3] > 1.0f) resultMask &= 0xF7;
if(u.m256_f32[4] < 0.0f || u.m256_f32[4] > 1.0f) resultMask &= 0xEF;
if(u.m256_f32[5] < 0.0f || u.m256_f32[5] > 1.0f) resultMask &= 0xDF;
if(u.m256_f32[6] < 0.0f || u.m256_f32[6] > 1.0f) resultMask &= 0xBF;
if(u.m256_f32[7] < 0.0f || u.m256_f32[7] > 1.0f) resultMask &= 0x7F;
if(resultMask == 0)
continue;
__m256 p = ...
__m256 t = ....
if(resultMask & 0x01) if(t.m256_f32[0] < min_value) {min_value = t.m256_f32[0]; result_p = p.m256_f32[0];}
if(resultMask & 0x02) if(t.m256_f32[1] < min_value) {min_value = t.m256_f32[1]; result_p = p.m256_f32[1];}
if(resultMask & 0x04) if(t.m256_f32[2] < min_value) {min_value = t.m256_f32[2]; result_p = p.m256_f32[2];}
if(resultMask & 0x08) if(t.m256_f32[3] < min_value) {min_value = t.m256_f32[3]; result_p = p.m256_f32[3];}
if(resultMask & 0x10) if(t.m256_f32[4] < min_value) {min_value = t.m256_f32[4]; result_p = p.m256_f32[4];}
if(resultMask & 0x20) if(t.m256_f32[5] < min_value) {min_value = t.m256_f32[5]; result_p = p.m256_f32[5];}
if(resultMask & 0x40) if(t.m256_f32[6] < min_value) {min_value = t.m256_f32[6]; result_p = p.m256_f32[6];}
if(resultMask & 0x80) if(t.m256_f32[7] < min_value) {min_value = t.m256_f32[7]; result_p = p.m256_f32[7];}
}
所有“如果”都很丑陋,但我找不到其他解决方案。有人知道如何改变这一点吗?我真的不敢相信这是能做到的最好的事情。
谢谢
最佳答案
首先要尝试的是自动矢量化。为此,您需要启用自动矢量化和 AVX,例如使用 GCC gcc -O3 -mavx
。但如果你真的想用内在函数来做到这一点,你可以尝试这样的事情:
__m256 min_value8 = _mm256_set1_ps(FLT_MAX);
__m256 result_p8 = _mm256_setzero_ps();
__m256 one = _mm256_set1_ps(1.0);
for(int i=0; i<n; i+=8) {
//__m256 u8 = _mm256_loadu_ps(&u[i]);
__m256 u8 = ...
__m256 t1 = _mm256_cmp_ps(u8, _mm256_setzero_ps(), 2); // u <= 0
__m256 t2 = _mm256_cmp_ps(one, u8, 2); // 1 <= u
__m256 t3 = _mm256_or_ps(t1,t2);
if(_mm256_testz_ps(t3,t3)) continue;
//at least one entry in u8 has u<=0 or u>=1
__m256 p8 = ...
__m256 t8 = ...
__m256 mask = _mm256_cmp_ps(t8, min_value8, 1); // t < min_value
//min_value8 = _mm256_or_ps(_mm256_and_ps(mask,t8), _mm256_andnot_ps(mask,min_value8));
//result_p8 = _mm256_or_ps(_mm256_and_ps(mask,p8), _mm256_andnot_ps(mask,result_p8));
min_value8 = _mm256_blendv_ps(min_value8, t8, mask);
result_p8 = _mm256_blendv_ps(result_p8, p8, mask);
}
float tmp1[8], tmp2[8];
_mm256_storeu_ps(tmp1, min_value8);
_mm256_storeu_ps(tmp2, result_p8);
float min_value = tmp1[0];
float result_p = tmp2[0];
for(int i=1; i<8; i++) {
if(tmp1[i]<min_value) {
min_value = tmp1[i];
result_p = tmp2[i];
}
}
这假设迭代是独立的,即 p8
和 t8
不依赖于 min_value8
。
编辑:
我对以下代码感到困扰
__m256 mask = _mm256_cmp_ps(t8, min_value8, 1);
min_value8 = _mm256_or_ps(_mm256_and_ps(mask,t8), _mm256_andnot_ps(mask,min_value8));
result_p8 = _mm256_or_ps(_mm256_and_ps(mask,p8), _mm256_andnot_ps(mask,result_p8));
一行可以简化为:
min_value8 = _mm256_min_ps(t8, min_value8); //probably faster
但是,在某种意义上使用 min
会再次计算掩码。更好的解决方案是与面膜混合
_m256 mask = _mm256_cmp_ps(t8, min_value8, 1);
min_value8 = _mm256_blendv_ps(min_value8, t8, mask);
result_p8 = _mm256_blendv_ps(result_p8, p8, mask);
关于c++ - 内在代码优化提示,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27294371/