Самый быстрый способ сделать горизонтальную векторную сумму с помощью инструкций AVX

У меня есть упакованный вектор из четырех 64-битных значений с плавающей запятой.
Я хотел бы получить сумму векторных элементов.

С SSE (и используя 32-битные поплавки) я мог бы просто сделать следующее:

v_sum = _mm_hadd_ps(v_sum, v_sum);
v_sum = _mm_hadd_ps(v_sum, v_sum);

К сожалению, несмотря на то, что AVX имеет команду _mm256_hadd_pd, он отличается результатом SSE-версии. Я считаю, что это связано с тем, что большинство инструкций AVX работают как инструкции SSE для каждого низкого и высокого 128-бит отдельно, без пересечения 128-битной границы.

В идеале решение, которое я ищу, должно следовать этим рекомендациям:
1) используйте только инструкции AVX/AVX2. (без SSE)
2) выполнить не более 2-3 инструкций.

Однако любой эффективный/элегантный способ сделать это (даже не следуя приведенным выше рекомендациям) всегда хорошо принят.

Большое спасибо за любую помощь.

-Луиги Кастелли

Ответ 1

Если у вас есть два вектора __m256d x1 и x2, каждый из которых содержит четыре double, которые вы хотите горизонтально суммировать, вы можете сделать:

__m256d x1, x2;
// calculate 4 two-element horizontal sums:
// lower 64 bits contain x1[0] + x1[1]
// next 64 bits contain x2[0] + x2[1]
// next 64 bits contain x1[2] + x1[3]
// next 64 bits contain x2[2] + x2[3]
__m256d sum = _mm256_hadd_pd(x1, x2);
// extract upper 128 bits of result
__m128d sum_high = _mm256_extractf128_pd(sum1, 1);
// add upper 128 bits of sum to its lower 128 bits
__m128d result = _mm_add_pd(sum_high, _mm256_castpd256_pd128(sum));
// lower 64 bits of result contain the sum of x1[0], x1[1], x1[2], x1[3]
// upper 64 bits of result contain the sum of x2[0], x2[1], x2[2], x2[3]

Итак, похоже, что 3 инструкции будут делать 2 горизонтальные суммы, которые вам нужны. Вышеописанное не проверено, но вы должны получить концепцию.

Ответ 2

Если вам нужна только сумма, и бит скалярного кода допустим:

__m256d x;
__m256d s = _mm256_hadd_pd(x,x);
return ((double*)&s)[0] + ((double*)&s)[2];

Ответ 3

Предполагая следующее, что у вас есть вектор __m256d, содержащий 4 упакованных двойника, и вы хотели бы рассчитать сумму его компонентов, т.е. a0, a1, a2, a3 - это каждый двойной компонент, который вы хотели бы a0 + a1 + a2 + a3, тогда это еще одно решение AVX

// goal to calculate a0 + a1 + a2 + a3
__m256d values = _mm256_set_pd(23211.24, -123.421, 1224.123, 413.231);

// assuming _mm256_hadd_pd(a, b) == a0 + a1, b0 + b1, a2 + a3, b2 + b3 (5 cycles) ...
values = _mm256_hadd_pd(values, _mm256_permute2f128_pd(values, values, 1));
// ^^^^^^^^^^^^^^^^^^^^ a0 + a1, a2 + a3, a2 + a3, a0 + a1

values = _mm256_hadd_pd(values, values);
// ^^^^^^^^^^^^^^^^^^^^ (a0 + a1 + a2 + a3), (a0 + a1 + a2 + a3), (a2 + a3 + a0 + a1), (a2 + a3 + a0 + a1)

// Being that addition is associative then each component of values contains the sum of all its initial components (11 cycles) to calculate, (1-2 cycles) to extract, total (12-13 cycles)
double got = _mm_cvtsd_f64(_mm256_castpd256_pd128(values)), exp = (23211.24 + -123.421 + 1224.123 + 413.231);

if (got != exp || _mm256_movemask_pd(_mm256_cmp_pd(values, _mm256_set1_pd(exp), _CMP_EQ_OS)) != 0b1111)
    printf("Failed to sum double components, exp: %f, got %f\n", exp, got);
else
    printf("ok\n");

Это решение имеет транслируемую сумму, которая может быть полезной...

Если я неверно истолковал проблему, я извиняюсь.

$ uname -a
Darwin Samys-MacBook-Pro.local 13.3.0 Darwin Kernel Version 13.3.0: Tue Jun  3 21:27:35 PDT 2014; root:xnu-2422.110.17~1/RELEASE_X86_64 x86_64

$ gcc --version
Configured with: --prefix=/Applications/Xcode.app/Contents/Developer/usr --with-gxx-include-dir=/usr/include/c++/4.2.1
Apple LLVM version 5.1 (clang-503.0.40) (based on LLVM 3.4svn)
Target: x86_64-apple-darwin13.3.0
Thread model: posix