Подтвердить что ты не робот

Numpy вызов sse2 через ctypes

Вкратце, я пытаюсь позвонить в общую библиотеку из python, точнее, из numpy. Общая библиотека реализована в C с помощью инструкций sse2. Включение оптимизации, т.е. Создание библиотеки с -O2 или -O1, я столкнулся с странными segfault при вызове в общую библиотеку через ctypes. Отключение оптимизации (-O0), все работает так, как ожидалось, как в случае непосредственного связывания библиотеки с c-программой (оптимизировано или нет). В приложении вы найдете отрезанный, который демонстрирует очерченное поведение в моей системе. При включенной оптимизации gdb сообщает о segfault в __builtin_ia32_loadupd (__P) на emmintrin.h: 113. Значение __P сообщается как оптимизированное.

test.c:

#include <emmintrin.h>
#include <complex.h>
void test(const int m, const double* x, double complex* y) {

    int i;
    __m128d _f, _x, _b;
    double complex f __attribute__( (aligned(16)) );
    double complex b __attribute__( (aligned(16)) );
    __m128d* _p;

    b = 1;
    _b = _mm_loadu_pd( (double *) &b );

    _p = (__m128d*) y;

    for(i=0; i<m; ++i) {
        f = cexp(-I*x[i]);
        _f = _mm_loadu_pd( (double *) &f );
        _x = _mm_loadu_pd( (double *) &x[i] );      
        _f = _mm_shuffle_pd(_f, _f, 1);
        *_p = _mm_add_pd(*_p, _f);
        *_p = _mm_add_pd(*_p, _x); 
        *_p = _mm_mul_pd(*_p,_b);
        _p++;
    }
    return;
}

Флаги компилятора: gcc -o libtest.so -shared -std = c99 -msse2 -fPIC -O2 -g -lm test.c

test.py:

import numpy as np
import os

def zerovec_aligned(nr, dtype=np.float64, boundary=16):
    '''Create an aligned array of zeros.
    '''
    size = nr * np.dtype(dtype).itemsize
    tmp = np.zeros(size + boundary, dtype=np.uint8)
    address = tmp.__array_interface__['data'][0]
    offset = boundary - address % boundary
    return tmp[offset:offset + size].view(dtype=dtype)


lib = np.ctypeslib.load_library('libtest', '.' )
lib.test.restype = None
lib.test.argtypes = [np.ctypeslib.ctypes.c_int,
                     np.ctypeslib.ndpointer(np.float64, flags=('C', 'A') ),
                     np.ctypeslib.ndpointer(np.complex128, flags=('C', 'A', 'W') )]


n = 13
y = zerovec_aligned(n, dtype=np.complex128)
x = np.ones(n, dtype=np.float64)
# x = zerovec_aligned(n, dtype=np.float64)
# x[:] = 1.

lib.test(n,x,y)

Вызов теста из C работает как ожидалось:

call_from_c.c:

#include <stdio.h>
#include <complex.h>
#include <stdlib.h>
#include <emmintrin.h>

void test(const int m, const double* x, double complex* y);

int main() {

    int i; 
    const int n = 11;
    double complex *y = (double complex*) _mm_malloc(n*sizeof(double complex), 16);
    double *x = (double *) malloc(n*sizeof(double));
    for(i=0; i<n; ++i) {
        x[i] = 1;
        y[i] = 0;
    }

    test(n, x, y);
    for(i=0; i<n; ++i)
            printf("[%f %f]\n", creal(y[i]), cimag(y[i]));

    return 1;

}

Скомпилировать и вызвать:
gcc -std = c99 -otestc -msse2 -L. -ltest call_from_c.c
export LD_LIBRARY_PATH = ${LD_LIBRARY_PATH}:.
. /testc
... работает.

Моя система:

  • Ubuntu Linux i686 2.6.31-22-generic
  • Компилятор: gcc (Ubuntu 4.4.1-4ubuntu9)
  • Python: Python 2.6.4 (r264: 75706, 7 декабря 2009, 18:45:15) [GCC 4.4.1]
  • Numpy: 1.4.0

Я применил положения (см. код python), что y выровнено, а выравнивание x не имеет значения (я думаю, что явное выравнивание x не решает проблему).

Обратите внимание также, что я использую _mm_loadu_pd вместо _mm_load_pd при загрузке b и f. Для версии C-only _mm_load_pd работает (как и ожидалось). Однако при вызове функции через ctypes, используя _mm_load_pd всегда segfaults (независимо от оптимизации).

Я пробовал несколько дней, чтобы разобраться с этой проблемой без успеха... и я на грани избиения моего монитора до смерти. Любой вход приветствуется. Daniel

4b9b3361

Ответ 1

Я просто укусил это, пытаясь вызвать некоторый SSE-код из python, кажется, что проблема заключается в том, что GCC хочет предположить, что стек выравнивается по 16-байтовым границам (самый большой собственный тип в архитектуре, т.е. SSE-типы) и вычисляет все смещения с этим допущением. Если это предположение неверно, команды SSE будут ловутся.

Ответ, похоже, заключается в компиляции с

gcc -mstackrealign
, который изменяет пролог функций, чтобы всегда выравнивать стек до 16 байтов.

Ответ 3

Попробуйте ли вы обновиться до Numpy 1.5.0b2. Просто запустите следующее (но будьте осторожны, это может сломать другие вещи (вам придется перекомпилировать все pyrex):

sudo easy_install -U numpy

У меня были проблемы с ctypes, когда я пытался использовать H5PY (мне пришлось перекомпилировать .deb, чтобы получить последнюю версию numpy), а также были серьезные проблемы с переплетением того, что исправлено последнее обновление.