Эффективный фильтр порога массива с numpy

Мне нужно отфильтровать массив, чтобы удалить элементы, которые ниже определенного порогового значения. Мой текущий код выглядит следующим образом:

threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))

Проблема заключается в том, что это создает временный список, используя фильтр с лямбда-функцией (медленный).

Поскольку это довольно простая операция, возможно, есть функция numpy, которая делает это эффективным образом, но я не смог ее найти.

Я думал, что другим способом добиться этого может быть сортировка массива, поиск индекса порога и возврат среза из этого индекса вперед, но даже если это будет быстрее для небольших входов (и это не будет быть заметным в любом случае), его окончательно асимптотически менее эффективно по мере увеличения размера ввода.

Любые идеи? Спасибо!

Обновление. Я также провел некоторые измерения, а сортировка + нарезка была в два раза быстрее, чем чистый фильтр на питоне, когда вход был 100.000.000 записей.

In [321]: r = numpy.random.uniform(0, 1, 100000000)

In [322]: %timeit test1(r) # filter
1 loops, best of 3: 21.3 s per loop

In [323]: %timeit test2(r) # sort and slice
1 loops, best of 3: 11.1 s per loop

In [324]: %timeit test3(r) # boolean indexing
1 loops, best of 3: 1.26 s per loop

Ответ 1

b = a[a>threshold] это должно сделать

Я протестировал следующим образом:

import numpy as np, datetime
# array of zeros and ones interleaved
lrg = np.arange(2).reshape((2,-1)).repeat(1000000,-1).flatten()

t0 = datetime.datetime.now()
flt = lrg[lrg==0]
print datetime.datetime.now() - t0

t0 = datetime.datetime.now()
flt = np.array(filter(lambda x:x==0, lrg))
print datetime.datetime.now() - t0

Я получил

$ python test.py
0:00:00.028000
0:00:02.461000

http://docs.scipy.org/doc/numpy/user/basics.indexing.html#boolean-or-mask-index-arrays

Ответ 2

Чтобы добавить к

@yosukesabai

answer, важно использовать diffrent-переменную, так как это вернет пустой массив:

im=im[im>167]

Не могу объяснить, почему, хотя, может быть, потому, что им тоже надоело думать: (