Создание небольшого массива numpy из отдельных значений: быстрый и понятный метод?

Я обнаружил, что узким местом в моей программе является создание массивов numpy из списка заданных значений, чаще всего помещая четыре значения в массив 2x2. Существует очевидный, легко читаемый способ сделать это:

my_array = numpy.array([[1, 3], [2.4, -1]])

который занимает 15 секунд - очень медленно, потому что я делаю это миллионы раз.

Тогда существует гораздо более быстрый, трудно читаемый способ:

my_array = numpy.empty((2,2))
my_array[0,0] = 1
my_array[0,1] = 3
my_array[1,0] = 2.4
my_array[1,1] = -1

Это в 10 раз быстрее, всего за 1 нас.

Есть ли какой-нибудь метод, который является ОБЫЧНЫМ быстрым и легко читаемым?

То, что я пробовал до сих пор: использование asarray вместо array не имеет значения; прохождение dtype=float в array также не имеет значения. Наконец, я понимаю, что могу сделать это сам:

def make_array_from_list(the_list, num_rows, num_cols):
    the_array = np.empty((num_rows, num_cols))
    for i in range(num_rows):
        for j in range(num_cols):
            the_array[i,j] = the_list[i][j]
    return the_array

Это создаст массив в 4us, который является средним читабельностью на средней скорости (по сравнению с двумя вышеприведенными подходами). Но на самом деле, я не могу поверить, что нет лучшего подхода, использующего встроенные методы.

Спасибо заранее!

Ответ 1

Это отличный вопрос. Я не могу найти ничего, что приблизится к скорости вашего полностью развернутого решения ( edit @BiRico смог придумать что-то близкое. См. Комментарии и обновления:). Вот несколько разных опций, которые я (и другие) придумал и связал тайминги:

import numpy as np

def f1():
    "np.array + nested lists"
    my_array = np.array([[1, 3], [2.4, -1]])

def f2():
    "np.array + nested tuples"
    my_array = np.array(((1, 3), (2.4, -1)))

def f3():
    "Completely unrolled"
    my_array = np.empty((2,2),dtype=float)
    my_array[0,0] = 1
    my_array[0,1] = 3
    my_array[1,0] = 2.4
    my_array[1,1] = -1

def f4():
    "empty + ravel + list"
    my_array = np.empty((2,2),dtype=float)
    my_array.ravel()[:] = [1,3,2.4,-1]

def f5():
    "empty + ravel + tuple"
    my_array = np.empty((2,2),dtype=float)
    my_array.ravel()[:] = (1,3,2.4,-1)

def f6():
    "empty + slice assignment"
    my_array = np.empty((2,2),dtype=float)
    my_array[0,:] = (1,3)
    my_array[1,:] = (2.4,-1)

def f7():
    "empty + index assignment"
    my_array = np.empty((2,2),dtype=float)
    my_array[0] = (1,3)
    my_array[1] = (2.4,-1)

def f8():
    "np.array + flat list + reshape"
    my_array = np.array([1, 3, 2.4, -1]).reshape((2,2))

def f9():
    "np.empty + ndarray.flat  (Pierre GM)"
    my_array = np.empty((2,2), dtype=float)
    my_array.flat = (1,3,2.4,-1)

def f10():
    "np.fromiter (Bi Roco)"
    my_array = np.fromiter((1,3,2.4,-1), dtype=float).reshape((2,2))

import timeit
results = {}
for i in range(1,11):
    func_name = 'f%d'%i
    my_import = 'from __main__ import %s'%func_name
    func_doc = globals()[func_name].__doc__
    results[func_name] = (timeit.timeit(func_name+'()',
                                        my_import,
                                        number=100000),
                          '\t'.join((func_name,func_doc)))

for result in sorted(results.values()):
    print '\t'.join(map(str,result))

И важные тайминги:

В Ubuntu Linux Core i7:

0.158674955368  f3  Completely unrolled
0.225094795227  f10 np.fromiter (Bi Roco)
0.737828969955  f8  np.array + flat list + reshape
0.782918930054  f5  empty + ravel + tuple
0.786983013153  f9  np.empty + ndarray.flat  (Pierre GM)
0.814703941345  f4  empty + ravel + list
1.2375421524    f7  empty + index assignment
1.32230591774   f2  np.array + nested tuples
1.3752617836    f6  empty + slice assignment
1.39459013939   f1  np.array + nested lists

Ответ 2

Несмотря на то, что он явно противоречит интуиции, результаты не удивляют: NumPy не предназначен для обработки большого количества очень маленьких массивов. Вместо этого он был разработан для управления большими массивами данных.

Я бы предложил сначала создать большой массив, размер сказать N*2*2, заполнить его вашими данными и затем изменить его на (N,2,2).

В качестве дополнительной заметки вы можете попробовать

def f10():
    mine = np.empty((2,2), dtype=float)
    mine.flat = (1,3,2.4,-1)

Метод .flat должен быть значительно более эффективным, чем метод .ravel()[:]=... (мой личный тест показывает тот же порядок, что и @mgilson f3).