numpy.average()
имеет параметр весов, но numpy.std()
- нет. Кто-нибудь имеет предложения об обходном пути?
Взвешенное стандартное отклонение в NumPy
Ответ 1
Как насчет следующего короткого "ручного расчета"?
def weighted_avg_and_std(values, weights):
"""
Return the weighted average and standard deviation.
values, weights -- Numpy ndarrays with the same shape.
"""
average = numpy.average(values, weights=weights)
# Fast and numerically precise:
variance = numpy.average((values-average)**2, weights=weights)
return (average, math.sqrt(variance))
Ответ 2
В statsmodels
есть класс, который облегчает вычисление взвешенной статистики: statsmodels.stats.weightstats.DescrStatsW
.
Предполагая, что этот набор данных и вес:
import numpy as np
from statsmodels.stats.weightstats import DescrStatsW
array = np.array([1,2,1,2,1,2,1,3])
weights = np.ones_like(array)
weights[3] = 100
Вы инициализируете класс (обратите внимание, что вы должны передать поправочный коэффициент, дельта степеней свободы в этой точке):
weighted_stats = DescrStatsW(array, weights=weights, ddof=0)
Тогда вы можете рассчитать:
-
.mean
взвешенное среднее:>>> weighted_stats.mean 1.97196261682243
-
.std
взвешенное стандартное отклонение:>>> weighted_stats.std 0.21434289609681711
-
.var
взвешенная дисперсия:>>> weighted_stats.var 0.045942877107170932
-
.std_mean
стандартная ошибка взвешенного среднего:>>> weighted_stats.std_mean 0.020818822467555047
На всякий случай, если вас интересует связь между стандартной ошибкой и стандартным отклонением: стандартная ошибка (для
ddof == 0
) рассчитывается как взвешенное стандартное отклонение, деленное на квадратный корень из суммы весов минус 1 (соответствующий источник дляstatsmodels
версии 0.9 на GitHub):standard_error = standard_deviation / sqrt(sum(weights) - 1)
Ответ 3
Пока не существует такой функции в numpy/scipy, но есть билет, предлагающий эту добавленную функциональность. Здесь вы найдете Statistics.py, который реализует взвешенные стандартные отклонения.
Ответ 4
Существует очень хороший пример, предложенный gaborous:
import pandas as pd
import numpy as np
# X is the dataset, as a Pandas' DataFrame
mean = mean = np.ma.average(X, axis=0, weights=weights) # Computing the
weighted sample mean (fast, efficient and precise)
# Convert to a Pandas' Series (it just aesthetic and more
# ergonomic; no difference in computed values)
mean = pd.Series(mean, index=list(X.keys()))
xm = X-mean # xm = X diff to mean
xm = xm.fillna(0) # fill NaN with 0 (because anyway a variance of 0 is
just void, but at least it keeps the other covariance values computed
correctly))
sigma2 = 1./(w.sum()-1) * xm.mul(w, axis=0).T.dot(xm); # Compute the
unbiased weighted sample covariance
Исправить уравнение для взвешенной несмещенной выборки ковариации, URL (версия: 2016-06-28)
Ответ 5
Вот еще один вариант:
np.sqrt(np.cov(values, aweights=weights))