Моя проблема заключается в том, как рассчитать частоты для нескольких переменных в pandas. Я из этого блока данных:
d1 = pd.DataFrame( {'StudentID': ["x1", "x10", "x2","x3", "x4", "x5", "x6", "x7", "x8", "x9"],
'StudentGender' : ['F', 'M', 'F', 'M', 'F', 'M', 'F', 'M', 'M', 'M'],
'ExamenYear': ['2007','2007','2007','2008','2008','2008','2008','2009','2009','2009'],
'Exam': ['algebra', 'stats', 'bio', 'algebra', 'algebra', 'stats', 'stats', 'algebra', 'bio', 'bio'],
'Participated': ['no','yes','yes','yes','no','yes','yes','yes','yes','yes'],
'Passed': ['no','yes','yes','yes','no','yes','yes','yes','no','yes']},
columns = ['StudentID', 'StudentGender', 'ExamenYear', 'Exam', 'Participated', 'Passed'])
К следующему результату
Participated OfWhichpassed
ExamenYear
2007 3 2
2008 4 3
2009 3 2
(1) Одна из возможностей, которую я пробовал, - вычислить два кадра данных и связать их
t1 = d1.pivot_table(values = 'StudentID', rows=['ExamenYear'], cols = ['Participated'], aggfunc = len)
t2 = d1.pivot_table(values = 'StudentID', rows=['ExamenYear'], cols = ['Passed'], aggfunc = len)
tx = pd.concat([t1, t2] , axis = 1)
Res1 = tx['yes']
(2) Вторая возможность заключается в использовании функции агрегации.
import collections
dg = d1.groupby('ExamenYear')
Res2 = dg.agg({'Participated': len,'Passed': lambda x : collections.Counter(x == 'yes')[True]})
Res2.columns = ['Participated', 'OfWhichpassed']
Оба способа наименее верны. Как это сделано правильно в pandas?
P.S: Я также попробовал value_counts вместо collection.Counter, но не смог заставить его работать
Для справки: Несколько месяцев назад я задал аналогичный вопрос для R здесь и plyr мог помочь
---- UPDATE ------
пользователь DSM прав. ошибка в желаемом результате таблицы.
(1) Код для опции 1 -
t1 = d1.pivot_table(values = 'StudentID', rows=['ExamenYear'], aggfunc = len)
t2 = d1.pivot_table(values = 'StudentID', rows=['ExamenYear'], cols = ['Participated'], aggfunc = len)
t3 = d1.pivot_table(values = 'StudentID', rows=['ExamenYear'], cols = ['Passed'], aggfunc = len)
Res1 = pd.DataFrame( {'All': t1,
'OfWhichParticipated': t2['yes'],
'OfWhichPassed': t3['yes']})
Он даст результат
All OfWhichParticipated OfWhichPassed
ExamenYear
2007 3 2 2
2008 4 3 3
2009 3 3 2
(2) Для варианта 2, благодаря пользователю herrfz, я понял, как использовать value_count, и код будет
Res2 = d1.groupby('ExamenYear').agg({'StudentID': len,
'Participated': lambda x: x.value_counts()['yes'],
'Passed': lambda x: x.value_counts()['yes']})
Res2.columns = ['All', 'OfWgichParticipated', 'OfWhichPassed']
который даст тот же результат, что и Res1
Мой вопрос остается, хотя:
Используя вариант 2, можно ли использовать одну и ту же переменную дважды (для другой операции?), можно ли передать настраиваемое имя для результирующей переменной?
---- НОВОЕ ОБНОВЛЕНИЕ ----
Наконец-то я решил использовать apply, который, как я понимаю, более гибкий.
