Pandas суммарный счетчик

Скажем, у меня есть журнал активности пользователя, и я хочу сгенерировать отчет общей продолжительности и количества уникальных пользователей в день.

import numpy as np
import pandas as pd
df = pd.DataFrame({'date': ['2013-04-01','2013-04-01','2013-04-01','2013-04-02', '2013-04-02'],
    'user_id': ['0001', '0001', '0002', '0002', '0002'],
    'duration': [30, 15, 20, 15, 30]})

Продолжительность агрегации довольно проста:

group = df.groupby('date')
agg = group.aggregate({'duration': np.sum})
agg
            duration
date
2013-04-01        65
2013-04-02        45

То, что я хотел бы сделать, это суммировать продолжительность и количество совпадений в одно и то же время, но я не могу найти эквивалент для count_distinct:

agg = group.aggregate({ 'duration': np.sum, 'user_id': count_distinct})

Это работает, но, конечно, лучший способ, нет?

group = df.groupby('date')
agg = group.aggregate({'duration': np.sum})
agg['uv'] = df.groupby('date').user_id.nunique()
agg
            duration  uv
date
2013-04-01        65   2
2013-04-02        45   1

Я думаю, что мне просто нужно предоставить функцию, которая возвращает количество отдельных элементов объекта Series в агрегированную функцию, но у меня нет большого количества различных библиотек, находящихся в моем распоряжении. Кроме того, кажется, что объект groupby уже знает эту информацию, так что я бы просто не дублировал усилия?

Ответ 1

Как об этом:

>>> df
         date  duration user_id
0  2013-04-01        30    0001
1  2013-04-01        15    0001
2  2013-04-01        20    0002
3  2013-04-02        15    0002
4  2013-04-02        30    0002
>>> df.groupby("date").agg({"duration": np.sum, "user_id": pd.Series.nunique})
            duration  user_id
date                         
2013-04-01        65        2
2013-04-02        45        1
>>> df.groupby("date").agg({"duration": np.sum, "user_id": lambda x: x.nunique()})
            duration  user_id
date                         
2013-04-01        65        2
2013-04-02        45        1

Ответ 2

nunique - это опция для .agg(), так как pandas 0.20.0, поэтому:

df.groupby('date').agg({'duration': 'sum', 'user_id': 'nunique'})

Ответ 3

Просто добавляя к уже приведенным ответам, решение с использованием строки "nunique" выглядит намного быстрее, проверено здесь на ~ 21M строках данных, затем сгруппировано в ~ 2M

%time _=g.agg({"id": lambda x: x.nunique()})
CPU times: user 3min 3s, sys: 2.94 s, total: 3min 6s
Wall time: 3min 20s

%time _=g.agg({"id": pd.Series.nunique})
CPU times: user 3min 2s, sys: 2.44 s, total: 3min 4s
Wall time: 3min 18s

%time _=g.agg({"id": "nunique"})
CPU times: user 14 s, sys: 4.76 s, total: 18.8 s
Wall time: 24.4 s