Pandas, python - как выбрать определенное время в таймсерах

В течение некоторого времени я работал с python и pandas для анализа набора почасовых данных и нашел его довольно приятным (из Matlab.)

Теперь я застрял. Я создал свой DataFrame следующим образом:

SamplingRateMinutes=60
index = DateRange(initialTime,finalTime, offset=datetools.Minute(SamplingRateMinutes))
ts=DataFrame(data, index=index)

Теперь я хочу выбрать данные за все дни в 10-13 и 20-23, чтобы использовать данные для дальнейших вычислений. Пока я нарезал данные, используя

 selectedData=ts[begin:end]

И я обязательно получу какой-то грязный цикл для выбора необходимых данных. Но должен быть более элегантный способ индексировать то, что я хочу. Я уверен, что это обычная проблема, и решение в псевдокоде должно выглядеть примерно так:

myIndex=ts.index[10<=ts.index.hour<=13 or 20<=ts.index.hour<=23]
selectedData=ts[myIndex]

Чтобы сказать, что я инженер и не программист:)... еще

Ответ 1

Вот пример, который делает то, что вы хотите:

In [32]: from datetime import datetime as dt

In [33]: dr = p.DateRange(dt(2009,1,1),dt(2010,12,31), offset=p.datetools.Hour())

In [34]: hr = dr.map(lambda x: x.hour)

In [35]: dt = p.DataFrame(rand(len(dr),2), dr)

In [36]: dt 

Out[36]: 
<class 'pandas.core.frame.DataFrame'>
DateRange: 17497 entries, 2009-01-01 00:00:00 to 2010-12-31 00:00:00
offset: <1 Hour>
Data columns:
0    17497  non-null values
1    17497  non-null values
dtypes: float64(2)

In [37]: dt[(hr >= 10) & (hr <=16)]

Out[37]: 
<class 'pandas.core.frame.DataFrame'>
Index: 5103 entries, 2009-01-01 10:00:00 to 2010-12-30 16:00:00
Data columns:
0    5103  non-null values
1    5103  non-null values
dtypes: float64(2)

Ответ 2

В предстоящем pandas 0.8.0 вы сможете написать

hour = ts.index.hour
selector = ((10 <= hour) & (hour <= 13)) | ((20 <= hour) & (hour <= 23))
data = ts[selector]

Ответ 3

Как мне кажется, в моем комментарии выше, я решил предоставить еще один ответ, который является обновлением синтаксиса для pandas 0.10.0 по ответу Marc в сочетании с подсказкой Wes:

import pandas as pd
from datetime import datetime

dr = pd.date_range(datetime(2009,1,1),datetime(2010,12,31),freq='H')
dt = pd.DataFrame(rand(len(dr),2),dr)
hour = dt.index.hour
selector = ((10 <= hour) & (hour <= 13)) | ((20<=hour) & (hour<=23))
data = dt[selector]

Ответ 4

Pandas DataFrame имеет встроенную функцию pandas.DataFrame.between_time

df = pd.DataFrame(np.random.randn(1000, 2),
                  index=pd.date_range(start='2017-01-01', freq='10min', periods=1000))

Создайте 2 кадра данных за каждый период времени:

df1 = df.between_time(start_time='10:00', end_time='13:00') 
df2 = df.between_time(start_time='20:00', end_time='23:00')

Кадр данных, который вы хотите, объединяется и сортируется df1 и df2:

pd.concat([df1, df2], axis=0).sort_index()