Подтвердить что ты не робот

Python Pandas Как выбрать строки с одним или несколькими нулями из DataFrame без явного указания столбцов?

У меня есть dataframe с ~ 300K строк и ~ 40 столбцов. Я хочу узнать, содержат ли какие-либо строки нулевые значения и помещают эти "нулевые" строки в отдельный фрейм данных, чтобы я мог легко их исследовать.

Я могу создать маску явно:

mask=False
for col in df.columns: mask = mask | df[col].isnull()
dfnulls = df[mask]

Или я могу сделать что-то вроде:

df.ix[df.index[(df.T == np.nan).sum() > 1]]

Есть ли более элегантный способ сделать это (поиск строк с нулями в них)?

Ответ 1

[Обновлен для адаптации к современному pandas, который имеет isnull как метод DataFrame s..]

Вы можете использовать isnull и any для создания логической серии и использовать ее для индексации в вашем фрейме:

>>> df = pd.DataFrame([range(3), [0, np.NaN, 0], [0, 0, np.NaN], range(3), range(3)])
>>> df.isnull()
       0      1      2
0  False  False  False
1  False   True  False
2  False  False   True
3  False  False  False
4  False  False  False
>>> df.isnull().any(axis=1)
0    False
1     True
2     True
3    False
4    False
dtype: bool
>>> df[df.isnull().any(axis=1)]
   0   1   2
1  0 NaN   0
2  0   0 NaN

[Для более старых pandas:]

Вы можете использовать функцию isnull вместо метода:

In [56]: df = pd.DataFrame([range(3), [0, np.NaN, 0], [0, 0, np.NaN], range(3), range(3)])

In [57]: df
Out[57]: 
   0   1   2
0  0   1   2
1  0 NaN   0
2  0   0 NaN
3  0   1   2
4  0   1   2

In [58]: pd.isnull(df)
Out[58]: 
       0      1      2
0  False  False  False
1  False   True  False
2  False  False   True
3  False  False  False
4  False  False  False

In [59]: pd.isnull(df).any(axis=1)
Out[59]: 
0    False
1     True
2     True
3    False
4    False

что приводит к довольно компактному:

In [60]: df[pd.isnull(df).any(axis=1)]
Out[60]: 
   0   1   2
1  0 NaN   0
2  0   0 NaN

Ответ 2

nans = lambda df: df[df.isnull().any(axis=1)]

тогда, когда вам это нужно, вы можете ввести:

nans(your_dataframe)