Когда применять (pd.to_numeric) и когда астипировать (np.float64) в python?

У меня есть объект pandas DataFrame с именем xiv, который имеет столбец int64 Измерения объема.

In[]: xiv['Volume'].head(5)
Out[]: 

0    252000
1    484000
2     62000
3    168000
4    232000
Name: Volume, dtype: int64

Я прочитал другие сообщения (например this и this), которые предлагают следующие решения. Но когда я использую любой подход, он не изменяет dtype базовых данных:

In[]: xiv['Volume'] = pd.to_numeric(xiv['Volume'])

In[]: xiv['Volume'].dtypes
Out[]: 
dtype('int64')

Или...

In[]: xiv['Volume'] = pd.to_numeric(xiv['Volume'])
Out[]: ###omitted for brevity###

In[]: xiv['Volume'].dtypes
Out[]: 
dtype('int64')

In[]: xiv['Volume'] = xiv['Volume'].apply(pd.to_numeric)

In[]: xiv['Volume'].dtypes
Out[]: 
dtype('int64')

Я также попытался сделать отдельный pandas Series и использовать методы, перечисленные выше в этой серии, и переназначить на объект x['Volume'], который является объектом pandas.core.series.Series.

Однако я нашел решение этой проблемы, используя numpy package float64 type - , но я не знаю, почему он отличается.

In[]: xiv['Volume'] = xiv['Volume'].astype(np.float64)

In[]: xiv['Volume'].dtypes
Out[]: 
dtype('float64')

Может кто-нибудь объяснить, как выполнить с библиотекой pandas, что библиотека numpy, кажется, делает легко с ее классом float64; то есть преобразовать столбец в xiv DataFrame в float64 на месте.

Ответ 1

Если у вас уже есть числовые dtypes (int8|16|32|64, float64, boolean), вы можете преобразовать их в другой "числовой" dtype, используя метод Pandas .astype().

Демо-версия:

In [90]: df = pd.DataFrame(np.random.randint(10**5,10**7,(5,3)),columns=list('abc'), dtype=np.int64)

In [91]: df
Out[91]:
         a        b        c
0  9059440  9590567  2076918
1  5861102  4566089  1947323
2  6636568   162770  2487991
3  6794572  5236903  5628779
4   470121  4044395  4546794

In [92]: df.dtypes
Out[92]:
a    int64
b    int64
c    int64
dtype: object

In [93]: df['a'] = df['a'].astype(float)

In [94]: df.dtypes
Out[94]:
a    float64
b      int64
c      int64
dtype: object

Это не будет работать для object (строковых) dtypes, которые не могут быть преобразованы в числа:

In [95]: df.loc[1, 'b'] = 'XXXXXX'

In [96]: df
Out[96]:
           a        b        c
0  9059440.0  9590567  2076918
1  5861102.0   XXXXXX  1947323
2  6636568.0   162770  2487991
3  6794572.0  5236903  5628779
4   470121.0  4044395  4546794

In [97]: df.dtypes
Out[97]:
a    float64
b     object
c      int64
dtype: object

In [98]: df['b'].astype(float)
...
skipped
...
ValueError: could not convert string to float: 'XXXXXX'

Итак, здесь мы хотим использовать метод pd.to_numeric():

In [99]: df['b'] = pd.to_numeric(df['b'], errors='coerce')

In [100]: df
Out[100]:
           a          b        c
0  9059440.0  9590567.0  2076918
1  5861102.0        NaN  1947323
2  6636568.0   162770.0  2487991
3  6794572.0  5236903.0  5628779
4   470121.0  4044395.0  4546794

In [101]: df.dtypes
Out[101]:
a    float64
b    float64
c      int64
dtype: object

Ответ 2

У меня нет технического объяснения этому, но я заметил, что pd.to_numeric() вызывает следующую ошибку при преобразовании строки 'nan':

In [10]: df = pd.DataFrame({'value': 'nan'}, index=[0])

In [11]: pd.to_numeric(df.value)

Traceback (most recent call last):

  File "<ipython-input-11-98729d13e45c>", line 1, in <module>
    pd.to_numeric(df.value)

  File "C:\Users\joshua.lee\AppData\Local\Continuum\anaconda3\lib\site-packages\pandas\core\tools\numeric.py", line 133, in to_numeric
    coerce_numeric=coerce_numeric)

  File "pandas/_libs/src\inference.pyx", line 1185, in pandas._libs.lib.maybe_convert_numeric

ValueError: Unable to parse string "nan" at position 0

тогда как astype (float) не имеет:

df.value.astype(float)
Out[12]: 
0   NaN
Name: value, dtype: float64