Указание dtype float32 с pandas.read_csv на pandas 0.10.1

Я пытаюсь прочитать простой файл, разделенный пробелами, с помощью метода pandas read_csv. Однако pandas, похоже, не подчиняется моему аргументу dtype. Может быть, я неправильно указываю это?

Я пропустил свой сложный вызов read_csv в этот простой тестовый пример. Я фактически использую аргумент converters в моем "реальном" сценарии, но я удалил это для простоты.

Ниже мой сеанс ipython:

>>> cat test.out
a b
0.76398 0.81394
0.32136 0.91063
>>> import pandas
>>> import numpy
>>> x = pandas.read_csv('test.out', dtype={'a': numpy.float32}, delim_whitespace=True)
>>> x
         a        b
0  0.76398  0.81394
1  0.32136  0.91063
>>> x.a.dtype
dtype('float64')

Я также пробовал это с помощью dtype numpy.int32 или numpy.int64. Эти варианты приводят к исключению:

AttributeError: 'NoneType' object has no attribute 'dtype'

Я предполагаю, что AttributeError состоит в том, что pandas не будет автоматически пытаться преобразовать/усечь значения float в целое число?

Я работаю на 32-битной машине с 32-разрядной версией Python.

>>> !uname -a
Linux ubuntu 3.0.0-13-generic #22-Ubuntu SMP Wed Nov 2 13:25:36 UTC 2011 i686 i686 i386 GNU/Linux
>>> import platform
>>> platform.architecture()
('32bit', 'ELF')
>>> pandas.__version__
'0.10.1'

Ответ 1

0.10.1 не очень поддерживает float32

см. этот http://pandas.pydata.org/pandas-docs/dev/whatsnew.html#dtype-specification

вы можете сделать это в 0.11 следующим образом:

# dont' use dtype converters explicity for the columns you care about
# they will be converted to float64 if possible, or object if they cannot
df = pd.read_csv('test.csv'.....)

#### this is optional and related to the issue you posted ####
# force anything that is not a numeric to nan
# columns are the list of columns that you are interesetd in
df[columns] = df[columns].convert_objects(convert_numeric=True)


    # astype
    df[columns] = df[columns].astype('float32')

see http://pandas.pydata.org/pandas-docs/dev/basics.html#object-conversion

Its not as efficient as doing it directly in read_csv (but that requires

Я подтвердил, что с помощью 0.11-dev эта работа DOES (по 32-битным и 64-битным результатам одинакова)

In [5]: x = pd.read_csv(StringIO.StringIO(data), dtype={'a': np.float32}, delim_whitespace=True)

In [6]: x
Out[6]: 
         a        b
0  0.76398  0.81394
1  0.32136  0.91063

In [7]: x.dtypes
Out[7]: 
a    float32
b    float64
dtype: object

In [8]: pd.__version__
Out[8]: '0.11.0.dev-385ff82'

In [9]: quit()
[email protected]:~/pandas$ uname -a
Linux precise32 3.2.0-23-generic-pae #36-Ubuntu SMP Tue Apr 10 22:19:09 UTC 2012 i686 i686 i386 GNU/Linux

 some low-level changes)

Ответ 2

In [22]: df.a.dtype = pd.np.float32

In [23]: df.a.dtype
Out[23]: dtype('float32')

вышеупомянутое работает отлично для меня в pandas 0.10.1