python - 获取 Pandas read_csv() 读入的 dtypes 字典

标签 python pandas csv dataframe types

我有一个从 SQL 数据库导入的大型 Pandas 数据框。整个过程需要几个小时。当我处理数据时,数据帧不可避免地会发生变化,我经常想返回“已知的良好数据集”并重新运行各种函数。我不想从数据库导入数据,而是想将分析过程中各个点的数据保存为 CSV 文件,然后可以根据需要使用该文件恢复数据; CSV 是首选格式,因为出于某种原因,我在腌制数据帧方面运气不佳。只需使用 pd.read_csv() 导入 CSV 数据即可更改列的数据类型。因此,我想创建一个 dtypes 字典,可用于在将 CSV 导入回数据帧时恢复数据类型。

作为示例,可以定义一个简单的数据帧,如下所示:

df = pd.DataFrame({'A':[1,2,3,4,5],'B':['a','b','c','d','e'],'C':[1.2,3.4,5.6,7.8,9.0]},index=[0,2,4,6,8])

看起来像:

   A  B    C
0  1  a  1.2
2  2  b  3.4
4  3  c  5.6
6  4  d  7.8
8  5  e  9.0

可以使用以下方式创建数据类型字典:

dtypesDict = df.dtypes.to_dict()

产生:

{'B': dtype('O'), 'C': dtype('float64'), 'A': dtype('int64')}

如果我尝试使用此输出以硬编码方式定义字典,以便可以使用它来设置使用 pd.read_csv() 导入的列的数据类型,则会失败如下:

dtypesDict = {'B': dtype('O'), 'C': dtype('float64'), 'A': dtype('int64')}

NameError: name 'dtype' is not defined

但是,将字典定义为:

dtypesDict = {'B': 'O', 'C': 'float64', 'A': 'int64'}

允许毫无问题地导入 CSV 文件。

我认为字典理解是可行的方法,但我无法做到这一点:

dtypesDict = {k:bit_in_brackets_of_v for k,v in df.dtypes.to_dict().items()}

如何自动生成正确格式的字典,该字典可以使用 cut 和简单的剪切粘贴过程以硬编码方式定义,并允许正确设置从 CSV 导入的列的数据类型?

最佳答案

您可以使用 zip 执行 dict ,以使用 dtype.name 获取 dtype 名称

dict(zip(list(df),[df[x].dtype.name for x in df]))

Out[6]: {'A': 'int64', 'B': 'object', 'C': 'float64'}

关于python - 获取 Pandas read_csv() 读入的 dtypes 字典,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49972718/

相关文章:

java - 操作 CSV 文件中的数据时出现问题 (JAVA)

Pandas 多索引数据帧 : aggregate sub-groups within groups

sql-server - BULK INSERT 最后一行失败

在不知道其中的 csv 文件名的情况下读取 R 中的 zip 文件

python - for 循环 - 没有足够的值来解包(预期为 3,得到 2)但我提供了 3

python - 旋转数据框时的列顺序

Python 使用 str 和 int 向列添加前导零

python - 如何重置openx静态文件缓存?

python - Pandas groupby : Nested loop fails with key error

python - web.py - 指定地址和端口