我正在用 python 处理一个 CSV 文件,使用时该文件大约有 100,000 行。每行都有一组维度(作为字符串)和一个指标( float )。
由于 csv.DictReader 或 csv.reader 仅将值作为字符串返回,我目前正在遍历所有行并将一个数值转换为 float 。
for i in csvDict:
i[col] = float(i[col])
有没有任何人可以建议这样做的更好方法?我一直在研究 map、izip、itertools 的各种组合,并广泛搜索了一些更高效的示例,但遗憾的是没有取得太大成功。
如果有帮助: 我在 appengine 上做这个。我相信我正在做的事情可能会导致我遇到这个错误: 在为总共 11 个请求提供服务后,超过 267.789 MB 的软进程大小限制 - 我仅在 CSV 非常大时才得到它。
编辑:我的目标 我正在解析此 CSV,以便可以将其用作 data source for the Google Visualizations API .最终的数据集会加载到一个 gviz DataTable 中供查询。必须在构造此表期间指定类型。如果有人知道 python 中的 gviz csv->datatable 转换器,我的问题也可以解决!
Edit2:我的代码
我认为我的问题与我尝试修复 CsvTypes() 的方式有关。此外,data_table.LoadData() 需要一个可迭代对象。
class GvizFromCsv(object):
"""Convert CSV to Gviz ready objects."""
def __init__(self, csvFile, dateTimeFormat=None):
self.fileObj = StringIO.StringIO(csvFile)
self.csvDict = list(csv.DictReader(self.fileObj))
self.dateTimeFormat = dateTimeFormat
self.headers = {}
self.ParseHeaders()
self.fixCsvTypes()
def IsNumber(self, st):
try:
float(st)
return True
except ValueError:
return False
def IsDate(self, st):
try:
datetime.datetime.strptime(st, self.dateTimeFormat)
except ValueError:
return False
def ParseHeaders(self):
"""Attempts to figure out header types for gviz, based on first row"""
for k, v in self.csvDict[0].items():
if self.IsNumber(v):
self.headers[k] = 'number'
elif self.dateTimeFormat and self.IsDate(v):
self.headers[k] = 'date'
else:
self.headers[k] = 'string'
def fixCsvTypes(self):
"""Only fixes numbers."""
update_to_numbers = []
for k,v in self.headers.items():
if v == 'number':
update_to_numbers.append(k)
for i in self.csvDict:
for col in update_to_numbers:
i[col] = float(i[col])
def CreateDataTable(self):
"""creates a gviz data table"""
data_table = gviz_api.DataTable(self.headers)
data_table.LoadData(self.csvDict)
return data_table
最佳答案
我首先使用正则表达式利用了 CSV 文件,但是由于文件中的数据在每一行中都非常严格地排列,我们可以简单地使用 split() 函数
import gviz_api
scheme = [('col1','string','SURNAME'),('col2','number','ONE'),('col3','number','TWO')]
data_table = gviz_api.DataTable(scheme)
# --- lines in surnames.csv are : ---
# surname,percent,cumulative percent,rank\n
# SMITH,1.006,1.006,1,\n
# JOHNSON,0.810,1.816,2,\n
# WILLIAMS,0.699,2.515,3,\n
with open('surnames.csv') as f:
def transf(surname,x,y):
return (surname,float(x),float(y))
f.readline()
# to skip the first line surname,percent,cumulative percent,rank\n
data_table.LoadData( transf(*line.split(',')[0:3]) for line in f )
# to populate the data table by iterating in the CSV file
或者没有定义函数:
import gviz_api
scheme = [('col1','string','SURNAME'),('col2','number','ONE'),('col3','number','TWO')]
data_table = gviz_api.DataTable(scheme)
# --- lines in surnames.csv are : ---
# surname,percent,cumulative percent,rank\n
# SMITH,1.006,1.006,1,\n
# JOHNSON,0.810,1.816,2,\n
# WILLIAMS,0.699,2.515,3,\n
with open('surnames.csv') as f:
f.readline()
# to skip the first line surname,percent,cumulative percent,rank\n
datdata_table.LoadData( [el if n==0 else float(el) for n,el in enumerate(line.split(',')[0:3])] for line in f )
# to populate the data table by iterating in the CSV file
有一段时间,我认为我有义务一次用一行填充数据表,因为我使用的是正则表达式,需要在 float 数字字符串之前获取匹配项的组。使用 split() 可以通过 LoadData()
在一条指令中完成所有操作.
因此,您的代码可以缩短。顺便说一句,我不明白为什么要继续定义一个类。相反,一个函数对我来说似乎就足够了:
def GvizFromCsv(filename):
""" creates a gviz data table from a CSV file """
data_table = gviz_api.DataTable([('col1','string','SURNAME'),
('col2','number','ONE' ),
('col3','number','TWO' ) ])
# --- with such a table schema , lines in the file must be like that: ---
# blah, number, number, ...anything else...\n
# SMITH,1.006,1.006, ...anything else...\n
# JOHNSON,0.810,1.816, ...anything else...\n
# WILLIAMS,0.699,2.515, ...anything else...\n
with open(filename) as f:
data_table.LoadData( [el if n==0 else float(el) for n,el in enumerate(line.split(',')[0:3])]
for line in f )
return data_table
.
现在您必须检查是否可以在这段代码中插入从另一个 API 读取 CSV 数据的方式,以保持迭代原则来填充数据表。
关于python - 在 python 中使用 csv.DictReader 进行数据类型转换的最快方法,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/4897935/