python - 在 python 中使用 csv.DictReader 进行数据类型转换的最快方法

Question

我正在用 python 处理一个 CSV 文件，使用时该文件大约有 100,000 行。每行都有一组维度(作为字符串)和一个指标( float )。

由于 csv.DictReader 或 csv.reader 仅将值作为字符串返回，我目前正在遍历所有行并将一个数值转换为 float 。

for i in csvDict:
    i[col] = float(i[col])

有没有任何人可以建议这样做的更好方法？我一直在研究 map、izip、itertools 的各种组合，并广泛搜索了一些更高效的示例，但遗憾的是没有取得太大成功。

如果有帮助:我在 appengine 上做这个。我相信我正在做的事情可能会导致我遇到这个错误:在为总共 11 个请求提供服务后，超过 267.789 MB 的软进程大小限制 - 我仅在 CSV 非常大时才得到它。

编辑:我的目标我正在解析此 CSV，以便可以将其用作 data source for the Google Visualizations API .最终的数据集会加载到一个 gviz DataTable 中供查询。必须在构造此表期间指定类型。如果有人知道 python 中的 gviz csv->datatable 转换器，我的问题也可以解决!

Edit2:我的代码

我认为我的问题与我尝试修复 CsvTypes() 的方式有关。此外，data_table.LoadData() 需要一个可迭代对象。

class GvizFromCsv(object):
  """Convert CSV to Gviz ready objects."""

  def __init__(self, csvFile, dateTimeFormat=None):
    self.fileObj = StringIO.StringIO(csvFile)
    self.csvDict = list(csv.DictReader(self.fileObj))
    self.dateTimeFormat = dateTimeFormat
    self.headers = {}
    self.ParseHeaders()
    self.fixCsvTypes()

  def IsNumber(self, st):
    try:
        float(st)
        return True
    except ValueError:
        return False

  def IsDate(self, st):
    try:
      datetime.datetime.strptime(st, self.dateTimeFormat)
    except ValueError:
      return False

  def ParseHeaders(self):
    """Attempts to figure out header types for gviz, based on first row"""
    for k, v in self.csvDict[0].items():
      if self.IsNumber(v):
        self.headers[k] = 'number'
      elif self.dateTimeFormat and self.IsDate(v):
        self.headers[k] = 'date'
      else:
        self.headers[k] = 'string'

  def fixCsvTypes(self):
    """Only fixes numbers."""
    update_to_numbers = []
    for k,v in self.headers.items():
      if v == 'number':
        update_to_numbers.append(k)
    for i in self.csvDict:
      for col in update_to_numbers:
        i[col] = float(i[col])

  def CreateDataTable(self):
    """creates a gviz data table"""
    data_table = gviz_api.DataTable(self.headers)
    data_table.LoadData(self.csvDict)
    return data_table

Answer 1

我首先使用正则表达式利用了 CSV 文件，但是由于文件中的数据在每一行中都非常严格地排列，我们可以简单地使用 split() 函数

import gviz_api

scheme = [('col1','string','SURNAME'),('col2','number','ONE'),('col3','number','TWO')]
data_table = gviz_api.DataTable(scheme)

#  --- lines in surnames.csv are : --- 
#  surname,percent,cumulative percent,rank\n
#  SMITH,1.006,1.006,1,\n
#  JOHNSON,0.810,1.816,2,\n
#  WILLIAMS,0.699,2.515,3,\n

with open('surnames.csv') as f:

    def transf(surname,x,y):
        return (surname,float(x),float(y))

    f.readline()
    # to skip the first line surname,percent,cumulative percent,rank\n

    data_table.LoadData( transf(*line.split(',')[0:3]) for line in f )
    # to populate the data table by iterating in the CSV file

或者没有定义函数:

import gviz_api

scheme = [('col1','string','SURNAME'),('col2','number','ONE'),('col3','number','TWO')]
data_table = gviz_api.DataTable(scheme)

#  --- lines in surnames.csv are : --- 
#  surname,percent,cumulative percent,rank\n
#  SMITH,1.006,1.006,1,\n
#  JOHNSON,0.810,1.816,2,\n
#  WILLIAMS,0.699,2.515,3,\n

with open('surnames.csv') as f:

    f.readline()
    # to skip the first line surname,percent,cumulative percent,rank\n

    datdata_table.LoadData( [el if n==0 else float(el) for n,el in enumerate(line.split(',')[0:3])] for line in f )    
    # to populate the data table by iterating in the CSV file

有一段时间，我认为我有义务一次用一行填充数据表，因为我使用的是正则表达式，需要在 float 数字字符串之前获取匹配项的组。使用 split() 可以通过 LoadData()

在一条指令中完成所有操作

.

因此，您的代码可以缩短。顺便说一句，我不明白为什么要继续定义一个类。相反，一个函数对我来说似乎就足够了:

def GvizFromCsv(filename):
  """ creates a gviz data table from a CSV file """

  data_table = gviz_api.DataTable([('col1','string','SURNAME'),
                                   ('col2','number','ONE'    ),
                                   ('col3','number','TWO'    ) ])

  #  --- with such a table schema , lines in the file must be like that: ---  
  #  blah, number, number, ...anything else...\n 
  #  SMITH,1.006,1.006, ...anything else...\n 
  #  JOHNSON,0.810,1.816, ...anything else...\n 
  #  WILLIAMS,0.699,2.515, ...anything else...\n

  with open(filename) as f:
    data_table.LoadData( [el if n==0 else float(el) for n,el in enumerate(line.split(',')[0:3])]
                         for line in f )
  return data_table

.

现在您必须检查是否可以在这段代码中插入从另一个 API 读取 CSV 数据的方式，以保持迭代原则来填充数据表。