gpt4 book ai didi

python - 溢出 : length too large

转载 作者:行者123 更新时间:2023-12-04 18:57:41 25 4
gpt4 key购买 nike

我收到错误:OverflowError: length too large
我正在尝试在此具有 30GB 内存的 vm 上读取 24GB csv:Linux indexer 3.19.0-59-generic #66~14.04.1-Ubuntu SMP Fri May 13 17:27:10 UTC 2016 x86_64 x86_64 x86_64 GNU/Linux
我可能的解决方案是什么?我不熟悉python中的大小限制:

csv_file = csv.reader(media.read().splitlines(), delimiter=mapping['delimiter'], quoting=csv.QUOTE_NONE)

最佳答案

删除 .read().splitlines()因为这会一口气将整个文件读入内存,这太多了。文件对象 media已经是行的迭代器了 csv.reader将正确处理。然后遍历阅读器并逐行执行您需要的任何操作。

关于python - 溢出 : length too large,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/37482981/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com