gpt4 book ai didi

python - 使用 Numpy.loadtxt() 进行并行处理

转载 作者:太空宇宙 更新时间:2023-11-04 03:48:18 25 4
gpt4 key购买 nike

我有一个 >100MB 的文件需要用 numpy.loadtxt() 读取

阅读部分是我代码中的主要瓶颈。对于 72MB 的文件,它需要 17.3s

是否可以使用 loadtxt()

以并行方式读取文件

如果可能,不拆分文件。

最佳答案

看起来 numpy.loadtxt() 是您的问题。

http://wesmckinney.com/blog/?p=543

http://codrspace.com/durden/performance-lessons-for-reading-ascii-files-into-numpy-arrays/

根据这些站点,您最好根本不使用 numpy 的加载函数。

pandas.read_csvread_table 应该对 pandas 模块有帮助。

关于python - 使用 Numpy.loadtxt() 进行并行处理,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/22616283/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com