python - Pandas read_table() 缺少行

Question

Pandas read_table 函数在我尝试读取的文件中缺少一些行，但我无法找出原因。

import pandas as pd
import numpy as np
filename = "whatever.txt"

df_pd = pd.read_table(filename, use_cols=['FirstColumn'], skip_blank_lines=False)
df_np = np.genfromtxt(filename, usecols=0)

#function to count file line by line
def file_len(fname):
    with open(fname) as f:
        for i, l in enumerate(f):
            pass
    return i + 1

len_pd = len(df_pd)
len_np = len(df_np)
len_linebyline = file_len(filename)

不幸的是，我无法共享我的实际数据，因为它是一个巨大的文件，除了受许可保护外，还有 30 列 x 5800 万行。由于某种原因，numpy 和 file_len 方法给出了大约 5800 万行的正确长度，但 pandas 方法只有大约 5500 万行。

有人对可能导致此问题的原因或我如何调查它有任何想法吗？

Answer 1

使用以下方法，您可以尝试查找丢失的数据:

In [31]: df = pd.DataFrame({'col':[0,1,2,3,4,6,7,8]})

In [32]: a = np.arange(10)

In [33]: df
Out[33]:
   col
0    0
1    1
2    2
3    3
4    4
5    6
6    7
7    8

In [34]: a
Out[34]: array([0, 1, 2, 3, 4, 5, 6, 7, 8, 9])

In [35]: np.setdiff1d(a, df.col)
Out[35]: array([5, 9])