pandas - 使用 Python Pandas 比较具有不同行数的两个 Excel 文件

Question

我正在使用 Python 3.7，我想比较两个具有相同列(140 列)但行数不同的 Excel 文件，我查看了网站，但没有找到解决方案我的情况!

这是一个例子:

df1 (old report) : 

id       qte     d1    d2

A        10      23    35  

B        43      63    63

C       15       61    62

df2 (new report) : 

id       qte     d1    d2

A        20      23    35  

C       15       61    62

E       38       62    16

F       63       20    51

结果应该是:

• 修改行必须为黄色，修改值必须为红色

• 绿色的新行

• 红色的是删除的行

  id qte d1 d2

  20 23 35

  C 15 61 62

  B 43 63 63

  E 38 62 16

  F 63 20 51

代码:

import pandas as pd
import numpy as np

df1= pd.read_excel(r'C .....\data novembre.xlsx','Sheet1',na_values=['NA'])
df2= pd.read_excel(r'C.....\data decembre.xlsx','Sheet1',na_values=['NA'])
merged_data=df1.merge(df2, left_on = 'id', right_on = 'id', how = 'outer')

加入数据虽然不是我想要的!

我刚刚开始学习 Python，所以我真的需要帮助!

Answer 1

excel diff 可以很快变成一个时髦的野兽，但我们应该能够通过一些 concats 和 bool 语句来做到这一点。

假设你的数据帧被称为df1, df2

df1 = df1.set_index('id')
df2 = df2.set_index('id')

df3 = pd.concat([df1,df2],sort=False)
df3a = df3.stack().groupby(level=[0,1]).unique().unstack(1).copy()


df3a.loc[~df3a.index.isin(df2.index),'status'] = 'deleted' # if not in df2 index then deleted
df3a.loc[~df3a.index.isin(df1.index),'status'] = 'new'     # if not in df1 index then new
idx = df3.stack().groupby(level=[0,1]).nunique() # get modified cells. 
df3a.loc[idx.mask(idx <= 1).dropna().index.get_level_values(0),'status'] = 'modified'
df3a['status'] = df3a['status'].fillna('same') # assume that anything not fufilled by above rules is the same.

---

print(df3a)

      d1    d2       qte    status
id                                
A   [23]  [35]  [10, 20]  modified
B   [63]  [63]      [43]   deleted
C   [61]  [62]      [15]      same
E   [62]  [16]      [38]       new
F   [20]  [51]      [63]       new

如果您不介意将所有数据类型转换为字符串对性能的影响，那么这可行。不过，我不推荐它，使用事实或缓慢变化的维度架构来保存此类数据，您将来会感谢自己。

df3a.stack().explode().astype(str).groupby(level=[0,1]).agg('-->'.join).unstack(1)

    d1  d2      qte    status
id                           
A   23  35  10-->20  modified
B   63  63       43   deleted
C   61  62       15      same
E   62  16       38       new
F   20  51       63       new