python 和 Pandas : iterating over DataFrame twice

Question

对 DataFrame 的每一行进行马哈拉诺比斯计算，并计算与 DataFrame 中每隔一行的距离。它看起来像这样:

import pandas as pd
from scipy import linalg
from scipy.spatial.distance import mahalanobis
from pprint import pprint

testa = { 'pid': 'testa', 'a': 25, 'b': .455, 'c': .375 }
testb = { 'pid': 'testb', 'a': 22, 'b': .422, 'c': .402 }
testc = { 'pid': 'testc', 'a': 11, 'b': .389, 'c': .391 }

cats = ['a','b','c']
pids = pd.DataFrame([ testa, testb, testc ])
inverse = linalg.inv(pids[cats].cov().values)
distances = { pid: {} for pid in pids['pid'].tolist() }

for i, p in pids.iterrows():
    pid = p['pid']
    others = pids.loc[pids['pid'] != pid]
    for x, other in others.iterrows():
        otherpid = other['pid']
        d = mahalanobis(p[cats], other[cats], inverse) ** 2
        distances[pid][otherpid] = d

pprint(distances)

它对于这里的三个测试用例工作得很好，但在现实生活中它将运行大约 2000-3000 行，并且使用这种方法需要太长时间。我对 pandas 比较陌生，而且相对于 R，我真的更喜欢 python，所以我想清理一下这个。

如何提高效率？

Answer 1

Doing a mahalanobis calculation for each row of a DataFrame with distances to every other row in the DataFrame.

这基本上在 sklearn.metrics.pairwise.pairwise_distances 中得到解决。 ，因此手工操作能否更高效是值得怀疑的。因此，在这种情况下，怎么样

from sklearn import metrics

>>> metrics.pairwise.pairwise_distances(
    pids[['a', 'b', 'c']].as_matrix(),
    metric='mahalanobis')
array([[ 0.        ,  2.15290501,  3.54499647],
       [ 2.15290501,  0.        ,  2.62516666],
       [ 3.54499647,  2.62516666,  0.        ]])