python - 如何加快大字典的迭代速度

Question

我有一个字典，其中分别包含键值对 sentence_ID 和 cluster_ID。

格式如下:{sentence_ID : cluster_ID}

示例:

my_id_dict:
    {0: 71, 
    1: 63, 
    2: 66, 
    3: 92, 
    4: 49, 
    5: 85
      .
      .}

总共，我有200,000多个sentence_IDs和100个cluster_IDs。

我正在尝试循环 my_id_dict 为每个集群生成一个sentence_ids 列表。

我想要的示例输出:

Cluster 0
[63, 71, 116, 168, 187, 231, 242, 290, 330, 343]

Cluster 1
[53, 107, 281, 292, 294, 313, 353, 392, 405, 479]

这是我使用的代码:

逻辑是，对于每个簇，创建一个句子列表，然后对于所有200,000多个dict值中的cluster_id，如果dict值==当前簇索引，则将句子ID写入句子列表。

继续100次。

    cluster_dict = defaultdict(list)
    num_clusters = 100

    for cluster in xrange(0,num_clusters):
        print "\nCluster %d" % cluster

        sentences = []
        for i in xrange(0,len(my_id_dict.values())):
            if( my_id_dict.values()[i] == cluster ):
                sentences.append(my_id_dict.keys()[i])

        cluster_dict[cluster] = sentences
        print sentences[:10]

这可以工作，但是速度非常慢。有没有更快的方法可以做到这一点？

Answer 1

您将检查每个集群的每个句子。只需检查每个句子一次，将其分配到一个簇:

cluster_dict = defaultdict(list)
for sentence, cluster in my_id_dict.items():
    cluster_dict[cluster].append(sentence)