python - 使用正则表达式从推文中提取主题标签的更快方法

Question

我有一个 pandas 数据框，其中包含 100 万条推文的详细信息，包括推文本身和各种其他属性。我正在尝试从推文中提取主题标签列表。重要的是，该列表仍然与每条推文相关联，而不是成为所有推文中的主题标签列表。

我拥有的推文数量意味着运行需要数小时/数天。正如我已经尝试过的那样，除了在 pandas 数据帧上使用 iterrows 之外，还有其他选择吗？

def extracthash(x):
    for index, row in tweets_scored.iterrows():
    tweets_scored.loc[:,"Hashtags"]= tweets_scored.text.str.find(r'#.*?(?=\s|$)')
    return tweets_scored

tweets_scored.apply(extracthash, axis=1)

这就是我的目标，如果我只提取数据框中少量行的子集，代码确实可以工作。

text                                    hashtag list

I like #cheese and #flour        [#cheese, #flour] 

He eats #bread                            [#bread]

真诚感谢任何帮助!谢谢

Answer 1

我正在使用这个小循环来处理类似的情况(推文上的 NLP)来提取推文的主题标签和 at 引用。它既快速又简单:

import re
tHash = []
tAt = []
for item in tweets:
    if re.search('^@.*', item):
       tAt.append(item)

    if re.search('^#.*', item):
       tHash.append(item)