gpt4 book ai didi

python - 在将字符串转换为列表后,如何从我的 nltk token 中删除 '\n',或阻止它首先出现?

转载 作者:行者123 更新时间:2023-12-05 07:21:55 24 4
gpt4 key购买 nike

我已将一列从 CSV 格式转换为列表,然后是用于标记化的字符串。在它被转换成一个字符串后,我得到了 '\n' 。我正在寻求完全防止这种情况发生,或者在它发生后将其删除。

到目前为止,我已经尝试过 replace、strip 和 rstrip,但均无济于事。

这是我在将列表转换为字符串后尝试 .replace() 的版本。

df = pd.read_csv('raw_da_qs.csv')
question = df['question_only']
question = question.str.replace(r'\d+','')
question = str(question.tolist())
question = question.replace('\n','')
tokenizer = nltk.tokenize.RegexpTokenizer('\w+')
tokens = tokenizer.tokenize(question)

最后我得到了这样的标记,比如“nthere”和“nsuicide”

最佳答案

我有同样的问题,我唯一的 solution我发现是使用 sed .我希望有人会分享一个 pythonic 的方式来处理它。

关于python - 在将字符串转换为列表后,如何从我的 nltk token 中删除 '\n',或阻止它首先出现?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56708768/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com