个人中心
文章发布
退出
作者热门文章
- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
28
4
CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章能让你轻松的实现自然语言处理的5个Python库由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.
自然语言是指人类相互交流的语言，而自然语言处理是将数据以可理解的形式进行预处理，使计算机能够理解的一种方法。简单地说，自然语言处理(NLP)是帮助计算机用自己的语言与人类交流的过程.
自然语言处理是最广泛的研究领域之一。许多大公司在这个领域投资很大。NLP为公司提供了机会，让他们能够根据消费者的情绪和文本很好地了解他们。NLP的一些最佳用例是检测假电子邮件、对假新闻进行分类、情感分析、预测你的下一个单词、自动更正、聊天机器人、个人助理等等.
解决任何NLP任务前要知道的7个术语 。
标记：它是将整个文本分割成小标记的过程。占卜是根据句子和单词两个基础来完成的.
|
1
2
3
4
5
6
|
text
=
"Hello there, how are you doing today? The weather is great today. python is awsome"
##sentece tokenize (Separated by sentence)
[
'Hello there, how are you doing today?'
,
'The weather is great today.'
,
'python is awsome'
]
##word tokenizer (Separated by words)
[
'Hello'
,
'there'
,
','
,
'how'
,
'are'
,
'you'
,
'doing'
,
'today'
,
'?'
,
'The'
,
'weather'
,
'is'
,
'great'
,
'today'
,
'.'
,
'python'
,
'is'
,
'awsome'
]
|
停止词：一般来说，这些词不会给句子增加太多的意义。在NLP中，我们删除了所有的停止词，因为它们对分析数据不重要。英语中总共有179个停止词.
词干提取：它是通过去掉后缀和前缀将一个单词还原为词根的过程.
词形还原：它的工作原理与词干法相同，但关键的区别是它返回一个有意义的单词。主要是开发聊天机器人、问答机器人、文本预测等.
WordNet：它是英语语言名词、动词、形容词和副词的词汇数据库或词典，这些词被分组为专门为自然语言处理设计的集合.
词性标注：它是将一个句子转换为一个元组列表的过程。每个元组都有一个形式(单词、标记)。这里的标签表示该单词是名词、形容词还是动词等等.
|
1
2
3
|
text
=
'An sincerity so extremity he additions.'
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
(
'An'
,
'DT'
), (
'sincerity'
,
'NN'
), (
'so'
,
'RB'
), (
'extremity'
,
'NN'
), (
'he'
,
'PRP'
), (
'additions'
,
'VBZ'
)]
|
词袋：它是一个将文本转换成某种数字表示的过程。比如独热编码等.
|
1
2
3
4
5
6
7
|
sent1
=
he
is
a good boy
sent2
=
she
is
a good girl
|
|
girl good boy
sent1
0
1
1
sent2
1
0
1
|
现在，让我们回到我们的主题，看看可以帮助您轻松预处理数据的库.
毫无疑问，它是自然语言处理最好和使用最多的库之一。NLTK是自然语言工具包的缩写。由Steven Bird 和Edward Loper开发的。它带有许多内置的模块，用于标记化、词元化、词干化、解析、分块和词性标记。它提供超过50个语料库和词汇资源.
安装:pip install nltk 。
让我们使用NLTK对给定的文本执行预处理 。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
import
nltk
#nltk.download('punkt')
from
nltk.tokenize
import
word_tokenize
from
nltk.corpus
import
stopwords
from
nltk.stem
import
PorterStemmer
import
re
ps
=
PorterStemmer()
text
=
'Hello there,how are you doing today? I am Learning Python.'
text
=
re.sub(
"[^a-zA-Z0-9]"
,
" "
,text)
text
=
word_tokenize(text)
text_with_no_stopwords
=
[ps.stem(word)
for
word
in
text
if
word
not
in
stopwords.words(
'english'
)]
text
=
" "
.join(text_with_no_stopwords)
text
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
OUTPUT
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
'hello today I learn python'
|
Textblob是一个简化的文本处理库。它提供了一个简单的API，用于执行常见的NLP任务，如词性标记、情感分析、分类、翻译等.
安装:pip install textblob 。
这是python中最好用的自然语言处理库之一，它是用cpython编写的。它提供了一些预训练的统计模型，并支持多达49种以上的语言进行标记化。它以卷积神经网络为特征，用于标记、解析和命名实体识别.
安装:pip install spacy 。
|
1
2
3
4
5
6
7
8
9
10
11
12
|
import
spacy
nlp
=
spacy.load(
'en_core_web_sm'
)
text
=
"I am Learning Python Nowdays"
text2
=
nlp(text)
for
token
in
text2:
print
(token,token.idx)
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
OUTPUT
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
I
0
am
2
Learning
5
Python
14
Nowdays
21
|
它是一个Python库，专门用于识别两个文档之间的语义相似性。它使用向量空间建模和主题建模工具包来寻找文档之间的相似之处。它是设计用来处理大型文本语料库的算法.
安装:pip install gensim 。
Stanford CoreNLP的目标是简化对一段文本应用不同语言工具的过程。这个库运行速度非常快，并且在开发中工作得很好.
安装:pip install stanford-corenlp 。
到此这篇关于5个Python库就能让你轻松的实现自然语言预处理的文章就介绍到这了,更多相关Python库自然语言预处理内容请搜索我以前的文章或继续浏览下面的相关文章希望大家以后多多支持我！ 。
原文链接：https://blog.csdn.net/deephub/article/details/116693537 。
最后此篇关于能让你轻松的实现自然语言处理的5个Python库的文章就讲到这里了,如果你想了解更多关于能让你轻松的实现自然语言处理的5个Python库的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
28
4
0
对于 Metal ，如果对主纹理进行 mipmap 处理，是否还需要对多采样纹理进行 mipmap 处理？我阅读了苹果文档，但没有得到任何相关信息。 最佳答案 Mipmapping 适用于您将从中
我正在使用的代码在后端 Groovy 代码中具有呈现 GSP(Groovy 服务器页面)的 Controller 。对于前端，我们使用 React-router v4 来处理路由。我遇到的问题是，通过
我们正在 build 一个巨大的网站。我们正在考虑是在服务器端(ASP .Net)还是在客户端进行 HTML 处理。 例如，我们有 HTML 文件，其作用类似于用于生成选项卡的模板。服务器端获取 HT
我正在尝试将图像加载到 void setup() 中的数组中，但是当我这样做时出现此错误:“类型不匹配，'processing .core.PImage' does not匹配“processing.
我正在尝试使用其私有(private)应用程序更新 Shopify 上的客户标签。我用 postman 尝试过，一切正常，但通过 AJAX，它带我成功回调而不是错误，但成功后我得到了身份验证链接，而不
如何更改我的 Processing appIconTest.exe 导出的默认图标在窗口中的应用程序？ 默认一个: 最佳答案 经过一些研究，我能找到的最简单的解决方案是: 进入 ...\process
我在 Processing 中做了一个简单的小游戏，但需要一些帮助。我有一个 mp3，想将它添加到我的应用程序中，以便在后台循环运行。 这可能吗？非常感谢。 最佳答案 您可以使用声音库。处理已经自带
我有几个这样创建的按钮: 在 setup() PImage[] imgs1 = {loadImage("AREA1_1.png"),loadImage("AREA1_2.png"),loadImage
我正在尝试使用 Processing 创建一个多人游戏，但无法弄清楚如何将屏幕分成两个以显示玩家的不同情况？ 就像在 c# 中一样，我们有Viewport leftViewport,rightView
我一直在尝试使用 Moore 邻域在处理过程中创建元胞自动机，到目前为止非常成功。我已经设法使基本系统正常工作，现在我希望通过添加不同的功能来使用它。现在，我检查细胞是否存活。如果是，我使用 fill
有没有办法用 JavaScript 代码检查资源使用情况？我可以检查脚本的 RAM 使用情况和 CPU 使用情况吗？ 由于做某事有多种方法，我可能会使用不同的方法编写代码，并将其保存为两个不同的文件，
我想弄清楚如何处理这样的列表: [ [[4,6,7], [1,2,4,6]] , [[10,4,2,4], [1]] ] 这是一个整数列表的列表 我希望我的函数将此列表作为输入并返回列表中没有重复的整
有没有办法在不需要时处理 MethodChannel/EventChannel ？我问是因为我想为对象创建多个方法/事件 channel 。 例子: class Call { ... fields
我有一个关于在 Python3 中处理 ConnectionResetError 的问题。这通常发生在我使用 urllib.request.Request 函数时。我想知道如果我们遇到这样的错误是否可
我一直在努力解决这个问题几个小时，但无济于事。代码很简单，一个弹跳球(粒子)。将粒子的速度初始化为 (0, 0) 将使其保持上下弹跳。将粒子的初始化速度更改为 (0, 0.01) 或任何十进制浮点数都
我把自己弄得一团糟。 我想在我的系统中添加 python3.6 所以我决定在我的 Ubuntu 19.10 中卸载现有的。但是现在每次我想安装一些东西我都会得到这样的错误: dpkg: error w
我正在努力解决 Rpart 包中的 NA 功能。我得到了以下数据框(下面的代码) Outcome VarA VarB 1 1 1 0 2 1 1 1
我将 Java 与 JSF 一起使用，这是 Glassfish 3 容器。 在我的 Web 应用程序中，我试图实现一个文件(图像)管理系统。 我有一个 config.properties我从中读取上传
所以我一直在Processing工作几个星期以来，虽然我没有编程经验，但我已经转向更复杂的项目。我正在编写一个进化模拟器，它会产生具有随机属性的生物。 最终，我将添加复制，但现在这些生物只是在屏幕上漂
有人知道 Delphi 2009 对“with”的处理有什么不同吗？ 我昨天解决了一个问题，只是将“with”解构为完整引用，如“with Datamodule、Dataset、MainForm”。
我是一名优秀的程序员,十分优秀！