Python NLP 入门教程

2017 年 10 月 24 日 大数据技术 j_hao104
来自:j_hao104的博客

链接:www.spiderpy.cn/blog/detail/30(点击尾部阅读原文前往)


本文简要介绍Python自然语言处理(NLP),使用Python的NLTK库。NLTK是Python的自然语言处理工具包,在NLP领域中,最常使用的一个Python库。

什么是NLP?


简单来说,自然语言处理(NLP)就是开发能够理解人类语言的应用程序或服务。

这里讨论一些自然语言处理(NLP)的实际应用例子,如语音识别、语音翻译、理解完整的句子、理解匹配词的同义词,以及生成语法正确完整句子和段落。

这并不是NLP能做的所有事情。

NLP实现


搜索引擎: 比如谷歌,Yahoo等。谷歌搜索引擎知道你是一个技术人员,所以它显示与技术相关的结果;

社交网站推送:比如Facebook News Feed。如果News Feed算法知道你的兴趣是自然语言处理,就会显示相关的广告和帖子。

语音引擎:比如Apple的Siri。

垃圾邮件过滤:如谷歌垃圾邮件过滤器。和普通垃圾邮件过滤不同,它通过了解邮件内容里面的的深层意义,来判断是不是垃圾邮件。

NLP 库


下面是一些开源的自然语言处理库(NLP):

  • Natural language toolkit (NLTK);

  • Apache OpenNLP;

  • Stanford NLP suite;

  • Gate NLP library

其中自然语言工具包(NLTK)是最受欢迎的自然语言处理库(NLP),它是用Python编写的,而且背后有非常强大的社区支持。

NLTK也很容易上手,实际上,它是最简单的自然语言处理(NLP)库。

在这个NLP教程中,我们将使用Python NLTK库。

安装 NLTK


如果您使用的是Windows/Linux/Mac,您可以使用pip安装NLTK:

打开python终端导入NLTK检查NLTK是否正确安装:

如果一切顺利,这意味着您已经成功地安装了NLTK库。首次安装了NLTK,需要通过运行以下代码来安装NLTK扩展包:

这将弹出NLTK 下载窗口来选择需要安装哪些包: 

您可以安装所有的包,因为它们的大小都很小,所以没有什么问题。

使用Python Tokenize文本


首先,我们将抓取一个web页面内容,然后分析文本了解页面的内容。

我们将使用urllib模块来抓取web页面:


从打印结果中可以看到,结果包含许多需要清理的HTML标签。 然后BeautifulSoup模块来清洗这样的文字:

现在我们从抓取的网页中得到了一个干净的文本。 下一步,将文本转换为tokens,像这样:

统计词频


text已经处理完毕了,现在使用Python NLTK统计token的频率分布。

可以通过调用NLTK中的FreqDist()方法实现:


如果搜索输出结果,可以发现最常见的token是PHP。 您可以调用plot函数做出频率分布图:

这上面这些单词。比如of,a,an等等,这些词都属于停用词。

一般来说,停用词应该删除,防止它们影响分析结果。

处理停用词


NLTK自带了许多种语言的停用词列表,如果你获取英文停用词:


现在,修改下代码,在绘图之前清除一些无效的token:

最终的代码应该是这样的:

现在再做一次词频统计图,效果会比之前好些,因为剔除了停用词:

使用NLTK Tokenize文本


在之前我们用split方法将文本分割成tokens,现在我们使用NLTK来Tokenize文本。

文本没有Tokenize之前是无法处理的,所以对文本进行Tokenize非常重要的。token化过程意味着将大的部件分割为小部件。

你可以将段落tokenize成句子,将句子tokenize成单个词,NLTK分别提供了句子tokenizer和单词tokenizer。

假如有这样这段文本:


使用句子tokenizer将文本tokenize成句子:

输出如下:

这是你可能会想,这也太简单了,不需要使用NLTK的tokenizer都可以,直接使用正则表达式来拆分句子就行,因为每个句子都有标点和空格。

那么再来看下面的文本:


这样如果使用标点符号拆分,Hello Mr将会被认为是一个句子,如果使用NLTK:

输出如下:

这才是正确的拆分。

接下来试试单词tokenizer:


输出如下:

Mr.这个词也没有被分开。NLTK使用的是punkt模块的PunktSentenceTokenizer,它是NLTK.tokenize的一部分。而且这个tokenizer经过训练,可以适用于多种语言。

非英文 Tokenize


Tokenize时可以指定语言:


输出结果如下:

同义词处理


使用nltk.download()安装界面,其中一个包是WordNet。

WordNet是一个为自然语言处理而建立的数据库。它包括一些同义词组和一些简短的定义。

您可以这样获取某个给定单词的定义和示例:

输出结果是:

WordNet包含了很多定义:

结果如下:

可以像这样使用WordNet来获取同义词:

输出:

反义词处理


也可以用同样的方法得到反义词:


输出:

词干提取


语言形态学和信息检索里,词干提取是去除词缀得到词根的过程,例如working的词干为work。

搜索引擎在索引页面时就会使用这种技术,所以很多人为相同的单词写出不同的版本。

有很多种算法可以避免这种情况,最常见的是波特词干算法。NLTK有一个名为PorterStemmer的类,就是这个算法的实现:


输出结果是:

还有其他的一些词干提取算法,比如 Lancaster词干算法。

非英文词干提取


除了英文之外,SnowballStemmer还支持13种语言。

支持的语言:


你可以使用SnowballStemmer类的stem函数来提取像这样的非英文单词:

单词变体还原


单词变体还原类似于词干,但不同的是,变体还原的结果是一个真实的单词。不同于词干,当你试图提取某些词时,它会产生类似的词:

结果:

结果可能会是一个同义词或同一个意思的不同单词。

有时候将一个单词做变体还原时,总是得到相同的词。

这是因为语言的默认部分是名词。要得到动词,可以这样指定:

结果:

实际上,这也是一种很好的文本压缩方式,最终得到文本只有原先的50%到60%。

结果还可以是动词(v)、名词(n)、形容词(a)或副词(r):

输出:

词干和变体的区别


通过下面例子来观察:


输出:

词干提取不会考虑语境,这也是为什么词干提取比变体还原快且准确度低的原因。

个人认为,变体还原比词干提取更好。单词变体还原返回一个真实的单词,即使它不是同一个单词,也是同义词,但至少它是一个真实存在的单词。

如果你只关心速度,不在意准确度,这时你可以选用词干提取。

在此NLP教程中讨论的所有步骤都只是文本预处理。在以后的文章中,将会使用Python NLTK来实现文本分析。

我已经尽量使文章通俗易懂。希望能对你有所帮助。


●本文编号437,以后想阅读这篇文章直接输入437即可

●输入m获取文章目录

推荐↓↓↓
 

Python编程

更多推荐18个技术类微信公众号

涵盖:程序人生、算法与数据结构、黑客技术与网络安全、大数据技术、前端开发、Java、Python、Web开发、安卓开发、iOS开发、C/C++、.NET、Linux、数据库、运维等。

登录查看更多
19

相关内容

Natural Language Toolkit,自然语言处理工具包,在NLP领域中,最常使用的一个Python库。
专知会员服务
53+阅读 · 2020年7月4日
一份简明有趣的Python学习教程,42页pdf
专知会员服务
76+阅读 · 2020年6月22日
【哈佛《CS50 Python人工智能入门》课程 (2020)】
专知会员服务
107+阅读 · 2020年4月12日
【书籍推荐】简洁的Python编程(Clean Python),附274页pdf
专知会员服务
171+阅读 · 2020年1月1日
如何使用自然语言工具包(NLTK)在Python3中执行情感分析
Python程序员
18+阅读 · 2019年10月28日
将Python用于NLP:Pattern 库简介
Python程序员
15+阅读 · 2019年6月7日
了解情感分析中的NLP技术么?
七月在线实验室
9+阅读 · 2019年4月12日
Python用于NLP :处理文本和PDF文件
Python程序员
4+阅读 · 2019年3月27日
自然语言处理NLP快速入门
专知
19+阅读 · 2018年10月8日
实践入门NLP:基于深度学习的自然语言处理
AI研习社
10+阅读 · 2018年1月22日
Tensorflow 文本分类-Python深度学习
Python程序员
12+阅读 · 2017年11月22日
Python NLP入门教程
计算机与网络安全
8+阅读 · 2017年11月21日
Python3爬虫之入门和正则表达式
全球人工智能
7+阅读 · 2017年10月9日
Talking-Heads Attention
Arxiv
15+阅读 · 2020年3月5日
Tutorial on NLP-Inspired Network Embedding
Arxiv
7+阅读 · 2019年10月16日
Arxiv
8+阅读 · 2019年3月28日
Arxiv
4+阅读 · 2018年10月31日
Arxiv
21+阅读 · 2018年8月30日
Arxiv
25+阅读 · 2017年12月6日
VIP会员
相关资讯
如何使用自然语言工具包(NLTK)在Python3中执行情感分析
Python程序员
18+阅读 · 2019年10月28日
将Python用于NLP:Pattern 库简介
Python程序员
15+阅读 · 2019年6月7日
了解情感分析中的NLP技术么?
七月在线实验室
9+阅读 · 2019年4月12日
Python用于NLP :处理文本和PDF文件
Python程序员
4+阅读 · 2019年3月27日
自然语言处理NLP快速入门
专知
19+阅读 · 2018年10月8日
实践入门NLP:基于深度学习的自然语言处理
AI研习社
10+阅读 · 2018年1月22日
Tensorflow 文本分类-Python深度学习
Python程序员
12+阅读 · 2017年11月22日
Python NLP入门教程
计算机与网络安全
8+阅读 · 2017年11月21日
Python3爬虫之入门和正则表达式
全球人工智能
7+阅读 · 2017年10月9日
相关论文
Talking-Heads Attention
Arxiv
15+阅读 · 2020年3月5日
Tutorial on NLP-Inspired Network Embedding
Arxiv
7+阅读 · 2019年10月16日
Arxiv
8+阅读 · 2019年3月28日
Arxiv
4+阅读 · 2018年10月31日
Arxiv
21+阅读 · 2018年8月30日
Arxiv
25+阅读 · 2017年12月6日
Top
微信扫码咨询专知VIP会员