Python NLP入门教程

秒秒木木

（点击上方公众号，可快速关注）

泉源：j_hao104
www.cnblogs.com/jhao/p/7610218.html
如有好文章投稿，请点击 → 这里相识详情

本文扼要先容Python天然语言处置惩罚(NLP)，利用Python的NLTK库。NLTK是Python的天然语言处置惩罚工具包，在NLP范畴中，最常利用的一个Python库。


什么是NLP？


简朴来说，天然语言处置惩罚(NLP)就是开辟可以或许明白人类语言的应用步伐或服务。


这里讨论一些天然语言处置惩罚(NLP)的现实应用例子，如语音辨认、语音翻译、明白完备的句子、明白匹配词的同义词，以及天生语法精确完备句子和段落。


这并不是NLP能做的全部事变。


NLP实现


搜刮引擎: 好比谷歌，Yahoo等。谷歌搜刮引擎知道你是一个技能职员，以是它表现与技能相干的效果；


交际网站推送:好比Facebook News Feed。假如News Feed算法知道你的爱好是天然语言处置惩罚，就会表现相干的广告和帖子。


语音引擎:好比Apple的Siri。


垃圾邮件过滤:如谷歌垃圾邮件过滤器。和平凡垃圾邮件过滤差别，它通过相识邮件内容内里的的深层意义，来判定是不是垃圾邮件。


NLP库


下面是一些开源的天然语言处置惩罚库(NLP)：

• Natural language toolkit (NLTK);
  
• Apache OpenNLP;
  
• Stanford NLP suite;
  
• Gate NLP library
  

此中天然语言工具包(NLTK)是最受接待的天然语言处置惩罚库(NLP)，它是用Python编写的，而且背后有非常强盛的社区支持。


NLTK也很轻易上手，现实上，它是最简朴的天然语言处置惩罚(NLP)库。


在这个NLP教程中，我们将利用Python NLTK库。


安装 NLTK


假如您利用的是Windows/Linux/Mac，您可以利用pip安装NLTK:

pip install nltk

打开python终端导入NLTK查抄NLTK是否精确安装：

import nltk

假如统统顺遂，这意味着您已经乐成地安装了NLTK库。初次安装了NLTK，必要通过运行以下代码来安装NLTK扩展包:

import[color=#006FE0 !important] [color=teal !important]nltk
 
[color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]download[color=#333333 !important]()

这将弹出NLTK 下载窗口来选择必要安装哪些包:





您可以安装全部的包，由于它们的巨细都很小，以是没有什么题目。


利用Python Tokenize文本


起首，我们将抓取一个web页面内容，然后分析文本相识页面的内容。


我们将利用urllib模块来抓取web页面:

import[color=#006FE0 !important] [color=teal !important]urllib[color=#333333 !important].[color=teal !important]request
 
[color=#002D7A !important]response[color=#006FE0 !important] = [color=teal !important]urllib[color=#333333 !important].[color=#002D7A !important]request[color=#333333 !important].[color=teal !important]urlopen[color=#333333 !important]([color=#DD1144 !important]'http://php.net/'[color=#333333 !important])
[color=#002D7A !important]html[color=#006FE0 !important] = [color=#002D7A !important]response[color=#333333 !important].[color=teal !important]read[color=#333333 !important]()
[color=teal !important]print[color=#006FE0 !important] [color=#333333 !important]([color=#002D7A !important]html[color=#333333 !important])

从打印效果中可以看到，效果包罗很多必要清算的HTML标签。


然后BeautifulSoup模块来洗濯如许的笔墨:

from[color=#006FE0 !important] [color=teal !important]bs4 import[color=#006FE0 !important] [color=teal !important]BeautifulSoup
 
import[color=#006FE0 !important] [color=teal !important]urllib[color=#333333 !important].[color=teal !important]request
[color=#002D7A !important]response[color=#006FE0 !important] = [color=teal !important]urllib[color=#333333 !important].[color=#002D7A !important]request[color=#333333 !important].[color=teal !important]urlopen[color=#333333 !important]([color=#DD1144 !important]'http://php.net/'[color=#333333 !important])
[color=#002D7A !important]html[color=#006FE0 !important] = [color=#002D7A !important]response[color=#333333 !important].[color=teal !important]read[color=#333333 !important]()
[color=#002D7A !important]soup[color=#006FE0 !important] = [color=teal !important]BeautifulSoup[color=#333333 !important]([color=#002D7A !important]html[color=#333333 !important],[color=#DD1144 !important]"html5lib"[color=#333333 !important])
[color=#999999 !important]# 这必要安装html5lib模块
[color=#002D7A !important]text[color=#006FE0 !important] = [color=#002D7A !important]soup[color=#333333 !important].[color=teal !important]get_text[color=#333333 !important]([color=#002D7A !important]strip[color=#006FE0 !important]=[color=#800080 !important]True[color=#333333 !important])
[color=teal !important]print[color=#006FE0 !important] [color=#333333 !important]([color=#002D7A !important]text[color=#333333 !important])

如今我们从抓取的网页中得到了一个干净的文本。


下一步，将文本转换为tokens,像如许:

from[color=#006FE0 !important] [color=teal !important]bs4 import[color=#006FE0 !important] [color=teal !important]BeautifulSoup
import[color=#006FE0 !important] [color=teal !important]urllib[color=#333333 !important].[color=teal !important]request
 
[color=#002D7A !important]response[color=#006FE0 !important] = [color=teal !important]urllib[color=#333333 !important].[color=#002D7A !important]request[color=#333333 !important].[color=teal !important]urlopen[color=#333333 !important]([color=#DD1144 !important]'http://php.net/'[color=#333333 !important])
[color=#002D7A !important]html[color=#006FE0 !important] = [color=#002D7A !important]response[color=#333333 !important].[color=teal !important]read[color=#333333 !important]()
[color=#002D7A !important]soup[color=#006FE0 !important] = [color=teal !important]BeautifulSoup[color=#333333 !important]([color=#002D7A !important]html[color=#333333 !important],[color=#DD1144 !important]"html5lib"[color=#333333 !important])
[color=#002D7A !important]text[color=#006FE0 !important] = [color=#002D7A !important]soup[color=#333333 !important].[color=teal !important]get_text[color=#333333 !important]([color=#002D7A !important]strip[color=#006FE0 !important]=[color=#800080 !important]True[color=#333333 !important])
[color=#002D7A !important]tokens[color=#006FE0 !important] = [color=#002D7A !important]text[color=#333333 !important].[color=teal !important]split[color=#333333 !important]()
[color=teal !important]print[color=#006FE0 !important] [color=#333333 !important]([color=#002D7A !important]tokens[color=#333333 !important])

统计词频


text已经处置惩罚完毕了，如今利用Python NLTK统计token的频率分布。


可以通过调用NLTK中的FreqDist()方法实现:

from[color=#006FE0 !important] [color=teal !important]bs4 import[color=#006FE0 !important] [color=teal !important]BeautifulSoup
import[color=#006FE0 !important] [color=teal !important]urllib[color=#333333 !important].[color=teal !important]request
import[color=#006FE0 !important] [color=teal !important]nltk
 
[color=#002D7A !important]response[color=#006FE0 !important] = [color=teal !important]urllib[color=#333333 !important].[color=#002D7A !important]request[color=#333333 !important].[color=teal !important]urlopen[color=#333333 !important]([color=#DD1144 !important]'http://php.net/'[color=#333333 !important])
[color=#002D7A !important]html[color=#006FE0 !important] = [color=#002D7A !important]response[color=#333333 !important].[color=teal !important]read[color=#333333 !important]()
[color=#002D7A !important]soup[color=#006FE0 !important] = [color=teal !important]BeautifulSoup[color=#333333 !important]([color=#002D7A !important]html[color=#333333 !important],[color=#DD1144 !important]"html5lib"[color=#333333 !important])
[color=#002D7A !important]text[color=#006FE0 !important] = [color=#002D7A !important]soup[color=#333333 !important].[color=teal !important]get_text[color=#333333 !important]([color=#002D7A !important]strip[color=#006FE0 !important]=[color=#800080 !important]True[color=#333333 !important])
[color=#002D7A !important]tokens[color=#006FE0 !important] = [color=#002D7A !important]text[color=#333333 !important].[color=teal !important]split[color=#333333 !important]()
[color=#002D7A !important]freq[color=#006FE0 !important] = [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]FreqDist[color=#333333 !important]([color=#002D7A !important]tokens[color=#333333 !important])
for[color=#006FE0 !important] [color=#002D7A !important]key[color=#333333 !important],[color=teal !important]val in[color=#006FE0 !important] [color=#002D7A !important]freq[color=#333333 !important].[color=teal !important]items[color=#333333 !important]()[color=#006FE0 !important]:
[color=#006FE0 !important]    [color=teal !important]print[color=#006FE0 !important] [color=#333333 !important]([color=teal !important]str[color=#333333 !important]([color=#002D7A !important]key[color=#333333 !important])[color=#006FE0 !important] + [color=#DD1144 !important]':'[color=#006FE0 !important] + [color=teal !important]str[color=#333333 !important]([color=#002D7A !important]val[color=#333333 !important]))

假如搜刮输出效果，可以发现最常见的token是PHP。


您可以调用plot函数做出频率分布图:

[color=#002D7A !important]freq[color=#333333 !important].[color=teal !important]plot[color=#333333 !important]([color=#009999 !important]20[color=#333333 !important],[color=#006FE0 !important] [color=#002D7A !important]cumulative[color=#006FE0 !important]=[color=#800080 !important]False[color=#333333 !important])
[color=#999999 !important]# 必要安装matplotlib库

这上面这些单词。好比of,a,an等等，这些词都属于停用词。


一样平常来说，停用词应该删除，防止它们影响分析效果。


处置惩罚停用词


NLTK自带了很多种语言的停用词列表，假如你获取英文停用词:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]corpus import[color=#006FE0 !important] [color=teal !important]stopwords
 
[color=#002D7A !important]stopwords[color=#333333 !important].[color=teal !important]words[color=#333333 !important]([color=#DD1144 !important]'english'[color=#333333 !important])

如今，修改下代码,在画图之前扫除一些无效的token:

[color=#002D7A !important]clean_tokens[color=#006FE0 !important] = [color=teal !important]list[color=#333333 !important]()
[color=#002D7A !important]sr[color=#006FE0 !important] = [color=#002D7A !important]stopwords[color=#333333 !important].[color=teal !important]words[color=#333333 !important]([color=#DD1144 !important]'english'[color=#333333 !important])
for[color=#006FE0 !important] [color=teal !important]token[color=#006FE0 !important] in[color=#006FE0 !important] [color=#002D7A !important]tokens[color=#006FE0 !important]:
[color=#006FE0 !important]    if[color=#006FE0 !important] [color=teal !important]token[color=#006FE0 !important] not[color=#006FE0 !important] in[color=#006FE0 !important] [color=#002D7A !important]sr[color=#006FE0 !important]:
[color=#006FE0 !important]        [color=#002D7A !important]clean_tokens[color=#333333 !important].[color=teal !important]append[color=#333333 !important]([color=teal !important]token[color=#333333 !important])

终极的代码应该是如许的:

from[color=#006FE0 !important] [color=teal !important]bs4 import[color=#006FE0 !important] [color=teal !important]BeautifulSoup
import[color=#006FE0 !important] [color=teal !important]urllib[color=#333333 !important].[color=teal !important]request
import[color=#006FE0 !important] [color=teal !important]nltk
from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]corpus import[color=#006FE0 !important] [color=teal !important]stopwords
 
[color=#002D7A !important]response[color=#006FE0 !important] = [color=teal !important]urllib[color=#333333 !important].[color=#002D7A !important]request[color=#333333 !important].[color=teal !important]urlopen[color=#333333 !important]([color=#DD1144 !important]'http://php.net/'[color=#333333 !important])
[color=#002D7A !important]html[color=#006FE0 !important] = [color=#002D7A !important]response[color=#333333 !important].[color=teal !important]read[color=#333333 !important]()
[color=#002D7A !important]soup[color=#006FE0 !important] = [color=teal !important]BeautifulSoup[color=#333333 !important]([color=#002D7A !important]html[color=#333333 !important],[color=#DD1144 !important]"html5lib"[color=#333333 !important])
[color=#002D7A !important]text[color=#006FE0 !important] = [color=#002D7A !important]soup[color=#333333 !important].[color=teal !important]get_text[color=#333333 !important]([color=#002D7A !important]strip[color=#006FE0 !important]=[color=#800080 !important]True[color=#333333 !important])
[color=#002D7A !important]tokens[color=#006FE0 !important] = [color=#002D7A !important]text[color=#333333 !important].[color=teal !important]split[color=#333333 !important]()
[color=#002D7A !important]clean_tokens[color=#006FE0 !important] = [color=teal !important]list[color=#333333 !important]()
[color=#002D7A !important]sr[color=#006FE0 !important] = [color=#002D7A !important]stopwords[color=#333333 !important].[color=teal !important]words[color=#333333 !important]([color=#DD1144 !important]'english'[color=#333333 !important])
for[color=#006FE0 !important] [color=teal !important]token[color=#006FE0 !important] in[color=#006FE0 !important] [color=#002D7A !important]tokens[color=#006FE0 !important]:
[color=#006FE0 !important]    if[color=#006FE0 !important] not[color=#006FE0 !important] [color=teal !important]token[color=#006FE0 !important] in[color=#006FE0 !important] [color=#002D7A !important]sr[color=#006FE0 !important]:
[color=#006FE0 !important]        [color=#002D7A !important]clean_tokens[color=#333333 !important].[color=teal !important]append[color=#333333 !important]([color=teal !important]token[color=#333333 !important])
[color=#002D7A !important]freq[color=#006FE0 !important] = [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]FreqDist[color=#333333 !important]([color=#002D7A !important]clean_tokens[color=#333333 !important])
for[color=#006FE0 !important] [color=#002D7A !important]key[color=#333333 !important],[color=teal !important]val in[color=#006FE0 !important] [color=#002D7A !important]freq[color=#333333 !important].[color=teal !important]items[color=#333333 !important]()[color=#006FE0 !important]:
[color=#006FE0 !important]    [color=teal !important]print[color=#006FE0 !important] [color=#333333 !important]([color=teal !important]str[color=#333333 !important]([color=#002D7A !important]key[color=#333333 !important])[color=#006FE0 !important] + [color=#DD1144 !important]':'[color=#006FE0 !important] + [color=teal !important]str[color=#333333 !important]([color=#002D7A !important]val[color=#333333 !important]))

如今再做一次词频统计图，结果会比之前好些，由于剔除了停用词:

freq.plot(20,cumulative=False)

利用NLTK Tokenize文本


在之前我们用split方法将文天职割成tokens，如今我们利用NLTK来Tokenize文本。


文本没有Tokenize之前是无法处置惩罚的，以是对文本举行Tokenize非常紧张的。token化过程意味着将大的部件分割为小部件。


你可以将段落tokenize成句子，将句子tokenize成单个词，NLTK分别提供了句子tokenizer和单词tokenizer。


如果有如许这段文本:

Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude

利用句子tokenizer将文本tokenize成句子:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]tokenize[color=#006FE0 !important] import[color=#006FE0 !important] [color=teal !important]sent_tokenize
 
[color=#002D7A !important]mytext[color=#006FE0 !important] = [color=#DD1144 !important]"Hello Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
[color=teal !important]print[color=#333333 !important]([color=teal !important]sent_tokenize[color=#333333 !important]([color=#002D7A !important]mytext[color=#333333 !important]))

输出如下:

['Hello Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']

这是你大概会想，这也太简朴了，不必要利用NLTK的tokenizer都可以，直接利用正则表达式来拆分句子就行，由于每个句子都有标点和空格。


那么再来看下面的文本:

Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude.

如许假如利用标点符号拆分,Hello Mr将会被以为是一个句子，假如利用NLTK:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]tokenize[color=#006FE0 !important] import[color=#006FE0 !important] [color=teal !important]sent_tokenize
 
[color=#002D7A !important]mytext[color=#006FE0 !important] = [color=#DD1144 !important]"Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
[color=teal !important]print[color=#333333 !important]([color=teal !important]sent_tokenize[color=#333333 !important]([color=#002D7A !important]mytext[color=#333333 !important]))

输出如下:

['Hello Mr. Adam, how are you?', 'I hope everything is going well.', 'Today is a good day, see you dude.']

这才是精确的拆分。


接下来试试单词tokenizer:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]tokenize[color=#006FE0 !important] import[color=#006FE0 !important] [color=teal !important]word_tokenize
 
[color=#002D7A !important]mytext[color=#006FE0 !important] = [color=#DD1144 !important]"Hello Mr. Adam, how are you? I hope everything is going well. Today is a good day, see you dude."
[color=teal !important]print[color=#333333 !important]([color=teal !important]word_tokenize[color=#333333 !important]([color=#002D7A !important]mytext[color=#333333 !important]))

输出如下:

['Hello', 'Mr.', 'Adam', ',', 'how', 'are', 'you', '?', 'I', 'hope', 'everything', 'is', 'going', 'well', '.', 'Today', 'is', 'a', 'good', 'day', ',', 'see', 'you', 'dude', '.']

Mr.这个词也没有被分开。NLTK利用的是punkt模块的PunktSentenceTokenizer，它是NLTK.tokenize的一部门。而且这个tokenizer颠末练习，可以实用于多种语言。


非英文Tokenize


Tokenize时可以指定语言:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]tokenize[color=#006FE0 !important] import[color=#006FE0 !important] [color=teal !important]sent_tokenize
 
[color=#002D7A !important]mytext[color=#006FE0 !important] = [color=#DD1144 !important]"Bonjour M. Adam, comment allez-vous? J'espère que tout va bien. Aujourd'hui est un bon jour."
[color=teal !important]print[color=#333333 !important]([color=teal !important]sent_tokenize[color=#333333 !important]([color=#002D7A !important]mytext[color=#333333 !important],[color=#DD1144 !important]"french"[color=#333333 !important]))

输出效果如下:

['Bonjour M. Adam, comment allez-vous?', "J'espère que tout va bien.", "Aujourd'hui est un bon jour."]

同义词处置惩罚


利用nltk.download()安装界面，此中一个包是WordNet。


WordNet是一个为天然语言处置惩罚而创建的数据库。它包罗一些同义词组和一些简短的界说。


您可以如许获取某个给定单词的界说和示例:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]corpus import[color=#006FE0 !important] [color=teal !important]wordnet
 
[color=#002D7A !important]syn[color=#006FE0 !important] = [color=#002D7A !important]wordnet[color=#333333 !important].[color=teal !important]synsets[color=#333333 !important]([color=#DD1144 !important]"pain"[color=#333333 !important])
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]syn[color=#333333 !important][[color=#009999 !important]0[color=#333333 !important]].[color=teal !important]definition[color=#333333 !important]())
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]syn[color=#333333 !important][[color=#009999 !important]0[color=#333333 !important]].[color=teal !important]examples[color=#333333 !important]())

输出效果是:

a[color=#006FE0 !important] [color=teal !important]symptom of some physical hurt or[color=#006FE0 !important] disorder
[color=#333333 !important][[color=#DD1144 !important]'the patient developed severe pain and distension'[color=#333333 !important]]

WordNet包罗了许多界说：

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]corpus import[color=#006FE0 !important] [color=teal !important]wordnet
 
[color=#002D7A !important]syn[color=#006FE0 !important] = [color=#002D7A !important]wordnet[color=#333333 !important].[color=teal !important]synsets[color=#333333 !important]([color=#DD1144 !important]"NLP"[color=#333333 !important])
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]syn[color=#333333 !important][[color=#009999 !important]0[color=#333333 !important]].[color=teal !important]definition[color=#333333 !important]())
[color=#002D7A !important]syn[color=#006FE0 !important] = [color=#002D7A !important]wordnet[color=#333333 !important].[color=teal !important]synsets[color=#333333 !important]([color=#DD1144 !important]"Python"[color=#333333 !important])
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]syn[color=#333333 !important][[color=#009999 !important]0[color=#333333 !important]].[color=teal !important]definition[color=#333333 !important]())

效果如下:

[color=teal !important]the branch of information science that deals with[color=#006FE0 !important] [color=teal !important]natural language information
[color=teal !important]large Old World [color=#002D7A !important]boas

可以像如许利用WordNet来获取同义词:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]corpus import[color=#006FE0 !important] [color=teal !important]wordnet
 
[color=#002D7A !important]synonyms[color=#006FE0 !important] = [color=#333333 !important][]
for[color=#006FE0 !important] [color=teal !important]syn in[color=#006FE0 !important] [color=#002D7A !important]wordnet[color=#333333 !important].[color=teal !important]synsets[color=#333333 !important]([color=#DD1144 !important]'Computer'[color=#333333 !important])[color=#006FE0 !important]:
[color=#006FE0 !important]    for[color=#006FE0 !important] [color=teal !important]lemma in[color=#006FE0 !important] [color=#002D7A !important]syn[color=#333333 !important].[color=teal !important]lemmas[color=#333333 !important]()[color=#006FE0 !important]:
[color=#006FE0 !important]        [color=#002D7A !important]synonyms[color=#333333 !important].[color=teal !important]append[color=#333333 !important]([color=#002D7A !important]lemma[color=#333333 !important].[color=teal !important]name[color=#333333 !important]())
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]synonyms[color=#333333 !important])

输出:

['computer', 'computing_machine', 'computing_device', 'data_processor', 'electronic_computer', 'information_processing_system', 'calculator', 'reckoner', 'figurer', 'estimator', 'computer']

反义词处置惩罚


也可以用同样的方法得到反义词：

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]corpus import[color=#006FE0 !important] [color=teal !important]wordnet
 
[color=#002D7A !important]antonyms[color=#006FE0 !important] = [color=#333333 !important][]
for[color=#006FE0 !important] [color=teal !important]syn in[color=#006FE0 !important] [color=#002D7A !important]wordnet[color=#333333 !important].[color=teal !important]synsets[color=#333333 !important]([color=#DD1144 !important]"small"[color=#333333 !important])[color=#006FE0 !important]:
[color=#006FE0 !important]    for[color=#006FE0 !important] l[color=#006FE0 !important] in[color=#006FE0 !important] [color=#002D7A !important]syn[color=#333333 !important].[color=teal !important]lemmas[color=#333333 !important]()[color=#006FE0 !important]:
[color=#006FE0 !important]        if[color=#006FE0 !important] [color=#002D7A !important]l[color=#333333 !important].[color=teal !important]antonyms[color=#333333 !important]()[color=#006FE0 !important]:
[color=#006FE0 !important]            [color=#002D7A !important]antonyms[color=#333333 !important].[color=teal !important]append[color=#333333 !important]([color=#002D7A !important]l[color=#333333 !important].[color=teal !important]antonyms[color=#333333 !important]()[[color=#009999 !important]0[color=#333333 !important]].[color=teal !important]name[color=#333333 !important]())
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]antonyms[color=#333333 !important])

输出:

['large', 'big', 'big']

词干提取


语言形态学和信息检索里，词干提取是去除词缀得到词根的过程，比方working的词干为work。


搜刮引擎在索引页面时就会利用这种技能，以是许多人为雷同的单词写出差别的版本。


有许多种算法可以制止这种环境，最常见的是波特词干算法。NLTK有一个名为PorterStemmer的类，就是这个算法的实现:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]PorterStemmer
 
[color=#002D7A !important]stemmer[color=#006FE0 !important] = [color=teal !important]PorterStemmer[color=#333333 !important]()
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'working'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'worked'[color=#333333 !important]))

输出效果是:

[color=teal !important]work
[color=#002D7A !important]work

另有其他的一些词干提取算法，好比 Lancaster词干算法。


非英文词干提取


除了英文之外，SnowballStemmer还支持13种语言。


支持的语言:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]SnowballStemmer
 
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]SnowballStemmer[color=#333333 !important].[color=#002D7A !important]languages[color=#333333 !important])

'danish', 'dutch', 'english', 'finnish', 'french', 'german', 'hungarian', 'italian', 'norwegian', 'porter', 'portuguese', 'romanian', 'russian', 'spanish', 'swedish'

你可以利用SnowballStemmer类的stem函数来提取像如许的非英文单词：

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]SnowballStemmer
 
[color=#002D7A !important]french_stemmer[color=#006FE0 !important] = [color=teal !important]SnowballStemmer[color=#333333 !important]([color=#DD1144 !important]'french'[color=#333333 !important])
 
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]french_stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]"French word"[color=#333333 !important]))

单词变体还原


单词变体还原雷同于词干，但差别的是，变体还原的效果是一个真实的单词。差别于词干，当你试图提取某些词时，它会产生雷同的词:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]PorterStemmer
 
[color=#002D7A !important]stemmer[color=#006FE0 !important] = [color=teal !important]PorterStemmer[color=#333333 !important]()
 
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'increases'[color=#333333 !important]))

效果:

increas

如今，假如用NLTK的WordNet来对同一个单词举行变体还原，才是精确的效果:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]WordNetLemmatizer
 
[color=#002D7A !important]lemmatizer[color=#006FE0 !important] = [color=teal !important]WordNetLemmatizer[color=#333333 !important]()
 
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'increases'[color=#333333 !important]))

效果:

increase

效果大概会是一个同义词或同一个意思的差别单词。


有时间将一个单词做变体还原时，总是得到雷同的词。


这是由于语言的默认部门是名词。要得到动词，可以如许指定：

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]WordNetLemmatizer
 
[color=#002D7A !important]lemmatizer[color=#006FE0 !important] = [color=teal !important]WordNetLemmatizer[color=#333333 !important]()
 
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'playing'[color=#333333 !important],[color=#006FE0 !important] [color=#002D7A !important]pos[color=#006FE0 !important]=[color=#DD1144 !important]"v"[color=#333333 !important]))

效果:

play

现实上，这也是一种很好的文本压缩方式，终极得到文本只有原先的50%到60%。


效果还可以是动词(v)、名词(n)、形容词(a)或副词(r)：

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]WordNetLemmatizer
 
[color=#002D7A !important]lemmatizer[color=#006FE0 !important] = [color=teal !important]WordNetLemmatizer[color=#333333 !important]()
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'playing'[color=#333333 !important],[color=#006FE0 !important] [color=#002D7A !important]pos[color=#006FE0 !important]=[color=#DD1144 !important]"v"[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'playing'[color=#333333 !important],[color=#006FE0 !important] [color=#002D7A !important]pos[color=#006FE0 !important]=[color=#DD1144 !important]"n"[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'playing'[color=#333333 !important],[color=#006FE0 !important] [color=#002D7A !important]pos[color=#006FE0 !important]=[color=#DD1144 !important]"a"[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'playing'[color=#333333 !important],[color=#006FE0 !important] [color=#002D7A !important]pos[color=#006FE0 !important]=[color=#DD1144 !important]"r"[color=#333333 !important]))

输出:

[color=teal !important]play
[color=teal !important]playing
[color=teal !important]playing
[color=#002D7A !important]playing

词干和变体的区别


通过下面例子来观察:

from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]WordNetLemmatizer
from[color=#006FE0 !important] [color=#002D7A !important]nltk[color=#333333 !important].[color=teal !important]stem import[color=#006FE0 !important] [color=teal !important]PorterStemmer
 
[color=#002D7A !important]stemmer[color=#006FE0 !important] = [color=teal !important]PorterStemmer[color=#333333 !important]()
[color=#002D7A !important]lemmatizer[color=#006FE0 !important] = [color=teal !important]WordNetLemmatizer[color=#333333 !important]()
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'stones'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'speaking'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'bedroom'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'jokes'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'lisa'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]stemmer[color=#333333 !important].[color=teal !important]stem[color=#333333 !important]([color=#DD1144 !important]'purple'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#DD1144 !important]'----------------------'[color=#333333 !important])
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'stones'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'speaking'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'bedroom'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'jokes'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'lisa'[color=#333333 !important]))
[color=teal !important]print[color=#333333 !important]([color=#002D7A !important]lemmatizer[color=#333333 !important].[color=teal !important]lemmatize[color=#333333 !important]([color=#DD1144 !important]'purple'[color=#333333 !important]))

输出:

[color=teal !important]stone
[color=teal !important]speak
[color=teal !important]bedroom
[color=teal !important]joke
[color=teal !important]lisa
[color=#002D7A !important]purpl
[color=#006FE0 !important]---------------------
[color=teal !important]stone
[color=teal !important]speaking
[color=teal !important]bedroom
[color=teal !important]joke
[color=teal !important]lisa
[color=#002D7A !important]purple

词干提取不会思量语境，这也是为什么词干提取比变体还原快且正确度低的缘故原由。


个人以为，变体还原比词干提取更好。单词变体还原返回一个真实的单词，纵然它不是同一个单词，也是同义词，但至少它是一个真实存在的单词。


假如你只关心速率，不在意正确度，这时你可以选用词干提取。


在此NLP教程中讨论的全部步调都只是文本预处置惩罚。在以后的文章中，将会利用Python NLTK来实现文天职析。


我已经只管使文章普通易懂。盼望能对你有所资助。

看完本文有劳绩？请转发分享给更多人

关注「Python开辟者」，提拔Python技能

淘口令：复制以下赤色内容，再打开手淘即可购买
范品社，利用￥极客T恤￥争先预览（长按复制整段文案，打开手机淘宝即可进入运动内容）