NLP&Python笔记——nltk模块基础操作

nltk是一款常用的基于python的NLP工具包，本文介绍了nlkt的安装导入以及一些基础的函数操作。

1. 安装

（1）安装nltk库：  pip install nlkt

（2）下载nltk库中的book文件：

import nltk
nltk.download()

运行--> 弹出下载界面 --> 选择book--> 设置好路径--> Download

（3）下载好后，加载nltk的book模块中所有条目：

from nltk.book import *

（4）加载后，就可以使用库中包含的文档了。如，text1/tex2/tex3.....

2. 几个基础函数

（1）搜索文本：text.concordance(word)

例如，在text1中搜索词”is”在文本中出现的次数以及上下文的词：text1.concordance("is")

（2）搜索上下文相似的词：text.similar(word)

例如，在text1中搜索哪些相似的词出现在词”is”的上下文中：text1.similar("is")

（3）搜索几个词汇上下文的公共词汇：text.common_contexts([word1,word2…])

例如，在text1中搜索哪些词是”is”和“that”上下文中的公共词汇：text1.common_contexts(["is","that"])

（4）离散图表示词出现的位置序列：text.dispersion_plot([word1, word2,])

例如，用离散图表示词"am","is","are","the","a"在text1中出现的位置，即从开头算起的第多少个词：text1.dispersion_plot(["am","is","are","the","a"])

（5）统计文本标示符（单词和标点符号）的个数：len(text)

（6）获取文本的词汇表（含标点符号）：set(text)

（7）获取词汇表并排序：sorted(set(text))

（8）统计词汇表的大小：len(set(text))