最后
Python崛起并且风靡,因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低,但它的晋级路线很多,通过它你能进入机器学习、数据挖掘、大数据,CS等更加高级的领域。Python可以做网络应用,可以做科学计算,数据分析,可以做网络爬虫,可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多,你需要学好基础,再选择明确的方向。这里给大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!
👉Python所有方向的学习路线👈
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
👉Python必备开发工具👈
工欲善其事必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。
👉Python全套学习视频👈
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。
👉实战案例👈
学python就与学数学一样,是不能只看书不做题的,直接看步骤和答案会让人误以为自己全都掌握了,但是碰到生题的时候还是会一筹莫展。
因此在学习python的过程中一定要记得多动手写代码,教程只需要看一两遍即可。
👉大厂面试真题👈
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
from nltk.tokenize import word_tokenize
print(word_tokenize(“Hi, this is a nice hotel.”))
代码的输出如下:
[‘Hi’, ‘,’, ‘this’, ‘is’, ‘a’, ‘nice’, ‘hotel’, ‘.’]
您会注意到,word_tokenize
它不仅根据空格简单地拆分字符串,而且还将标点符号拆分为标记。如果您想在分析中保留标点符号,这取决于您。
第 2 步:将单词转换为其基本形式
在处理自然语言时,您经常会注意到同一个词有多种语法形式。例如,“go”、“going”和“gone”是同一个动词“go”的形式。
虽然项目的必要性可能要求您保留各种语法形式的单词,但让我们讨论一种将同一单词的各种语法形式转换为其基本形式的方法。您可以使用两种技术将单词转换为其基础。
第一种技术是词干。词干提取是一种从单词中删除词缀的简单算法。NLTK中有多种词干提取算法可供使用。我们将在本教程中使用 Porter 算法。
我们首先PorterStemmer
从nltk.stem.porter
. 接下来,我们将词干分析器初始化为stemmer
变量,然后使用该.stem()
方法找到一个单词的基本形式:
from nltk.stem.porter import PorterStemmer
stemmer = PorterStemmer()
print(stemmer.stem(“going”))
上面代码的输出是go
. 如果您为上述其他形式的“go”运行词干分析器,您会注意到词干分析器返回相同的基本形式“go”。但是,由于词干提取只是一种基于去除词缀的简单算法,因此当词在语言中不太常用时,它就会失败。
例如,当您尝试对单词“构成”进行词干分析时,它会给出不直观的结果:
print(stemmer.stem(“constitutes”))
您会注意到输出是“构成”。
这个问题通过转向一种更复杂的方法来解决给定上下文中单词的基本形式。该过程称为词形还原。词形还原根据文本的上下文和词汇对单词进行规范化。在 NLTK 中,您可以使用WordNetLemmatizer
类对句子进行词形还原。
首先,您需要wordnet
从 Python 终端中的 NLTK 下载器下载资源:
nltk.download(‘wordnet’)
下载后,您需要导入WordNetLemmatizer
该类并对其进行初始化:
from nltk.stem.wordnet import WordNetLemmatizer
lem = WordNetLemmatizer()
要使用词形还原器,请使用.lemmatize()
方法。它需要两个参数:单词和上下文。在我们的示例中,我们将使用“v”作为上下文。在查看方法的输出之后,让我们进一步探索上下文.lemmatize()
:
print(lem.lemmatize(‘constitutes’, ‘v’))
您会注意到该.lemmatize()
方法正确地将单词“构成”转换为其基本形式“构成”。您还会注意到词形还原比词干提取花费的时间更长,因为算法更复杂。
.lemmatize()
让我们检查如何以编程方式确定方法的第二个参数。NLTK 具有pos_tag()
帮助确定句子中单词上下文的功能。但是,您首先需要averaged_perceptron_tagger
通过 NLTK 下载器下载资源:
nltk.download(‘averaged_perceptron_tagger’)
接下来,导入pos_tag()
函数并在一句话上运行:
from nltk.tag import pos_tag
sample = “Hi, this is a nice hotel.”
print(pos_tag(word_tokenize(sample)))
您会注意到输出是对的列表。每对都由一个标记及其标记组成,它表示整个文本中标记的上下文。请注意,标点符号的标签本身就是:
[(‘Hi’, ‘NNP’),
(‘,’, ‘,’),
(‘this’, ‘DT’),
(‘is’, ‘VBZ’),
(‘a’, ‘DT’),
(‘nice’, ‘JJ’),
(‘hotel’, ‘NN’),
(‘.’, ‘.’)]
你如何解码每个令牌的上下文?以下是Web 上所有标签及其对应含义的完整列表。请注意,所有名词的标签都以“N”开头,所有动词的标签都以“V”开头。我们可以在.lemmatize()
方法的第二个参数中使用此信息:
def lemmatize_tokens(stentence):
lemmatizer = WordNetLemmatizer()
lemmatized_tokens = []
for word, tag in pos_tag(stentence):
if tag.startswith(‘NN’):
pos = ‘n’
elif tag.startswith(‘VB’):
pos = ‘v’
else:
pos = ‘a’
lemmatized_tokens.append(lemmatizer.lemmatize(word, pos))
return lemmatized_tokens
sample = “Legal authority constitutes all magistrates.”
print(lemmatize_tokens(word_tokenize(sample)))
上面代码的输出如下:
[‘Legal’, ‘authority’, ‘constitute’, ‘all’, ‘magistrate’, ‘.’]
该输出是预期的,其中“构成”和“地方法官”已分别转换为“构成”和“地方法官”。
第三步:数据清理
准备数据的下一步是清理数据并删除任何不会对您的分析增加意义的内容。从广义上讲,我们将着眼于从您的分析中删除标点符号和停用词。
删除标点符号是一项相当容易的任务。该库的punctuation
对象string
包含所有英文标点符号:
import string
print(string.punctuation)
此代码段的输出如下:
‘!"#$%&</span>’()*+,-./:;<=>?@[</span></span>]^_`{|}~’
为了从标记中删除标点符号,您可以简单地运行以下命令:
for token in tokens:
if token in string.punctuation:
# Do something
接下来,我们将专注于删除停用词。停用词是语言中的常用词,如“I”、“a”和“the”,在分析文本时对文本的意义不大。因此,我们将从分析中删除停用词。首先,stopwords
从 NLTK 下载器下载资源:
nltk.download(‘stopwords’)
stopwords
下载完成后,导入nltk.corpus
并使用.words()
以“english”为参数的方法。这是英语中 179 个停用词的列表:
from nltk.corpus import stopwords
stop_words = stopwords.words(‘english’)
我们可以将词形还原示例与本节中讨论的概念结合起来创建以下函数clean_data()
。此外,在比较一个词是否是停用词列表的一部分之前,我们将其转换为小写。这样,如果停用词出现在句子的开头并且大写,我们仍然会捕获它:
def clean_data(tokens, stop_words = ()):
cleaned_tokens = []
for token, tag in pos_tag(tokens):
if tag.startswith(“NN”):
pos = ‘n’
elif tag.startswith(‘VB’):
pos = ‘v’
else:
pos = ‘a’
lemmatizer = WordNetLemmatizer()
token = lemmatizer.lemmatize(token, pos)
if token not in string.punctuation and token.lower() not in stop_words:
cleaned_tokens.append(token)
return cleaned_tokens
sample = “The quick brown fox jumps over the lazy dog.”
stop_words = stopwords.words(‘english’)
clean_data(word_tokenize(sample), stop_words)
该示例的输出如下:
[‘quick’, ‘brown’, ‘fox’, ‘jump’, ‘lazy’, ‘dog’]
如您所见,标点符号和停用词已被删除。
一、Python所有方向的学习路线
Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
二、学习软件
工欲善其事必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。
三、入门学习视频
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!