【学习琐记】NLP模型与代码——基础篇

李从诫

已于 2023-12-20 23:36:36 修改

阅读量411

点赞数 6

文章标签：学习 pytorch python 深度学习自然语言处理

于 2023-12-20 11:01:43 首次发布

本文链接：https://blog.csdn.net/weixin_42469354/article/details/135102856

版权

基础篇

大部分笔记来源于令人羡慕的bilibili教程：文本分类220129

1. 参数解析argparse

2. 动态调用库/包函数import_lib

3. 随机种子random

固定随机数，让结果可被他人完全复现

4. lamda表达式

一个没有名字的函数

5. tokenizer

word到token的映射
model里embedding layer（bert）one hot编码到embedding的映射

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

李从诫

关注关注

6
点赞
踩
5

收藏

觉得还不错? 一键收藏
1
评论
【学习琐记】NLP模型与代码——基础篇

model里embedding layer（bert）one hot编码到embedding的映射。固定随机数，让结果可被他人完全复现。word到token的映射。
复制链接

扫一扫

深度学习框架(TensorFlow)基础教程——第1章：人工智能简介

10-09

它在图像识别、自然语言处理等领域取得了显著成果。二、TensorFlow概述 1. TensorFlow的诞生：TensorFlow是由Google Brain团队开发，最初用于内部项目，后来开源，成为全球开发者共享的平台。 2. TensorFlow的...

NLP-文本匹配任务原理与代码实践总结

Harry的博客

12-23

3247

下面的大多数库应该是语义相似性比较的不错选择。您可以使用这些库中的预训练模型生成单词或句子向量，从而跳过直接单词比较。

1 条评论您还未登录，请先登录后发表或查看评论

自然语言处理（NLP）技术及其案例（代码）

chengbi0653的博客

09-14

1548

解决方案：使用CNN架构，将文本表示为单词嵌入向量序列，并将其作为CNN的输入。在CNN的每一层中，通过应用多个卷积核并使用ReLU激活函数，提取文本中的有用特征。最后，通过全连接层和softmax激活函数，将CNN的输出映射到多个类别中的概率分布。在CNN的每一层中，通过应用多个卷积核并使用ReLU激活函数，提取文本中的有用特征。文本分类：NLP技术可以将大量文本分类到它们所属的类别中，例如将电子邮件分类为垃圾邮件或非垃圾邮件，将新闻文章分类为体育、商业或政治新闻等。首先，将文本处理成整数序列，并使用。

探索自然语言处理：技术、应用及代码示例

最新发布

m0_54141558的博客

06-16

953

自然语言处理（NLP）是计算机科学、人工智能和语言学交叉的领域，旨在使计算机能够理解和处理人类语言。语言模型（Language Modeling）：预测文本中的下一个词。词性标注（Part-of-Speech Tagging）：识别每个词的词性。命名实体识别（Named Entity Recognition, NER）：识别文本中的人名、地名、组织等实体。情感分析（Sentiment Analysis）：判断文本的情感倾向。机器翻译（Machine Translation）

NLP | word2vec图文详解及代码

weixin_44649780的博客

10-15

3090

在一个常规的 one-hot 编码向量中，所有单词之间的距离都相同，即使它们的含义完全不同，丢了编码中的位置信息使用 Word2Vec 等词嵌入方法，生成的向量可以更好地维护上下文。例如，猫和狗比鱼和鲨鱼更相似。Word2vec 是一个两层神经网络，通过“向量化”单词来处理文本。它的，它的：表示该语料库中单词的特征向量。虽然 Word2vec 不是，但它将文本转换为深度神经网络可以理解的数字形式。词嵌入（word Embeding）词嵌入是一种将单个词转换为词的数字表示（向量）的技术。

【NLP】文本摘要的SOTA模型及简单代码实现

sikh_0529的博客

05-22

5181

文本摘要是将一段长文本缩减为一段简短的内容要点的过程。它可以帮助人们快速地了解一篇文章或一段文字的主要内容，节省时间和精力。文本摘要通常分为两种类型：提取式摘要和生成式摘要。提取式摘要使用文本中已有的句子或段落来生成摘要。这种方法通常涉及到对文本进行语言处理和关键词提取，然后从中选择最重要或最相关的内容。生成式摘要则是从头开始生成一段新的摘要内容，而不是仅仅从原文中提取已有的句子或段落。这种方法通常涉及到使用机器学习算法或深度学习模型对文本进行理解和总结，然后根据这些理解和总结来生成新的内容。

NLP实战：中文文本分类-Pytorch实现

m0_62237233的博客

05-31

5665

model.train() # 切换为训练模式optimizer.zero_grad() # grad属性归零loss = criterion(predicted_label, label) # 计算网络输出和真实值之间的差距，label为真实值loss.backward() # 反向传播torch.nn.utils.clip_grad_norm_(model.parameters(), 0.1) # 梯度裁剪optimizer.step() # 每一步自动更新# 记录acc与loss。

自然语言处理NLP综述

03-20

总的来说，这篇综述提供了关于自然语言处理中基于提示学习的全面概述，包括其理论基础、预训练模型、提示和答案的设计，以及多提示学习策略。它不仅总结了现有的研究，还提供了进一步学习的资源，对于想深入理解这一...

毕设&课程作业_基于TextCNN实现新闻文本分类——深度学习与神经网络.zip

01-16

TextCNN是一种应用于自然语言处理的卷积神经网络，尤其在文本分类任务上表现出色。它借鉴了计算机视觉中的卷积神经网络思想，将其应用于文本数据，提取文本的局部特征，并进行全局分析。【描述】：“计算机类毕设&...

机器学习和深度学习模型汇总

07-10

其中，卷积神经网络（CNN）在图像处理、语音识别、自然语言处理等多个领域取得了显著成果。本篇文章将重点介绍CNN模型及其在机器学习中的应用。 CNN模型的起源可以追溯到1984年，福岛邦彦提出的神经感知机...

UAI01_云模型从浅入深的学习_

10-02

《云模型从浅入深的学习》是一篇深入探讨云模型理论与应用的资料，源于著名计算机科学家李德毅教授的讲义。李德毅教授在人工智能领域有着深厚的学术造诣，他的云模型理论是对模糊逻辑和概率理论的一种创新性融合，为...

nlp学习code c代码

02-14

语言分析　nlp学习ppt及代码

NLP相似度计算代码

03-15

Natural Language Processing

NLP常见trick汇总及代码实现

机器学习深度学习业余选手

08-08

1103

NLP常见trick汇总及代码实现

每个人都应该知道的5个NLP代码库

lqfarmer的博客

02-25

1238

该Transformers库是开源，基于社区的信息库，使用和共享模型基于Transformer结构[2]如Bert[3]，Roberta[4]，GPT2 [5]，XLNet [6]，等等。它是NLP的初学者常用的库。超过32种采用100种以上语言的训练的预训练模型，以及TensorFlow 2.0和PyTorch之间的深度互操作性。因此可以访问许多单词的同音异义词，上位词，同义词，定义，词族等。对于句子中的每个单词，Stanza都会评估其普遍的形态特征（例如，单身/复数，第一/第二/第三人称等）

自然语言处理（NLP）：技术概览、应用案例与代码实战

2401_85720680的博客

06-16

1314

自然语言处理（NLP）是人工智能的一个重要分支，它使计算机能够理解、解释和生成人类语言。本文详细介绍了NLP的关键技术，并通过代码示例和实际应用案例，展示了这些技术如何在现实世界中发挥作用。

自然语言处理编程代码

m0_63076514的博客

10-23

218

print('\n','‘',sentence,'’', '的情绪面标签为', sent, '概率为','%.2f%%' % round(prob * 100, 2))train_data = pos_data[: pos_num] + neg_data[: neg_num] # 抽取80%数据。test_data = pos_data[pos_num: ] + neg_data[neg_num: ] # 剩余20%数据。encoding='utf-8') # 加载停用词。

【NLP傻瓜式教程】手把手带你RNN文本分类(附代码)

fengdu78的博客

02-24

4115

文章来源于NewBeeNLP，作者kaiyuan写在前面这是NLP傻瓜式教程的第二篇----基于RNN的文本分类实现（Text RNN）参考的的论文是来自2016年复旦大学IJCAI上的...

翻译启动：斯坦福深度学习课程CS224d——自然语言处理

这篇摘要介绍了一个项目，该项目是大数据文摘发起的，旨在翻译斯坦福大学的深度学习与自然语言处理课程（CS224d），并将译文免费发布。项目以周为单位更新，鼓励读者参与，并提供了加入的途径。课程内容涵盖自然语言...