NLP学习笔记（8）

最新推荐文章于 2024-09-25 23:05:55 发布
最新推荐文章于 2024-09-25 23:05:55 发布
阅读量188 收藏
点赞数
分类专栏： NLP 文章标签： nlp 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44326452/article/details/105559056
版权

这节课的内容看得太快而且有点难，所以这里只是做一下记录，并不详细，作为一个内容的索引，事后需要自己取搜论文了解细节

这是一个想改进tree LSTM的模型
在这里插入图片描述

有人用基于字符的模型，也有人用基于单词的模型，还有人用两者混合模型。基于字符的模型总的来说效果没有基于单词好而且比较慢。基于字符的模型有很多理论，很多方法。有基于字母三元组的模型，有基于字符的LSTM，也有对字符进行字节编码的模型等等。基于字符还是基于单词是一个非常复杂的问题，各有利弊，基于字符总的来说会让你的算法能够更全面地考虑NLP问题，但是总的来说会比较慢而且性能不好，但是基于单词就存在很多问题比如一些没有单词间隔的语言，或者没有单词这个概念的语言（中文），或是训练中没有见过的单词，或是人名等等（有一些基于单词的方法考虑用复制的方法来解决这些问题）。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

最下面是一个对字符的LSTM，当你遇到词汇表里面没有的单词时就先用这个来生成这个单词的embedding，最上面也是对字符的LSTM，当你生成一个<unk>标记时，把隐状态送进这个LSTM来产生一个单词
在这里插入图片描述

ssf-yasuo
关注
专栏目录
自然语言处理学习笔记nlp-tutorial
01-27
自然语言处理（Natural Language Processing，NLP）是计算机科学、人工智能和语言学领域的一个交叉学科，主要研究如何让计算机能够理解、处理、生成和模拟人类语言的能力，从而实现与人类进行自然对话的能力。...
基于字符的NLP
earofreceiver的博客
03-07 449
背景 以往基于单词的NLP，一般是为要处理的词建立词向量空间，然后再对词向量进行NLP。这个处理会带来两个方面的问题是： 对于出现频率比较低的词，建立的词向量有可能不准确 无法处理不在单词表中的单词。比如网络上经常会出现一些新词，比如不明觉厉之类，英文的社交网络，还会出现比如loooooooooooooook之类的词。 有些语言还会有合成词。比如德语就会有大量的合成词，如Lebensversic...
【2015】CWE:字符嵌入和词嵌入的联合学习（Joint Learning of Character and Word Embeddings）
qq_36291847的博客
04-11 1792
这里写目录标题一级目录二级目录三级目录 一级目录 二级目录 三级目录 大多数的词嵌入方法都是以词为基本单位，根据词的外部语境来学习词的嵌入，忽略了词的内部结构。然而，在一些语言中，如汉语，一个词通常是由几个汉字组成的，包含了丰富的内部信息。一个词的语义也与它的组成字的意义有关。因此，我们以中文为例，提出了一种字符增强的词嵌入模型。为了解决汉字歧义和非组成词的问题，我们提出了多原型字符嵌入和一种有效的选词方法。我们评估了CWE在词语相关度计算和类比推理方面的有效性。结果表明，CWE优于其他忽略内部字符信息的基
Pytorch、NLP学习笔记
03-01
《PyTorch与自然语言处理学习笔记》 PyTorch是一个强大的深度学习框架，由Facebook的AI研究团队开发，以其灵活性和易用性受到了广大研究人员和开发者们的喜爱。本笔记将深入探讨PyTorch在自然语言处理（NLP）领域的...
属于一枚普通学生的NLP学习笔记
05-07
### 自然语言处理（NLP）中的神经网络语言模型（NNLM） #### 一、神经网络语言模型（NNLM）的起源与核心思想 在自然语言处理领域中，神经网络语言模型（Neural Network Language Model, NNLM）是研究的核心之一。...
最全面的 深度学习NLP 笔记
03-17
深度学习在自然语言处理（NLP）领域已经取得了显著的成就，从文本分类、机器翻译到情感分析等任务，都离不开深度学习模型的广泛应用。这份“最全面的深度学习NLP笔记”涵盖了这一领域的核心概念、算法和技术。 一、...
【深度学习】（3）--损失函数
m0_74896766的博客
09-18 2171
本篇介绍了部分损失函数： 1. L1Loss损失函数：通常用于回归任务中。 2. NLLLoss损失函数：在多分类问题中广泛应用。 3. MSELoss损失函数：在多种回归任务中表现出色。 4. BCELoss损失函数：广泛应用于各类二分类任务中。 5. CrossEntropyLoss交叉熵损失函数：广泛应用于多分类问题中。
基于深度学习的智能电网优化
weixin_42605076的博客
09-21 1134
基于深度学习的智能电网优化是一种结合先进人工智能技术和电网管理的策略，旨在提高电力系统的效率、稳定性和可持续性。智能电网（Smart Grid）利用深度学习等技术来处理复杂的电力需求数据、生成精准的电力负载预测、优化电力调度、提高故障检测能力，并整合可再生能源资源。下面详细介绍其核心应用和发展方向。
ResNet残差网络：深度学习的里程碑
2401_84670644的博客
09-25 912
ResNet残差网络作为深度学习的里程碑之一，通过引入残差学习和残差块的设计，解决了深层网络训练中的梯度问题，并显著提高了模型的精度和训练速度。ResNet的成功不仅推动了深度学习领域的发展，也为后续的研究提供了宝贵的经验和启示
[论文总结] 深度学习在农业领域应用论文笔记13
You and Me
09-25 840
这篇论文的立意是从实际出发的，与很多根据卫星图像来预测产量的文章不同，该研究的目的强调了不是产量预测而是提出使用棉花种植区块产量和纤维质量（长度和微米）数据来说明作物生产数据的缩小区域观测的通用方法。在实验数据方面，采用了澳大利亚11个种植区域2年生长季节260天的生长数据，8种不同植被指数、32个协变量和棉花的产量和棉纤维微米（质量）以及总共有约25张卫星图像可用于 NNSW区域，约70 张图像可用于SNSW区域。数据量挺大的，做的内容也具有实际意义。挺好的一篇文章。
深度学习：残差网络(ResNet)的原理及优缺点
mohanyelong的博客
09-25 1037
深度学习：残差网络(ResNet)的原理及优缺点
在深度学习中，是否应该打破正负样本1:1的迷信思想？
Angelina_Jolie的博客
09-25 512
如果任务很简单（如上图第一行的数据分布，线性可分） ，那么即便有很悬殊的正负样本数量比例（如最右侧，正负样本 1:100），也不影响模型可以直接在原始数据上学习得到一个完美的分类边界，并实现 0 错误率：见下图第一行，即使 IR=100 模型也可以实现 0 分类错误（分类错误的 sample 由红色表示）。但通常我们都更加关心少数类样本（positive cases，例如医疗诊断中的病人、欺诈/攻击检测中的恶意用户等）并使用 balanced accuracy，macro-f1 等 metric。
深度学习02-pytorch-05-张量的索引操作
weixin_41645791的博客
09-19 568
PyTorch 提供了非常灵活和强大的张量索引机制。你可以使用基础索引、切片、布尔索引、以及高级索引来访问或修改张量中的数据。此外，PyTorch 的广播机制允许你对不同形状的张量进行操作，从而简化代码并提高计算效率。
【NLP】循环神经网络--RNN学习.day3
alb3117149013的博客
09-25 755
循环神经网络（Recurrent Neural Network, RNN）是一种用于处理序列数据的深度学习模型。与传统的静态神经网络相比，RNN 可以有效处理输入数据的时间序列特性。这使得 RNN 在处理自然语言处理（NLP）、时间序列预测、音频处理等任务时非常有效。以下是对 RNN 的详细解释。
深度学习==CNN卷积神经网络手写数字识别
hebian1994的博客
09-22 306
flask api调用模型。使用刚才训练好的模型。
基于LSTM的温度时序预测
Martian
09-22 845
采用LSTM模型进行平均温度数据预测
深度学习基础案例7--马铃薯病识别，对VGG16进行轻量级优化，计算量减少了99%，但是准确率下降4%
最新发布
weixin_74085818的博客
09-25 617
vgg16是CNN卷积神经网络的经典架构，它拥有13层卷积，3层池化构成，下图是本人第一次画的神经网络🤠🤠🤠🤠。
深度学习02-pytorch-06-张量的形状操作
weixin_41645791的博客
09-20 807
上述这些张量操作函数在处理多维数据时非常有用，能够灵活地调整和转换张量的形状，以便进行各种操作和模型设计。
Python电能质量扰动信号分类(五)基于CNN-Transformer的一维信号分类模型
2402_85668383的博客
09-25 559
本文基于Python仿真的电能质量扰动信号，先经过数据预处理进行数据集的制作和加载，然后通过Pytorch实现CNN-Transformer模型对扰动信号的分类。
自然语言处理5000学习笔记
05-13
很高兴看到你对自然语言处理感兴趣！以下是一些可能有用的学习笔记： 1. 自然语言处理是一门交叉学科，涉及语言学、计算机科学、统计学、数学等多个学科。...希望这些笔记能对你的自然语言处理学习有所帮助！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值