【笔记二】飞浆-基于深度学习的自然语言处理

最新推荐文章于 2024-08-21 13:24:32 发布
最新推荐文章于 2024-08-21 13:24:32 发布
阅读量295 收藏 1
点赞数
文章标签： 深度学习 自然语言处理 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_42551154/article/details/126464927
版权

基于深度学习的自然语言处理

  • 词法分析技术及其应用

词法分析概况

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

词法分析技术

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
词表换算到概率计算

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
RNN　可以保证序列标注的关联性

在这里插入图片描述
在这里插入图片描述
序列标注的三个基本模型：
（１）隐马尔可夫模型 HMM（Hidden Markov Model）
（２）最大熵马尔可夫模型 MEMM （Maximum Entropy Markov Model）
（３）条件随机场 CRF （Conditinal Random Field）
在这里插入图片描述
在这里插入图片描述
因为RNN存在梯度消失或梯度爆炸的问题，因此采用Bi-LSTM
OOV的意思是未登陆词(Out of Vocabulary),也可以称作新词

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

千千惠儿
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【笔记一】飞浆-基于深度学习的自然语言处理
weixin_42551154的博客
08-22 1026
基于百度飞桨的NLP入门学习笔记，与同道中人一起交流~ 也希望能将总结的知识点提供给需要的小伙伴
在C++中部署python深度学习-学习笔记
jindayue的博客
12-12 2488
工业界与学术界最大的区别在于工业界的模型需要落地部署，学界更多的是关心模型的精度要求，而不太在意模型的部署性能。一般来说，我们用深度学习框架训练出一个模型之后，使用Python就足以实现一个简单的推理演示了。但在生产环境下，Python的可移植性和速度性能远不如C++。所以对于深度学习算法工程师而言，Python通常用来做idea的快速实现以及模型训练，而用C++作为模型的生产工具。
飞浆PaddlePaddle-百度架构师手把手带你零基础实践深度学习（学习笔记）
weixin_46058482的博客
08-16 895
飞浆PaddlePaddle-百度架构师手把手带你零基础实践深度学习（学习笔记） 百度架构师手把手带你零基础实践深度学习（打卡学习笔记） 为什么学习飞浆PaddlePaddle，不得不说百度最近几年在国内发展人工智能的所做出的贡献，随着人工智能的不断发展，百度推出此框架是很好的学习方向。 1. 回顾第一天的学习之配置篇 零基础是指深度学习零基础，此次学习要求对python的语法有一定要求,建议先学习这个课程从0开始学Python -----------希望这些信息有助你做出更合理的判断----------
自然语言处理-基于预训练模型的方法-笔记
09-01
《自然语言处理-基于预训练模型的方法》是一本深入探讨NLP领域中预训练模型的著作，由车万翔、郭江、崔一鸣合著。该书详细介绍了预训练模型在自然语言处理中的重要性和广泛应用，涵盖了从基础知识到前沿技术的多个...
斯坦福CS224n_自然语言处理与深度学习_笔记
07-15
《斯坦福CS224n：自然语言处理与深度学习》是斯坦福大学开设的一门课程，专注于利用深度学习技术解决自然语言处理（NLP）问题。这门课程的笔记全面覆盖了NLP领域的核心概念、算法以及最新的研究进展。通过深入学习这...
自然语言处理-基于预训练模型的方法 笔记
12-30
自然语言处理（Natural Language Processing, NLP）是计算机科学领域的一个关键分支，专注于研究如何让计算机理解、生成和处理人类的自然语言。近年来，预训练模型在NLP领域取得了重大突破，极大地推动了自然语言...
项目笔记-基于深度学习的人脸识别1
08-04
总的来说，基于深度学习的人脸识别系统涉及到计算机视觉、图像处理、机器学习和深度学习等多个领域。通过实时视频流的处理，系统能够检测并识别出摄像头前的人脸，展示了深度学习技术在人脸识别领域的强大能力。在...
斯坦福CS224n_自然语言处理与深度学习 笔记
09-28
《斯坦福CS224n：自然语言处理与深度学习》是斯坦福大学开设的一门高级计算机科学课程，专注于自然语言处理（NLP）领域的深度学习技术。这门课程涵盖了广泛的NLP主题，从基础的文本预处理到复杂的深度学习模型，如...
深度学习基础之循环神经网络
Ctrl+CV九段手
08-16 1091
RNN通过引入隐藏状态（Hidden State），使得网络能够在处理当前输入时保留之前的信息。这种记忆能力使得RNN特别适合处理具有时间依赖性的序列数据，如文本、语音和时间序列等。具体来说，RNN在每个时间步上都会计算一个隐藏状态，并将该状态传递到下一个时间步，从而捕捉到序列数据中的时序信息。循环神经网络因其独特的结构和强大的表达能力，在处理序列数据方面表现出色。尽管存在一些挑战，但通过改进方法如LSTM和GRU，这些问题得到了有效解决。
【深度学习】
feifeikon的博客
08-16 333
过拟合：训练集上损失很小，测试集上测试效果很差。欠拟合：欠拟合是指模型拟合程度不高，数据距离拟合曲线较远，或指模型没有很好地捕捉到数据特征，不能够很好地拟合数据。防止过拟合。L1是模型各个参数的绝对值之和；L1会趋向于产生少量的特征，而其他的特征都是0，产生稀疏权重矩阵；L2是模型各个参数的平方和的开方值。L2会选择更多的特征，这些特征都会接近于0，当最小化||w||时，就会使每一项趋近于0，防止过拟合生成器，判别器。能讲出大致思路。分类问题评价指标精准，召回，F1等，解释含义。AUC、ROC。
深度学习多GPU训练原理
https://github.com/heatMa
08-18 320
详细参考《动手学深度学习》P233，8.4节多GPU计算。
论文阅读-Transformer Layers as Painters
yiyele的博客
08-14 1101
尽管大语言模型现在已经被广泛的应用于各种任务，但是目前对其并没有一个很好的认知。为了弄清楚删除和重组预训练模型不同层的影响，本文设计了一系列的实验。通过实验表明，预训练语言模型中的lower和final layers与中间层分布不一致，并且中间层有着惊人的一致性。
神经网络的数学原理
突然好想你
08-14 423
人工智能技术的发展与成功应用已经成为21世纪科技领域最大的新现象。然而，科学地理解人工智能原理已经超出了现有科学体系的范畴。显然，人工智能是人类科学技术发展的必然结果，人工智能科学也将是人类科学进步与发展必然实现的目标🌈
深度学习--RNN以及RNN的延伸
最新发布
GDHBFTGGG的博客
08-21 679
循环神经网络（Recurrent Neural Network, RNN）是一类能够处理序列数据的神经网络，在自然语言处理、时间序列分析等任务中得到了广泛应用。RNN能够通过其内部的循环结构，捕捉到序列中前后项之间的关系。
深度学习--数据类型/格式不匹配问题
GDHBFTGGG的博客
08-18 393
深度学习--数据类型/格式不匹配问题
【机器学习】CNN的基本架构模块
鑫宝的博客
08-16 1673
卷积神经网络（Convolutional Neural Network，CNN）是深度学习中一种强大的神经网络架构，特别适用于处理具有网格状拓扑结构的数据，如图像和时间序列。CNN的成功源于其独特的架构设计，包含了多个精心设计的基本模块。本文将详细介绍CNN的基本架构模块，包括卷积层、池化层、激活函数、全连接层等，以及一些高级组件和优化技术。
【深度学习】直观理解AUROC
qq_52852138的博客
08-16 820
小白也能懂的AUROC介绍
谷歌云AI新作：CROME，跨模态适配器高效多模态大语言模型
u014546828的博客
08-21 733
We proposeCROME现有的方法通常需要昂贵的语言模型再训练和有限的适应性。此外，目前对zero-shot性能改进的关注为特定于任务的调优提供了不足的指导。提出了CROME，一个高效的视觉语言指令调优框架。它具有新颖的门控跨模态适配器，可以在输入到冻结LLM之前有效地结合视觉和文本表示。这个轻量级适配器使用最小的参数进行训练，可以实现高效的跨模式理解。值得注意的是，CROME在标准视觉问题回答和指令遵循基准上表现出优越的zero-shot性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值