李宏毅2021机器学习笔记（十五）

最新推荐文章于 2024-08-08 18:36:45 发布
最新推荐文章于 2024-08-08 18:36:45 发布
阅读量210 收藏
点赞数
分类专栏： 李宏毅深度学习 文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44698709/article/details/126189497
版权
该笔记介绍了GBT（梯度提升树）如何用于文字续写任务，将其比喻为Decoder，并提到虽然准确率不高，但GBT在语音版GLUE和多种下游任务中有广泛应用。
摘要由CSDN通过智能技术生成

GBT

BERT做的是填空题，那么GBT做的就是续写题

有点像Decoder

因为续写的缘故，我们在预测时，要当做文字续写来做

 

 

这也太妙了

但是正确率不是很高

 

GBT还可以做很多事

 

最低0.47元/天 解锁文章
在学习的苹果
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
李宏毅2021机器学习深度学习笔记PPT作业
09-05
《李宏毅2021机器学习深度学习笔记PPT作业》是一份涵盖了现代人工智能领域核心知识的资源，主要集中在机器学习和深度学习这两个关键分支上。这份资料可能包括了李宏毅教授在2021年课程中的讲义、课后作业以及相关的...
李宏毅2021春季机器学习课程-先导片
csdn_xmj的博客
10-19 446
之前学习了吴恩达老师的深度学习课程，想着把机器学习的课程也过一遍。看中了李宏毅老师的2021春季机器学习课程，有很精彩的作业练习（HW），先总体看一下学习大纲，再慢慢填坑吧。 课程网址：https://speech.ee.ntu.edu.tw/~hylee/ml/2021-spring.html 1 Introduction 作业 HW1: Regression 2 Deep Learning 作业 HW2: Classification 3 CNN&Self-Attention 作业 HW
李宏毅2020深度学习课程作业
三金samkam的博客
03-31 8371
Homework 1: Linear Regression 李宏毅老师个人网站链接：http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML20.html 课程b站链接：https://www.bilibili.com/video/av94519857 作业说明YouTube链接：https://www.youtube.com/watch?v=QfU...
李宏毅学习笔记15.Transformer
老毛的博客
04-13 815
文章目录Sequence to SequenceSelf-Attention生成过程并行过程小结Multi-head Self-attention（2 heads as example）Positional EncodingSeq2seq with Attention总结应用 在线LaTeX公式编辑器 看封面就知道，这节课是讲transformer，它的主要应用是BERT，BERT就是unsupe...
李宏毅《机器学习》2020春季课程作业
老肥码码码
04-17 2066
台大李宏毅教授的2020年的机器学习春季课程已经上线。 学习一波，走你！ 光看视频肯定不行， 作业一定要自己动手完成才行。但是作业是发布在google云上的，为方便大家，我这里有完整的作业资源，需要的可以在后台回复 ML获得！ ...
李宏毅2020机器学习作业一
zyr_code的博客
12-04 2150
Step1：读懂题目 题目的意思 训练集是：12个月–>每月的前20天–>每天的24小时–>每小时的18种不同属性的数值 测试集：240天–>连续的9小时–>18种不同的属性 要求的输出：根据某天连续的9小时–>18种不同的属性，预测第10小时的PM2.5的值。也就是通过一个18*9的矩阵预测出来一个值 Step2：数据预处理 # 读取数据csv文件,将csv数据保存为矩阵 data = pd.read_csv('./train.csv', encoding='bi
machineLearningDeepLearning:李宏毅2021机器学习深度学习笔记PPT作业
05-11
李宏毅老师2021年Spring机器学习深度学习上线新课程，持续更新中 PPT，作业代码，学习笔记，上课代码，tensorflow|pytorch将会上传到github，欢迎Star，请多多鼓励。 如何下载本库内容 下载方式 1 git工具下载 ​ ...
李宏毅机器学习笔记
01-18
李宏毅机器学习笔记，文档文件，笔记全面，总结充分，仅供学习
李宏毅机器学习学习笔记
08-05
李宏毅机器学习学习笔记 本资源主要介绍了 Adaptive Learning Rate 的基本思想和方法，以及相关的算法和策略，如 Adgrad、RMSProp、Adam、Learning Rate Decay、Warm Up 等。 Adaptive Learning Rate 的主要思想是...
李宏毅老师2021深度学习课程笔记.pdf
10-08
2021春季李宏毅老师深度学习课程笔记（神经网络训练不起来处理方法+分类的数学原理）
尾折机器学习笔记00（李宏毅）—— 课程介绍
weixin_43859715的博客
04-30 145
自我介绍：本水货目前是大四信计专业，今年刚上岸计算机专硕。此时正好写完了毕业论文，导师让我学一些机器学习。之前其实有零零散散的学过，这也算是信计的一门专业课，在数据挖掘、数学建模、服务外包比赛中都有接触过，毕设也是机器学习相关的。但是这些只是任务为导向，只是想做出来东西，所以都是看别人的代码依样画葫芦或者调调包就做出来了。对于其中的原理还真没有好好研究过，所以打算系统的跟着李宏毅老师学一下，跟着学习的视频资源就在B站上，是2020的课程吼。 1 什么是机器学习？ 李弘毅老师回答...
李宏毅2021&2022机器学习
热门推荐
啥都生的博客
03-01 5万+
重磅须知  2022仅在2021基础上进行小补充，2021内容变成了前置知识，UP会在视频标题打上2022的标签；    2021资料已打包装进百度云盘，ppt/pdf支持直链下载。    （选修）To Learn More是21/22通用的，放入云盘：提取码：sr0o 更新日志 日期 项目 2021/03/16 更新HW1、HW2，同步更新助教范例 2021/03/26 更新HW3、HW4课件、代码、范例；release页发布HW1-HW4数据 2021/04/01 更新选修.
大模型微调工具-torchtune
weixin_40777649的博客
08-08 324
1.定义2.安装3. 案例。
LLM - 理解 主流大模型 LLM 都使用 Decoder Only 架构的原因 (总结8点)
Mystra
08-05 118
Decoder Only 模式泛化性更好的理论原因包括：训练难度更大、具有隐式的位置编码能力、上下文学习支持 Few-Shot、注意力矩阵是满秩的、参数更少推理更快、KV-Cache、支持 Pipeline Parallel、实验支持。LLM 主流都会使用 Decoder Only 架构，而 Encoder-Decoder、PrefixLM 等混合训练方式，相对较小模型更加合适。
【OpenCV C++20 学习笔记】仿射变换-warpAffine, getRotationMatrix2D
最新发布
TeamLee的博客
08-08 462
本文简要介绍了OpenCV中仿射变换的原理和算法，并详细展示了在OpenCV中如何使用getAffineTransform, getRotationMatrix2D和warpAffine方法对图片进行仿射变换和旋转。
电脑技巧：9个免费的AI图片无损放大工具和网站
08-05 795
今天小编给大家介绍9款免费的AI图片放大工具和网站，帮助你提高图片清晰度，感兴趣的朋友可以自己试一试！美图设计室是美图秀秀公司推出的一款在线图片编辑和设计工具箱，提供包括AI 抠图、AI海报、AI PPT、AI消除、AI文生图、AI变清晰、AI无损放大等AI图片编辑工具。其提供的图片无损放大功能，目前是限时免费中，可以帮助用户将JPG、JPEG、PNG、HEIC等格式的图片放大清晰不失真，细节更丰富。✅ 产品优点由美图推出，产品功能稳定，处理速度较快支持免费进行图片放大到8倍。
RPA+AI有什么应用？6大技术融合方向分析 | 实在RPA研究
SHIZAIZHINENG的博客
08-06 1003
随着数字化转型的加速，企业正寻求更高效、智能的方法来优化业务流程。机器人流程自动化（RPA）作为一种快速兴起的技术，已经证明了其在自动化重复性任务方面的能力。然而，当RPA与各种人工智能（AI）技术相结合时，其潜力将得到更全面的释放。本文将探讨不同的AI技术如何与RPA结合，以及这种结合为企业带来的变革性应用方向。机器学习 (ML)使系统能够从数据中学习和改进提高预测准确性，自动化决策制定风险管理、欺诈检测、个性化推荐银行使用ML增强RPA进行信用评分和欺诈识别计算机视觉 (CV)
Python面试题：结合Python技术，如何使用PyTorch进行动态计算图构建
码农超哥的博客
08-06 580
PyTorch 是一个流行的深度学习框架，它通过动态计算图（Dynamic Computation Graphs）来支持自动微分（Autograd）。动态计算图的特点是每次前向传播时都会构建新的计算图，这使得它非常灵活，适合处理可变长度的输入和复杂的模型结构。以下是如何使用 PyTorch 构建动态计算图的步骤和示例：导入必要的库：定义模型：创建输入数据：前向传播：反向传播：更新参数：以下是一个简单的线性回归示例，演示了如何使用动态计算图： 关键点解析 动态计算图：在 方法中，每次调用都会构建新的计算
李宏毅2020机器学习笔记attention
08-12
- *1* *2* [2020李宏毅机器学习笔记-Condition Generation by RNN&Attention](https://blog.csdn.net/zn961018/article/details/117593813)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值