![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 69
。
ZEERO~
路漫漫其修远兮,吾将上下而求索
展开
-
李宏毅机器学习笔记-半监督学习
半监督学习,一般应用于少量带标签的数据(数量R)和大量未带标签数据的场景(数量U),一般来说,U>>R。半监督学习一般可以分为2种情况,一种是,这种情况下,将的feature利用进来。另外一种是,这种情况下,在训练的整个过程中,完全不看任何的信息。为什么要做呢,因为我们现实中大多数情况下,搜集数据比较容易,但是数据标注比较困难。包括我们的人生中,我们自己也是一直在做为什么会有用呢,因为可以告诉我们一些信息。通常,我们在做时,会做出一些假设,这个假设很关键,会影响最后的结果。原创 2023-10-18 00:51:25 · 674 阅读 · 0 评论 -
python如何训练和保存模型
1、ANN模型2、普通机器学习模型原创 2023-10-17 00:45:03 · 387 阅读 · 0 评论 -
李宏毅机器学习笔记-transformer
transformer是什么呢?是一个seq2seq的model。具体应用如上图所示,输入和输出的序列长度不固定,由model自己决定。语音翻译指的是,直接输入一段语音信号,例如英文,输出的直接是翻译之后的中文。seq2seq如今已经是一个应用非常广泛的模型,可以应用于NLP的各种任务,如语义分析,语义分类,聊天机器人等。另外还有个值得说明的功能是做。。和是完全不一样的,一个是多分类,另一个是一个样本可以有多个标签。但是多标签的问题,可以用seq2seq模型来解决。原创 2023-09-23 21:20:39 · 446 阅读 · 0 评论 -
李宏毅深度学习self-attentin学习笔记
注意力的本质思想就是说,考虑上下文的输入对当前的输入的影响,然后就和人的注意力一样,将重点放在部分输入上,值得被注意的、更为相关的输入会被分配更大的权重,也意味着更被重视。使用复杂的方式的原因在于,方法不固定,就可以利用计算结果,利用梯度下降法求出比最简单的方式可能效果更好的一种方法。接下来,我们自然会思考,在self-attention中,如何自动决定两个向量之间的相关系数为多少呢,如何自动决定2个变量之间的关联性呢。而是一次性同时被算出来的。当然,这里的输入也可以不是输入向量,而是中间层的隐藏向量。原创 2023-09-10 09:47:24 · 368 阅读 · 0 评论 -
李宏毅机器学习笔记:RNN循环神经网络
第3个输入为[2,2],结合前一个memory的输入为[6,6],这个时候hidden layer的输出为[16,16],output为[32,32]。这个时候结合前一个memory的输出[2,2],hdden layer的输出为[6,6],output为[12,12]。举例来说,我们输入的第一个向量为[1,1],则hidden layer的输出为[2,2],先被储存起来,输出为[4,4]。这样,将词汇向量化之后,我们指导,网络的输入为一个个的词汇向量,网络的输出则为:y1表示词汇属于。原创 2023-09-03 16:17:14 · 1314 阅读 · 1 评论 -
如何将本地的conda算法库打包到无网络的服务器用于部署
【代码】如何将本地的conda算法库打包到无网络的服务器用于部署。原创 2023-08-05 18:02:10 · 740 阅读 · 0 评论 -
深度学习调参入门
在上述示例中,我们首先创建了一个优化器 optimizer,使用随机梯度下降(SGD)算法,并设置初始学习率为 0.1。假设说我要定义一个输入为3,输出为5维的ANN模型用来做分类,3x20x5的网络结构,可以这样做。例如,如果 step_size=5,则每训练 5 个 epoch,学习率会调整一次。第二种,只将训练集进行标准化,默认测试集与训练集同分布,均值标准差一致,只对测试集进行转换。表示学习率缩放因子,即每次调整学习率时,将当前学习率乘以。,则每次学习率调整时,学习率会变为原来的 0.1 倍。原创 2023-08-05 17:56:27 · 718 阅读 · 0 评论 -
conda部署深度学习环境
conda部署深度学习环境。原创 2023-06-05 16:20:44 · 108 阅读 · 0 评论 -
MATLAB训练神经网络小结
一些matlab训练神经网络的小tips原创 2023-03-02 22:54:20 · 1139 阅读 · 0 评论 -
通俗解读SGD、Momentum、Nestero Momentum、AdaGrad、RMSProp、Adam优化算法
首先定义待优化的参数:w,目标函数,f(w),初始学习率α。而后,开始原创 2020-08-15 15:09:44 · 1257 阅读 · 0 评论