![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 72
地瓜没有花
这个作者很懒,什么都没留下…
展开
-
【深度学习】网络结构、损失函数、激活函数、训练过程、手写体识别、编辑距离 总结
损失函数损失函数总结训练过程总结损失函数总结深度学习之损失函数小结 深度学习中常用损失函数深度学习-Loss函数cross entropy 与 square error(square error在神经网络中的梯度消失问题)“两步走方法“解析损失函数:mean square error,cross entropy,softmax,SVM深度学习常用损失函数–github训练过程总结深度学习的训练和调参深度学习训练技巧总结带你深入AI(1) - 深度学习模型训练痛点及解决方法深度学习模原创 2022-01-01 17:21:10 · 367 阅读 · 0 评论 -
【李宏毅】机器学习深度学习笔记 -- 训练模型通关攻略
overfitting:即在训练的数据中错误率较低,但是在预测的数据中错误率较高的情况。计算微分的工具包:原创 2021-04-07 21:15:08 · 246 阅读 · 0 评论 -
机器学习与深度学习 --- 激活函数(未完待续)
激活函数1. Hard Sigmoid 函数和 Sigmoid 函数的区别1.1 sigmoid函数1. Hard Sigmoid 函数和 Sigmoid 函数的区别1.1 sigmoid函数表达式如下:图像如下:Sigmoid 非线性激活函数的形式是σ(x)=1/(1+e−x),其图形如上图左所示。之前我们说过,sigmoid函数输入一个实值的数,然后将其压缩到0~1的范围内。特别地,大的负数被映射成0,大的正数被映射成1。sigmoid function在历史上流行过一段时间因为它能够很原创 2021-04-05 20:31:06 · 415 阅读 · 0 评论 -
初始transformer需要了解的一些概念
深度学习之transformerembedding什么是Embedding?什么是深度学习里的Embedding?softmax函数Dimembedding什么是Embedding?Embedding(嵌入)是拓扑学里面的词,在深度学习领域经常和Manifold(流形)搭配使用。可以用几个例子来说明,比如三维空间的球体是一个二维流形嵌入在三维空间(2D manifold embedded in 3D space)。之所以说他是一个二维流形,是因为球上的任意一个点只需要用一个二维的经纬度来表达就可以了。原创 2021-03-30 20:09:38 · 194 阅读 · 0 评论