【笔记】深度学习入门

神经网络基础

计算机视觉

1.1 人工智能的本质——线性模型

y=kx+b
k为权重，b为偏置

像素点有32323=3072个任务点
所以权重有3072个，假设有10组类别，注意权重是一个矩阵

1.2 模型更新方法

权重一开始是随机的

权重和损失值，尝试逼近最优解，理论上切线方向最好，但是梯度方向是随机的，所以每个节点梯度都不，一开始学习率不能大，只能小一点，梯度下降的目的是为了求最优参数，也就是沿着梯度的相反方向函数值减少最快

1.3 损失函数计算方法

每个权重参数都分别计算出最优解


我们得到的是一个输入的得分值，但是如果给一个概率不是更清晰儿地描述这个事情吗?比如下图是三分类，学出来的这个差异还不够大，我们用e的指数方式放大差异，然后通过归一化再转化成概率的形式