- 博客(2)
- 收藏
- 关注
RSS订阅原创 Datawhale X 李宏毅苹果书 AI夏令营 入门班Task2
HardSigmoid 可以看作是两个修正线性单元（Rectified Linear Unit，ReLU）的加总，ReLU 的图像有一个水平的线，走到某个地方有一个转折的点，变成一个斜坡，此外，我们可以不只用一个特征 x1，可以用多个特征代入不同的 c, b, w，组合出各种不同的函数，从而得到更有灵活性（flexibility）的函数。输入的特征 x 乘上一个权重，再加上一个偏置就得到预测的结果，这样的模型称为线性模型（linear model）。2. 可以用Sigmoid 函数逼近这一个蓝色的函数。
2024-08-28 19:21:58
374
原创 Datawhale X 李宏毅苹果书 AI夏令营 入门班Task1
学习率是自己设定的，如果 η 设大一点，每次参数更新就会量大，学习可能就比较快。第一种情况是一开始会设定说，在调整参数的时候，在计算微分的时候，次数达到设置的上限，就不再更新了，更新次数也是一个超参数。还有另外一种理想上的，停下来的可能是，当不断调整参数，调整到一个地方，它的微分的值就是这一项，算出来正好是 0 的时候。输出的值代表，现在如果把这一组未知的参数，设定某一个数值的时候，这笔数值好还是不好，输出值越接近0越好。第一件是这个地方的斜率，斜率大步伐就跨大一点，斜率小步伐就跨小一点。
2024-08-25 13:27:10
120
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人