李宏毅【2021/2022春机器学习课程】P1-P4

最新推荐文章于 2024-09-13 11:18:00 发布

周政次

最新推荐文章于 2024-09-13 11:18:00 发布

阅读量158

点赞数

文章标签：机器学习人工智能

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/HZZC_/article/details/131460186

版权

文章讨论了如何利用多个sigmoid函数的叠加来创建非直线模型，通过调整权重和偏置参数可以改变函数形状。同时提出了使用ReLU激活函数作为替代方法，如hardsigmoid，来构建类似的非线性模型，并且这些模型都适用于梯度下降优化过程。

摘要由CSDN通过智能技术生成

参考：李宏毅此文参考
在这里插入图片描述
分段的直线可以用多个sigmoid叠加来实现

在这里插入图片描述
改变w，b和sigmoid的前面的系数可以改变sigmoid的函数的样子

如何将单一直线变成复杂的非直线呢

3个sigmoid的函数，每个都是a=sigmoid（wx+b）
然后三个a*不同的c+b得到y，里面的参数有w，b，c，第二个b
在这里插入图片描述 然后就可以进行梯度下降

也不一定非要通过sigmoid激活函数来表示hardsig moid，也可以用ReLu激活函数来表示hard sigmoid

和上面一样，将sigmoid直接换成Relu就可以了，Relu也是激活函数

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

周政次 CSDN认证博客专家 CSDN认证企业博客

码龄5年

33: 原创

131万+: 周排名

200万+: 总排名

5567: 访问

: 等级

355: 积分

7: 粉丝

21: 获赞

6: 评论

8: 收藏

私信

关注

热门文章

最新评论

B站小土堆Pytorch视频学习——数据集的加载（2023.06.13）
CSDN-Ada助手: 祝贺你写了这篇博客！数据集的加载是Pytorch学习的重要一环，你的文章讲解的很清晰，读起来很有收获。下一步，建议你可以继续深入探讨Pytorch的其他主题，比如模型训练、优化器等等，这样可以帮助更多的读者更好地理解Pytorch。期待你的下一篇博客！推荐【每天值得看】：https://bbs.csdn.net/forums/csdnnews?typeId=21804&utm_source=csdn_ai_ada_blog_reply1 如果您持续创作，完成第三篇博客，并且质量分达到 80 分以上，在评论区就有机会获得红包奖励哦！
B站小土堆Pytorch视频学习——TensorBoard的使用（2023.06.13）
CSDN-Ada助手: 非常棒的博客，感谢您分享关于TensorBoard的使用。您的博客为那些想要在机器学习方面深入学习的人提供了非常有价值的信息。除了TensorBoard之外，我还想提到一些和本文相关但未在标题和摘要中提到的知识和技能，比如Pytorch中的数据加载和处理技巧、如何使用Pytorch进行图像分类和物体检测等等。希望您能够继续创作出更多优质的博客，让更多人受益于您的经验分享。如何写出更高质量的博客，请看该博主的分享：https://blog.csdn.net/lmy_520/article/details/128686434?utm_source=csdn_ai_ada_blog_reply2 如果您持续创作，完成第三篇博客，并且质量分达到 80 分以上，在评论区就有机会获得红包奖励哦！
B站小土堆Pytorch视频学习——池化层的基本操作（2023.06.15）
CSDN-Ada助手: 恭喜用户写了这么好的一篇博客，学习了池化层的基本操作。我觉得你的文章非常详细，让我对Pytorch的池化层有了更深入的了解。同时，我也希望你能够继续创作更多的博客，分享你的学习心得和技术经验。如果可能的话，我建议你可以写一些关于卷积神经网络的文章，这是很多人都比较感兴趣的话题。谢谢你的分享！ CSDN 会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply8 看奖励名单。
B站小土堆Pytorch视频学习——非线性激活及线性使用（2023.06.15）
CSDN-Ada助手: 恭喜您又写了一篇博客，真是不错的成果！从标题来看，这篇文章主要介绍了非线性激活及线性使用，内容非常实用。希望您能继续保持创作热情，分享更多有价值的知识。下一步的创作建议可以考虑深入探讨一些实际应用场景，让读者更好地理解和应用相关技术。再次感谢您的分享！ CSDN 会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply9 看奖励名单。
B站小土堆Pytorch视频学习——实战演习网络层构建+Sequential（2023.06.15）
CSDN-Ada助手: 非常感谢您的分享，恭喜您已经写了第10篇博客！这篇博客标题很精准，阅读起来也很有收获。对于下一步的创作建议，希望您能够继续深入探究Pytorch的更多细节和实践案例，让我们更好地了解和应用这个强大的框架。再次感谢您的分享！ CSDN 会根据你创作的博客的质量，给予优秀的博主博客红包奖励。请关注 https://bbs.csdn.net/forums/csdnnews?typeId=116148&utm_source=csdn_ai_ada_blog_reply10 看奖励名单。

最新文章

目录

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。