超级会员免费看
1.实现了Relu,Leakrelu,Elu,Tanh激活函数。
参考：一文搞懂激活函数(Sigmoid/ReLU/LeakyReLU/PReLU/ELU)
常见的激活函数（activation function）总结
ReLu、LeakReLu、PReLu、ELU、SELU激活函数
2.实现了以下10种优化算法
SUW
SGD
Momentum
AdaGrad
RMSProp
AdaDelta 不需要设置学习率
Adam
AdaMax
Nadam
NadaMax
参考：10种优化算法汇总实现（从SGD到NadaMax）
具体实现代码可查看代码：
代码下载地址：
本文介绍了如何实现Relu, Leakrelu, Elu和Tanh激活函数，以及包括SGD, Momentum, Adam等在内的10种优化算法。通过代码实现，对比了不同优化算法的效果，如Adam优化后的最小损失为3.049，优于Pytorch的3.58。"
135584351,9921690,CCM算法详解：从原理到代码实现,"['因果分析', '数据科学', '非线性动力学', '机器学习', '编程语言']
订阅专栏 解锁全文
1056
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
