机器学习
洋石灰
KG,ML,DL,NLP —— neo4j ——python ,C++
展开
-
正则化L1,L2规则
正则化(Regularization)机器学习中几乎都可以看到损失函数后面会添加一个额外项,常用的额外项一般有两种,一般英文称作ℓ1ℓ1-norm和ℓ2ℓ2-norm,中文称作L1正则化和L2正则化,或者L1范数和L2范数。L1正则化和L2正则化可以看做是损失函数的惩罚项。所谓『惩罚』是指对损失函数中的某些参数做一些限制。对于线性回归模型,使用L1正则化的模型建叫做Lasso回归,使用L2正则化的...转载 2018-05-26 11:23:41 · 404 阅读 · 0 评论 -
[机器学习]-神经网络—激活函数
神经网络之激活函数(Activation Function)日常 coding 中,我们会很自然的使用一些激活函数,比如:sigmoid、ReLU等等。不过好像忘了问自己一(n)件事:为什么需要激活函数?激活函数都有哪些?都长什么样?有哪些优缺点?怎么选用激活函数?本文正是基于这些问题展开的,欢迎批评指正!(此图并没有什么卵用,纯属为了装x …)Why use activation functio...转载 2018-05-24 21:45:15 · 444 阅读 · 1 评论 -
最常用激活函数公式(更新中)
最常用激活函数公式 (1)what and why 直观的作用就是进行非线性操作,将输入信号input线性加权,再进行非线性操作。 神经网络模拟生物神经元的工作原理,人工神经元的工作是将神经质传输到突出,突出将各个神经质进行进一步操作,权衡后再向下一个神经元传输神经质。可以自行查询生物神经元的工作原理。 激活函数的性质: 非线性——从后面的各个激活函数的公式可以明显看出。原因是:...原创 2018-06-01 16:50:09 · 5038 阅读 · 0 评论