- 博客(3)
- 收藏
- 关注
原创 最小二乘估计,矩阵方法求解
D={(x1,y1),(x2,y2),...(xN,yN)}xi∈Rp(xi是一个列向量),yi∈R,i=1,2,...,ND=\{(x_1,y_1),(x_2,y_2),...(x_N,y_N)\}\\x_i\in \mathbb{R}^p(x_i是一个列向量),y_i\in \mathbb{R},i=1,2,...,N\\D={(x1,y1),(x2,y2),...(xN,yN...
2020-02-19 20:58:22 1771
原创 L1正则化理论推导,为什么L1产生稀疏解?
L1正则化技术F(w;x,y)=J(w;x,y)+α∣∣w∣∣1=J(w;x,y)+α∑i=1n∣wi∣假设w∗是损失函数J(w;x,y)最优解,J(w;x,y)在w∗处泰勒展J(w;x,y)=J(w∗;x,y)+J′(w∗;x,y)(w−w∗)+12!J′′(w∗;x,y)(w−w∗)2 ∵w∗是J(w;x,y)最优解,则J′(w∗;x,y)=0,则可以去除J(w∗;x,y...
2020-02-18 20:43:55 777
原创 LR(逻辑斯谛)公式推导
一个事件的几率(odds)=事件发生的概率事件不发生的概率\frac {事件发生的概率}{事件不发生的概率}事件不发生的概率事件发生的概率=p1−p\frac{p}{1-p}1−pp该事件的对数几率(log odds)或logit函数是logit(p)=logp1−plogit(p)=log^{\frac{p}{1-p}}logit(p)=log1−pp我们结合sigmoid函数,线性...
2020-02-11 18:25:37 1894
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人