统计学
I AM A BIG SHARK
Just keep learning!
展开
-
理解损失函数(理论)
数学准备 连续随机变量的期望:假设X是连续的随机变量,f(X)是其概率密度函数,那么X的期望是: 0-1损失函数:当f(x)=y时,等于1,当f(x)≠y时,等于0。 性能度量与损失函数 机器学习的三要素就是:表示,评估和优化。 正如我们在《非参数模型》中提到的: 机器学习分为表示、评估和优化。表示指的是将样本空间映射到一个合适的特征空间,一般地,我们更青睐于这样的表示是低维度的,是更加稀疏交互的,同时也希望是相互独立的。而评估指的是模型在数据上表现的量化形式,...转载 2020-06-08 17:47:09 · 2102 阅读 · 0 评论 -
KKT 直观理解
KKT最优化条件是Karush[1939],以及Kuhn和Tucker[1951]先后独立发表出來的。这组最优化条件在Kuhn和Tucker发表之后才逐渐受到重视,因此许多情况下只记载成库恩塔克条件(Kuhn-Tucker conditions)库恩塔克条件(Kuhn-Tucker conditions)是非线性规划领域里最重要的理论成果之一,是确定某点为极值点的必要条件。如果所讨论的规划是凸规划...转载 2019-07-15 15:39:24 · 1499 阅读 · 0 评论