![](https://img-blog.csdnimg.cn/20201014180756923.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
sinat_37333675
这个作者很懒,什么都没留下…
展开
-
常见激活函数
常见激活函数激活函数以0为中心的收敛解释反向传播过程中,用链式法则求导,若连乘数字都小于1,则梯度越乘越小,导致梯度消失。若连乘数字大于1,则梯度越乘越大,导致梯度爆炸。原创 2021-03-22 17:24:13 · 189 阅读 · 0 评论 -
面试必备——逻辑回归相关问题
1.手推线性回归2.手推逻辑回归3.线性回归于逻辑回归的关系?本质区别:线性回归是回归算法,输出连续值;逻辑回归是分类算法,输出离散值。相同之处:最大似然估计和梯度下降。线性回归使用最小二乘法,实际上就是在自变量与超参数确定,因变量服从正态分布的假设下,使用极大似然估计的一个化简。逻辑回归通过对似然函数学习,得到最佳参数。求解超参数过程中,都可以使用梯度下降方法。**4.交叉熵与相对熵...原创 2021-01-13 16:23:06 · 245 阅读 · 1 评论 -
相对熵原理
https://www.zhihu.com/question/65288314/answer/244557337原创 2020-09-18 14:36:24 · 914 阅读 · 0 评论 -
GBDT和XGBoost
GBDT和XGBoosthttps://blog.csdn.net/Emma_Love/article/details/87275377原创 2020-09-10 15:03:50 · 137 阅读 · 0 评论 -
朴素贝叶斯
原创 2020-09-02 16:44:02 · 109 阅读 · 0 评论 -
LGB决策树可视化
1.官网下载graphivz软件http://www.graphviz.org/download/如安装路径是D:/Graphviz2.38,将D:/Graphviz2.38/bin添加入系统环境变量PATH中2.用python安装库graphviz,联网安装pip install graphviz ,离线安装先下载安装包,解压后找到setup.py文件,python setup.py install3.3.用python安装库pydotplus,同上#决策树的helloworld 使用决策树对iri原创 2020-09-02 10:18:10 · 2440 阅读 · 0 评论 -
KS和AUC解释
1.遇到KS=0.32,AUC=0.54问题:KS值只能反映出哪个分段是区分度最大的,不能反映出所有分段的效果。2.输出预测值在[0.002,0.04]之间,KS阈值切分问题和KS横坐标表示含义。其中最常用的是TPR和FPR。最理想的模型,当然是TPR尽量高而FPR尽量低啦,然而任何模型在提高正确预测概率的同时,也会难以避免地增加误判率。听起来有点抽象,好在有ROC曲线非常形象地表达了二者之间的关系。对于一个二分类模型,输出的最初结果是连续的;假设已经确定一个阀值,那么最初结果大于阀值时,则输出最终结转载 2020-08-07 17:32:06 · 3363 阅读 · 1 评论 -
聚类算法
原型聚类——K−meansK-meansK−means输入:样本集D={x1,x2,...,xm}D=\left\{x_{1},x_{2},...,x_{m}\right\}D={x1,x2,...,xm},聚类簇数kkk输出:簇划分过程:随机选择k个样本作为初始聚类均值向量,计算每个样本到聚类均值向量的距离,将样本划分到离均值向量最近的簇中,重新计算聚类均值向量。重复上述过程,直到聚类均值向量不再变化或者达到迭代次数。原型聚类——LVQLVQLVQ输入:样本集D={(x1,y1),(x2,原创 2020-07-01 16:06:52 · 207 阅读 · 0 评论