- 博客(2)
- 收藏
- 关注
原创 机器学习之优化算法总结
在训练模型的过程中,我们通常需要代价函数(即cost function,为loss function的累加求和)最小,这时候我们需要用到优化算法来进一步找到代价函数的全局最优点,即找到模型的最佳参数。1、Batch Gadient Descent(批量梯度下降法): 在每次迭代中,需要用到所有的训练样本。即某一参数每次迭代求出代价函数关于此参数的偏导,乘以学习速率,用以更新参数。...
2018-07-29 15:12:48 485 3
原创 多元统计之主成分分析(PCA)
1、基本思想目标:在保证数据信息丢失最少的前提下,将原来众多具有相关性的指标转化为少数几个相互独立的综合指标。作用:(1)、解决多重共线性。(2)、将高维数据进行降维处理。2、数学模型如下所示数学模型,X1-XP为原始指标,F1-FP为新的主成分,每一个主成分都是原始指标的线性组合,充分反映原始指标的信息,并且相互独立。模型需要满足的条件:(1)每个主成分与原始变量的系数的平方和为1。(2)主成分...
2018-06-27 16:45:04 6094 3
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人