- 博客(7)
- 收藏
- 关注
原创 Lasso-基本原理
这篇文章主要介绍lasso模型基本原理,当然想要理解lasso还要了解正则化,主要内容如下:- 基本概念:输入空间、假设空间、目标函数- 正则化的动机和含义- 正则化的类型: - lasso - ridge - elastic- 求解lasso- lasso和稀疏性
2023-11-11 09:56:32 410
原创 【高维统计N1】绪论
随着数据量和数据特征数的增加,传统的统计方法无法满足模型和算法的分析。高维统计中的工具和方法对于分析模型和估计真值有着重要作用。
2023-03-19 21:11:59 274
原创 【sparse learning-N1】GLM+sparse
广义线性模型在实际中涵盖了大部分常用模型 ,sparse是针对变量维数p远大于样本数N时的常用求解技巧,本文记录了广义线性模型加上稀疏假设后的模型和求解方法。
2023-01-07 09:32:32 580
原创 机器学习中的优化问题
机器学习中,从监督学习到非监督学习、从线性回归到聚类降维,最终都转化成求解一个优化问题。本文从数学角度记录机器学习中的优化,内容包括模型分析、算法分析、应用,这其实对应着:定义问题—>模型解决问题—>算法应用内容概要1.目标函数的类型2.求解算法2.1 一阶方法梯度下降2.2 二阶方法牛顿法拟牛顿法(BFGS)信任域方法2.3 随机方法随机梯度下降preconditioned SGD2.4 求解有约束优化2.5 bound optimization2.6 blackbox和deriv
2022-05-28 09:44:14 1304
原创 学习资料(TODO)
学习资料☝????视频教程????参考资料☝????视频教程1.机器学习cs229-spring2021-machine learingCS224n: Natural Language Processing with Deep Learning-Winter2021CS224W: Machine Learning with Graphs-Fall20212.数据结构与算法cs161-summer2021-ds3.概率论与数理统计????参考资料...
2021-10-20 21:18:36 151
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人