数学之美
文章平均质量分 78
数学之美
哈喽十八子
这个作者很懒,什么都没留下…
展开
-
推荐算法之--矩阵分解(Matrix Factorization)
文章目录推荐算法之--矩阵分解(Matrix Factorization)1. 共现矩阵2. 矩阵分解3. SVD实现矩阵分解4. 梯度下降4.1 前向推理 & 符号表示4.2 损失函数4.3 梯度计算4.4 代码测试5. 梯度下降 + sigmoid:5.1 前向推理 & 符号表示5.2 损失函数5.3 梯度计算5.4 代码测试6. 梯度的几何理解6.1 误差损失函数的梯度(1)关于 用户/物品矩阵(2)关于 用户/物品/整体偏置6.3 正则化损失函数的梯度7. Keras实现7.1 没有原创 2022-03-09 23:21:28 · 7655 阅读 · 2 评论 -
凸优化_知识框架&笔记
参考书目:《凸优化》Boyed原创 2021-12-22 21:46:16 · 584 阅读 · 0 评论 -
凸约束机器学习模型的探索及其可解释性思考
0. 目录文章目录0. 目录1. 前言2. 问题背景3. 前期方案及存在的问题3.1 统一的神经网络模型3.2 存在的问题4. 凸模型的设计和训练4.1 比例线性模型4.2 正项式模型4.3 凸神经网络模型4.3.1 模型结构(正向传播)4.3.2 损失函数(1) 误差损失(2) 单调性损失4.3.3 模型训练(反向传播)(1) 对损失LeL_eLe求偏导(2) 对损失LqL_qLq求偏导(3) 对损失LnL_nLn求偏导(4) 梯度下降5. 总结5.1 效果概况5.2 AI算法的可解释性思考1.原创 2021-05-16 14:09:44 · 827 阅读 · 0 评论 -
凸优化2:凸集
文章目录什么是凸集直线和线段直线线段仿射集仿射组合子空间仿射包仿射维度凸集凸组合凸包凸锥锥组合锥包凸集的一些例子超平面半空间Euclid球椭球范数球范数锥什么是凸集直线和线段直线RnR^nRn空间两个点x1≠x2x_1\neq x_2x1=x2,穿越两点的直线:y=θx1+(1−θ)x2y=\theta x_1 + (1-\theta) x_2y=θx1+(1−θ)x2另一种形式:y=x2+θ(x1−x2)y= x_2 + \theta (x_1 - x_2)y=x2+θ原创 2021-03-03 23:16:09 · 494 阅读 · 1 评论 -
凸优化1:什么是凸优化问题
一些闲话去年就想看一下优化和泛函变分相关的内容,但没有空余的排期,大部分学习时间花在了强化学习方面。今年,正好近期项目也有需要,凸优化提上了自学日程。参考书目:《凸优化》清华大学出版社,Stephen Boyd, Lieven Vandenberghe著,王书宁,许鋆,黄晓霖 译全书700页,计划用半年的时间完成一刷。凸优化问题数学优化:数学模型mininize f0(x)subject to fi(x)≤bi, i=1,2,⋯ ,m\begin{a原创 2021-02-25 22:47:54 · 2162 阅读 · 0 评论