- 博客(6)
- 收藏
- 关注
转载 矩阵求导(二)
矩阵求导术(下)转自:https://zhuanlan.zhihu.com/p/248639774 个月前 本文承接上篇 https://zhuanlan.zhihu.com/p/24709748,来讲矩阵对矩阵的求导术。使用小写字母x表示标量,粗体小写字母x\boldsymbol{x} 表示列向量,大写字母X表示矩阵。矩阵对矩阵的求导采用了向量化的思路,常应用于二阶方法求解优化问题。首先来琢磨一
2017-05-31 16:47:22 8043
转载 矩阵求导(一)
矩阵求导术(上)矩阵求导的技术,在统计学、控制论、机器学习等领域有广泛的应用。鉴于我看过的一些资料或言之不详、或繁乱无绪,本文来做个科普,分作两篇,上篇讲标量对矩阵的求导术,下篇讲矩阵对矩阵的求导术。本文使用小写字母x表示标量,粗体小写字母x\boldsymbol{x} 表示向量,大写字母X表示矩阵。首先来琢磨一下定义,标量f对矩阵X的导数,定义为∂f∂X:=[∂f∂Xij]\frac{\parti
2017-05-31 14:08:42 21880 2
原创 机器学习学习笔记(二)
线性模型给定 dd 个属性描述的示例 x=(x1,x2,…,xd)Tx = (x_1,x_2,…,x_d)^T ,其中 xix_i 是 xx 在第 ii 个属性上的取值,线性模型试图学习一个通过属性的线性组合的线性组合来进行预测的函数,即 f(x)=w1x1+w2x2+…+wdxd+bf(x)=w_1x_1+w_2x_2+…+w_dx_d+b 一般用向量形式写成 f(x)=wTx+bf(x)=w^
2017-05-14 15:58:59 316
原创 机器学习学习笔记(一)
本系列文为周志华教授的《机器学习》一书的个人简要笔记,供日后遗忘时翻阅绪论1.引言机器学习主要内容是研究从数据中产生模型的算法(学习算法),有了这类算法,将经验数据提供给它,学习算法就能基于这些数据产生模型,面对新的情况时模型会提供相应的判断。2.基本术语数据集 示例/样本/特征向量 属性/特征 ——属性值 ——属性空间/样本空间/输入空间假定一个具有m个示例的数据集,每个示例由d个属性描述。
2017-05-12 11:33:29 547
原创 统计学习方法笔记(一)
统计学习方法概论 本系列文为李航博士的《统计学习方法》一书的个人简要笔记,供日后遗忘时翻阅1统计学习统计学习/统计机器学习定义:计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析 统计学习目标:考虑学习什么样的模型和如何学习模型,使得模型能对数据进行准确的预测与分析,同时也要考虑尽可能地提高学习效率统计学习组成:监督学习、非监督学习、半监督学习和强化学习等 监督学习定义:从给定的
2017-05-10 18:42:08 840
转载 欢迎使用CSDN-markdown编辑器
欢迎使用Markdown编辑器写博客本Markdown编辑器使用StackEdit修改而来,用它写博客,将会带来全新的体验哦:Markdown和扩展Markdown简洁的语法代码块高亮图片链接和图片上传LaTex数学公式UML序列图和流程图离线写博客导入导出Markdown文件丰富的快捷键快捷键加粗 Ctrl + B斜体 Ctrl + I 引用 Ctrl +
2017-05-03 10:19:25 218
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人