机器学习
你回到了你的家
这个作者很懒,什么都没留下…
展开
-
矩阵知识:矩阵乘法、单位矩阵、数量矩阵、初等矩阵、行等价
从高斯消元法到矩阵乘法:1.1 高斯消元法假设存在如下的方程:将方程化为如下的形式是高斯消元法的目标:{R=?G=?B=?\begin{cases}R=?\\G=?\\B=?\end{cases}⎩⎪⎨⎪⎧R=?G=?B=?思路:首先利用第一行消去第二行和第三行的第一个元素:接着利用第二行消去第三行的第二个元素:接着反过来,用第三行消去第一行和第二行的第三个元素:接着用第二行消去第一行的第二个元素:最后达到目标:1.2 用增广矩阵描述高斯消元法假设方程为:则增原创 2020-06-05 15:31:43 · 5915 阅读 · 0 评论 -
优化问题
二次规划问题:1. 基本定义二次规划问题(Quadratic Programming)是非线性规划问题(NLP)问题的特例,即当目标函数fff为二次型约束且约束h,gh,gh,g在x∈Rnx \in R^nx∈Rn为线性约束时,这类NLP问题被称为QP问题,其一般形式表述为如下:minimize:minimize:minimize: f(x)=12xTBx−xTb,x∈Rnf(x) = \frac 12 x^TBx-x^Tb, x \in R^nf(x)=21xTBx−xTb,x∈Rns.t.s原创 2020-05-28 21:33:16 · 1464 阅读 · 0 评论 -
微积分复习
泰勒展开:泰勒公式是一个用函数在某点的信息描述其附近取值的公式。这个公式来自于微积分的泰勒定理,泰勒定义描述了一个可微函数,如果函数足够光滑的话,在已知函数在某一点的各阶导数值的情况之下,泰勒公式可以用这些导数值做系数构建一个多项式来近似函数在这一点的邻域中的值,这个多项式称为泰勒多项式。泰勒定理:设n是一个正整数,如果定义在一个包含a的区间上的函数f在a点处n+1次可导,那么对于这个区间上的任意x,都有:f(x)=f(a)+f′(a)1!(x−a)+f(2)(a)2!(x−a)2+...+f(n)原创 2020-05-28 21:31:38 · 339 阅读 · 0 评论 -
数学符号
s.t.在优化问题的求解中,经常会遇到这个数学符号,它的意思是subject to,翻译为中文为受限制于…原创 2020-05-27 20:48:42 · 653 阅读 · 0 评论 -
基础数学知识
几何:点到直线的距离:|Ax0+By0+CA2+B2Ax_0 + By_0+C\over \sqrt{A^2 + B^2}A2+B2Ax0+By0+C|原创 2020-05-27 20:22:14 · 130 阅读 · 0 评论 -
线性代数知识
基:在线性空间V中,如果存在n个元素a1,a2,…,an,满足:a1,a2,…,an线性无关V中任一元素a总可由a1,a2,…,an线性表示那么a1,a2,…,an就称为线性空间V的一个基,n称为线性空间的维数https://wenku.baidu.com/view/10d98c4233687e21af45a999.html...原创 2020-05-27 16:23:52 · 387 阅读 · 0 评论 -
概率论基本概念
随机变量独立同分布:随机变量X1和X2独立,是指X1的取值不影响X2的取值,X2的取值也不影响X1的取值。随机变量X1和X2同分布,意味着X1和X2具有相同的概率密度函参数,对离散型随机变量具有相同的概率函数,对连续型随机变量具有相同的概率密度函数,分布函数,均值,方差和标准差。一般来说,在相同条件下,进行两次独立试验,则这两次实验结果所对应的随机变量是独立同分布的。比如,将一枚质地均匀的硬币抛掷两次,设X1为第一次抛硬币的结果,X2为第二次抛硬币的结果,则X1和X2独立同分布。https://we原创 2020-05-26 21:11:37 · 882 阅读 · 0 评论 -
梯度下降法
梯度下降法:指定一个对各个参数的损失函数,然后利用损失函数对各个参数求偏导,利用这个偏导更新各个参数的值,希望最后能迭代出最优的参数值。SGD 随机梯度下降:SGD每次利用一个训练数据计算损失函数,更新参数的值。mini-batch SGD:每次利用总体训练数据的一部分计算损失函数。参考:https://blog.csdn.net/tsyccnh/article/details/75...原创 2020-02-11 19:21:45 · 98 阅读 · 0 评论 -
csv文件处理
1、读入文件读入csv文件的方式有两种,一种是pd.DataFrame.from_csv(),另一种是pd.read_csv()。两种读入csv文件的方式本身没有实质性的区别,二者都基于相同的函数功能实现,但是有一些参数的默认值不同。推荐使用的是pd.read_csv,pd.DataFrame.from_csv存在仅仅是因为历史原因并(保持对之前项目的支持),所以现在官方准备慢慢停止对pd....原创 2019-10-30 15:47:42 · 2561 阅读 · 0 评论