AI算法
积累AI算法
YUE.YUN
这个作者很懒,什么都没留下…
展开
-
初学算法——算法进阶
Gradient descent(梯度下降法) Conjugate gradient(共轭梯度法) BFGS(拟牛顿法) L-BFGS 后面三种算法与梯度下降法相比: 不需要手动设置学习率α 收敛速度更快 但是后面三种算法的复杂程度远远高于梯度下降法,如果非计算专家,无需弄懂其中的具体细节,只要会调动使用就可以了 ...原创 2020-02-25 16:42:40 · 97 阅读 · 0 评论 -
初学算法——逻辑回归(Logistic Regression)算法
用集训集拟合参数θ,确定θ后,边界也就确定了 将逻辑回归函数整理成一个等式 用梯度下降法求解逻辑回归方程推导 这样,直接讲的特征缩放法和均值归一化就都能用到这里,直接加快收敛速度 ...原创 2020-02-25 15:58:51 · 364 阅读 · 0 评论 -
初学算法——标准方程法
标准方程法(normal equation) 化简后的标准形式如图: 二次方程求极值:对方程求一阶导,然后令其等于零求解,得到的X的值就是原方程的极值点 当此处我们的θ为多维的相量的时候,也可依次求导,然后得到每个方程的极值点 此处有另外一种方式求极值点: 这样求出来的θ就是方程的极值点 案例: 这样的方法就是求成本函数最小值的标准方程法 梯度下降...原创 2020-02-24 18:14:39 · 478 阅读 · 0 评论 -
初学算法——梯度下降法
梯度下降算法 注: :=是赋值的意思 右边错误是因为temp1中采用了更新后的θ0,而梯度下降算法中要求的是同时更新;右边是另外一种算法 α太大,可能会导致不收敛 线性代数知识: 矩阵的加减乘除算法、单位矩阵、逆矩阵运算、矩阵的转置定义相关知识 特征缩放法 目的:加快梯度下降算法的收敛速度。 问题描述:如上左图,如果取值θ1=(0 ,5),θ2=(...原创 2020-02-24 17:51:23 · 685 阅读 · 0 评论