机器学习
文章平均质量分 95
Just be better
这个作者很懒,什么都没留下…
展开
-
支持向量机SVM
线性可分支持向量机针对问题: 线性可分数据思想: 寻找几何间隔最大的分离超平面,不像PLA,该超平面是唯一的。(硬间隔最大化)maxγmax \quad \gammamaxγs.t.yi(w∥w∥xi)s.t.\quad y_i\left(\frac{w}{\Vert w\Vert} x_i \right)s.t.yi(∥w∥wxi)...原创 2021-11-13 18:03:44 · 641 阅读 · 0 评论 -
感知机(PLA)
单层感知机基本推导1. 输入: 实例的特征向量;2. 输出: 实例的类别(两类,+1和-1);3. 模型: f(x)=sign(w⋅x+b)f(x)=sign(w \cdot x+b)f(x)=sign(w⋅x+b),参数为w,bw,bw,b;4. 应用的问题: 数据线性可分,即数据所有的正实例点和负实例点可以完全正确地划分到超平面(w⋅x+b=0w \cdot x+b=0w⋅x+b=0)两侧。5. 学习策略: 确定损失函数,若将误分类点的个数作为损失函数,则不是参数w,bw,bw,b的连续可导原创 2021-10-23 19:50:57 · 329 阅读 · 1 评论 -
机器学习建模策略
机器学习建模策略前言一、利用交叉验证集进行模型选择二、判断欠拟合/过拟合并改进1.欠拟合/过拟合的特征① 误差大/方差大② 与多项式次幂 ddd 的关系③ 与正则化系数 λ\lambdaλ 的关系2.用学习曲线判断欠拟合/过拟合3.对应的改进方法三、误差分析类偏斜的误差度量查准率和查全率之间的权衡前言在应用机器学习算法解决问题时,大多数情况下不会第一次使用算法就得到很好的效果,需要逐步进行改进。这时,明白怎样选择一条最合适、最正确的道路是很重要的。这里,有一系列简单的方法能让你事半功倍。一、利用.原创 2021-01-31 16:25:31 · 565 阅读 · 0 评论 -
逻辑回归
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档逻辑回归可解决的问题一、逻辑回归算法(Logistic Regression)二、使用步骤1.引入库2.读入数据总结可解决的问题逻辑回归主要用于解决分类问题,适用于标签取离散值的情况。既可以解决两类别分类,也可以解决多类别分类。一、逻辑回归算法(Logistic Regression)首先,对于两类别分类问题,将因变量(dependent variable)可能属于的两个类分别称为负向类(negative class)和正向类原创 2021-01-18 14:48:28 · 285 阅读 · 0 评论 -
批量梯度下降&正规方程
批量梯度下降&正规方程前言一、批量梯度下降(Batch Gradient Descent)1.算法介绍2.Python代码二、正规方程(Normal Equation)1.算法介绍2.Python代码三、二者比较前言对于求解线性回归问题,尤其是多变量线性回归,可以使用批量梯度下降,也可以使用正规方程来求解,本篇主要对这两种方法进行介绍,并比较二者的特点以及使用方法。一、批量梯度下降(Batch Gradient Descent)1.算法介绍本篇以多变量线性回归为例,对于给定的mmm.原创 2021-01-15 20:17:12 · 429 阅读 · 0 评论