机器学习
Agent_Tao
只关注算法和架构
展开
-
线性回归LinearRegress
线性回归,实际上是做拟合,即根据样本X和观测值Y,回归出一个公式,使残差的平方和达到最小值。 观测值Y和样本X1……Xn的关系为: Y=b0+b1x1+……+bnxn 残差平分和为: 通过求导来求极值,对b0,b1….依次求偏导,可得 把负的部分移到等号右边,可得 如果用矩阵A来表示系数,可得 * 等号右边也用矩阵表示,可得 由于Ab=D b = A-1*D=(X‘X原创 2016-09-05 16:04:36 · 917 阅读 · 0 评论 -
逻辑回归(LogisticRegress)
1、逻辑回归原理 和线性回归很像,逻辑回归将多元线性函数的结果,再通过sigmod激活函数进行运算,从而将结果压缩至0-1区间,该区间表示事件是否发生的概率。 2、公式推导 sigmod函数定义如下: 设线性方程为: 则预测函数H为: 注意:hθ(x)函数的值表示结果取1的概率,写成条件概率形式,则为: 注意:y只能取0或1,当为1时,该式为hθ(x),为0时,原创 2016-09-06 15:23:10 · 1526 阅读 · 0 评论 -
DBSCAN 聚类算法
dbscan算法是一种基于密度聚类的算法。核心概念核心点:若某个点的密度达到算法设定的阈值(即 r 邻域内点的数量不小于 minPts),则其为核心点。 直接密度可达:若某点p在点q的 r 邻域内,且q是核心点,则称p从q出发直接密度可达。 密度可达:若有一个点的序列q0、q1、…qk,对任意qi从qi-1出发是直接密度可达的,则称从q0到qk密度可达,这实际上是直接密度可达的“传播”。原创 2017-03-08 20:34:03 · 709 阅读 · 0 评论