机器学习第1天

线性回归

例子

数据:工资和年龄(两个特征)

目标:预测银行会贷款给我们多少钱(标签)

思路:工资和年龄都会影响最终银行带宽的结果,那么它们各自由多大影响呢(参数)

通俗解释

X1、X2就是两个特征(年龄、工资)Y是银行最终会借给我们多少钱

找到最合适的一条线(想象一个高纬)来最好的拟合我们的数据点

假设\theta_1是年龄的参数,\theta_2是工资的参数,\theta_0是偏置项

拟合的平面:h_{\theta}(x) = \theta_0+\theta_1x_1+\theta_2x_2

新加一列(x_0=1)h_{\theta}(x) = \theta_0x_0+\theta_1x_1+\theta_2x_2

整合:h_{\theta}(x) = \sum_{i=0}^{n}\theta_ix_i=\theta^Tx

真实值和预测值之间肯定要存在差异(用\epsilon来表示该误差)

对于每个样本:y^{(i)} = \theta^Tx^{(i)}+\epsilon^{(i)}

高斯分布

高斯分布,也被称为正态分布(Normal Distribution),是一个在统计学中非常重要的概率分布。

正态分布是一类连续概率分布,其形状呈现为对称的钟形曲线,这种曲线被称为高斯函数或高斯钟形曲线。高斯分布的数学表达式可以表示为:

f(x|\mu,\sigma^2) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}

正态分布有两个参数:均值\mu和方差\sigma^2,它们决定了分布的形状和位置。均值决定了分布的中心位置,标准差决定了分布的离散程度,即数据集中或分散的程度。标准差越大,分布越宽;标准差越小,分布越窄。

高斯分布在自然科学和社会科学中十分常见,因为许多随机变量的分布都近似是正态分布,特别是当独立随机变量的总和趋于无限时,根据中心极限定理,其分布接近正态分布。

标准正态分布是当正态分布的均值( \mu = 0 )且标准差 ( \sigma = 1 )时的特殊情况,标准正态分布表达式如下:

f(x|0,1) = \frac{1}{\sqrt{2\pi}} e^{-\frac{x^2}{2}}

标准正态分布是正态分布的一个标准化形式,通常用于简化问题的求解过程,在统计分析中具有重要应用。任何正态分布都可以通过标准化过程(即从每个数据点中减去均值并除以标准差)转换为标准正态分布。这个过程称为标准化或归一化。

总结来说,所有的标准正态分布都是正态分布,但不是所有的正态分布都是标准正态分布。标准正态分布是正态分布中的一个特例。

p(y^{(i)}|x^{(i)};\theta):意思是在x^{(i)}\theta下y的概率

预测值与误差:y^{(i)} = \theta^Tx^{(i)}+\epsilon^{(i)}

由于误差服从高斯分布:p(\epsilon^{(i)}) = \frac{1}{\sqrt{2\pi\sigma^2}} e(^{-\frac{(\epsilon^{(i)})^2}{2\sigma^2}})

将(1)式带入(2)式:p(y^{(i)}|x^{(i)};\theta) = \frac{1}{\sqrt{2\pi\sigma}} e(^{-\frac{(y^{(i)}-\theta^Tx^{(i)})^2}{2\sigma^2}})

为什么用累乘

  • 8
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
机器学习人工智能及模式识别领域的共同研究热点,其理论和方法已被广泛应用于解决工程应用和科学领域的复杂问题。2010年的图灵奖获得者为哈佛大学的Leslie vlliant教授,其获奖工作之一是建立了概率近似正确(Probably Approximate Correct,PAC)学习理论;2011年的图灵奖获得者为加州大学洛杉矶分校的Judea Pearll教授,其主要贡献为建立了以概率统计为理论基础的人工智能方法。这些研究成果都促进了机器学习的发展和繁荣。 [2] 机器学习是研究怎样使用计算机模拟或实现人类学习活动的科学,是人工智能中最具智能特征,最前沿的研究领域之一。自20世纪80年代以来,机器学习作为实现人工智能的途径,在人工智能界引起了广泛的兴趣,特别是近十几年来,机器学习领域的研究工作发展很快,它已成为人工智能的重要课题之一。机器学习不仅在基于知识的系统中得到应用,而且在自然语言理解、非单调推理、机器视觉、模式识别等许多领域也得到了广泛应用。一个系统是否具有学习能力已成为是否具有“智能”的一个标志。机器学习的研究主要分为两类研究方向:第一类是传统机器学习的研究,该类研究主要是研究学习机制,注重探索模拟人的学习机制;第二类是大数据环境下机器学习的研究,该类研究主要是研究如何有效利用信息,注重从巨量数据中获取隐藏的、有效的、可理解的知识。 [2] 机器学习历经70年的曲折发展,以深度学习为代表借鉴人脑的多分层结构、神经元的连接交互信息的逐层分析处理机制,自适应、自学习的强大并行信息处理能力,在很多方面收获了突破性进展,其中最有代表性的是图像识别领域。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值