Machine Learning - Andrew Ng on Coursera (Week 4)

本篇文章将分享Coursera上Andrew Ng的Machine Learning第四周的课程,主要内容有如下,详细内容可以参考文末附件:

动机

为什么要引入神经网络?在分类问题中,特别是在非凸边界函数的情况下,要将用样本训练分类器,假设公式[Math Processing Error]会写的比较复杂,两个变量的问题可能会涉及到三阶以及上的项,特征变量的数量如果随之增加,那么求解的难度会成倍地增加。

特别的,在机器视觉相关问题中,一块图像区域可能包含成千上万个像素点,如果都作为特征变量的话用线性回归或者逻辑回归会使问题变得尤为复杂。通常在图像分类问题中都采用的是神经网络算法,通过提取特定区域的像素值作为特征变量进行训练和识别,可以有效提高正确率和效率。

神经网络算法最早是人们为了发明一种算法来模拟人脑的学习过程,曾经在八十年代以及九十年代早期广泛应用,而在九十年代末期使用热情退却过一段时间,主要是受限于当年计算机的运算速度。而后又因为计算机运算速度突飞猛进而重新被大家重视并广泛应用。

有一些有趣的实验证实,虽然大脑可以完成许多看似不相关的任务,如听、触、看、闻等等,但实际上只用一种算法就可以搞这些任务。其中一个实验是将听觉神经切断,将相应的大脑皮层区域连接到视觉神经上,在这种情况下动物就可以用本该负责听觉的区域用于视觉的学习。另一个类似的实验是将触觉神经切断,让触觉的大脑皮层区域学会“看”。这个发现会有很多的应用,如帮助视觉残疾的人学会用舌头看东西,用声音定位,用磁场感应方向以及用移植的第三只眼学会看东西(现实版的“二郎神”)。

神经网络

前面提到神经网络是人类模仿神经工作方式的一种算法,本节就从神经细胞开始,切入到神经网络模型的表示。神经细胞有树突和轴突,树突作为参数输入的接收部分,将电信号经过“计算”,由轴突转递给下一个神经元,直到最后。

神经网络模型也是一样,可以接受多个参数的输入,由结点经过计算后输出结果。一般用逻辑回归作为激活函数,也就是从输入参数转换为计算结果的计算过程。另外,一般在每一层除了输入以外,还会加一个偏置单元。这个偏置单元的作用主要控制神经元产生正/负激励的难易,参考请戳此处

一般模型分为三层,分别是输入层、隐藏层和输出层。如果多于三层的话,除了第一层和最后一层,都是隐藏层。[Math Processing Error]表示第[Math Processing Error]层的激励函数,[Math Processing Error]表示第[Math Processing Error][Math Processing Error]层的权重矩阵。以下图中三层神经网络模型为例,

三层神经网络模型

[Math Processing Error]

[Math Processing Error]

[Math Processing Error]

[Math Processing Error]

其中,[Math Processing Error]是Sigmod函数。整个传播过程就是由前向后,从输入一直到输出。

应用

本节简述了以神经网络模型实现XOR(异或门)和XNOR(同或门)的例子。从最简单的AND、OR、NOT讲起,深入浅出地将神经网络应用于实际的问题中去。调整的就是各输入变量和偏置单元的权重参数,利用真值表检验结果是否正确。而XOR和XNOR就是利用不同的基础的神经元上进行组合,以得到正确的结果。最后还展示了一个手写数字识别的小Demo,非常有意思。

在利用神经网络模型处理多分类的问题时,采用的是和逻辑回归类似的One-vs-all思想,需要调整的就是将原来只有一个输出结点变为多个,并使不同输出结点互斥。即输出层变为对应[Math Processing Error]类的[Math Processing Error]的列向量,不再用1,2,3,4表示各类。

附本次分享演示文档:ML-Coursera-Week4

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Coursera-ml-andrewng-notes-master.zip是一个包含Andrew Ng的机器学习课程笔记和代码的压缩包。这门课程是由斯坦福大学提供的计算机科学和人工智能实验室(CSAIL)的教授Andrew Ng教授开设的,旨在通过深入浅出的方式介绍机器学习的基础概念,包括监督学习、无监督学习、逻辑回归、神经网络等等。 这个压缩包中的笔记和代码可以帮助机器学习初学者更好地理解和应用所学的知识。笔记中包含了课程中涉及到的各种公式、算法和概念的详细解释,同时也包括了编程作业的指导和解答。而代码部分包含了课程中使用的MATLAB代码,以及Python代码的实现。 这个压缩包对机器学习爱好者和学生来说是一个非常有用的资源,能够让他们深入了解机器学习的基础,并掌握如何运用这些知识去解决实际问题。此外,这个压缩包还可以作为教师和讲师的教学资源,帮助他们更好地传授机器学习的知识和技能。 ### 回答2: coursera-ml-andrewng-notes-master.zip 是一个 Coursera Machine Learning 课程的笔记和教材的压缩包,由学生或者讲师编写。这个压缩包中包括了 Andrew Ng 教授在 Coursera 上发布的 Machine Learning 课程的全部讲义、练习题和答案等相关学习材料。 Machine Learning 课程是一个介绍机器学习的课程,它包括了许多重要的机器学习算法和理论,例如线性回归、神经网络、决策树、支持向量机等。这个课程的目标是让学生了解机器学习的方法,学习如何使用机器学习来解决实际问题,并最终构建自己的机器学习系统。 这个压缩包中包含的所有学习材料都是免费的,每个人都可以从 Coursera 的网站上免费获取。通过学习这个课程,你将学习到机器学习的基础知识和核心算法,掌握机器学习的实际应用技巧,以及学会如何处理不同种类的数据和问题。 总之,coursera-ml-andrewng-notes-master.zip 是一个非常有用的学习资源,它可以帮助人们更好地学习、理解和掌握机器学习的知识和技能。无论你是机器学习初学者还是资深的机器学习专家,它都将是一个重要的参考工具。 ### 回答3: coursera-ml-andrewng-notes-master.zip是一份具有高价值的文件,其中包含了Andrew NgCoursera上开授的机器学习课程的笔记。这份课程笔记可以帮助学习者更好地理解掌握机器学习技术和方法,提高在机器学习领域的实践能力。通过这份文件,学习者可以学习到机器学习的算法、原理和应用,其中包括线性回归、逻辑回归、神经网络、支持向量机、聚类、降维等多个内容。同时,这份笔记还提供了很多代码实现和模板,学习者可以通过这些实例来理解、运用和进一步深入研究机器学习技术。 总的来说,coursera-ml-andrewng-notes-master.zip对于想要深入学习和掌握机器学习技术和方法的学习者来说是一份不可多得的资料,对于企业中从事机器学习相关工作的从业人员来说也是进行技能提升或者知识更新的重要资料。因此,对于机器学习领域的学习者和从业人员来说,学习并掌握coursera-ml-andrewng-notes-master.zip所提供的知识和技能是非常有价值的。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值