第十五周学习周报（20180611-20180617）

第十五周学习周报

一、本周学习情况

    1、本周主要学习李宏毅老师的机器学习课程

             Backpropagation

             Convolutional Neural Network

             Semi-supervised

    2、分别看了关于Backpropagation、Convolutional Neural Network、Semi-supervised的技术博客

    3、用python实现了一个简单的神经网络的训练博客里找到的小例子（博客里找到的小例子）

二、学习笔记     

       Backpropagation算法是目前绝大多数神经网络在优化参数时用到的算法，具有快速方便容易实现的优点。反向微分算法保留了所有变量包括中间变量对结果e的影响。而正向微分算法得到的结果是只保留了一个输入变量对误差e的影响，想要获得多个变量对e的影响，需要进行多次计算。所以我们选择反向微分。

       CNN是深度学习算法在图像处理领域的应用，是非常强大的一种深度神经网路。一般地，CNN的基本结构包括两层，其一为特征提取层，每个神经元的输入与前一层的局部接受域相连，并提取该局部的特征。其二是特征映射层，网络的每个计算层由多个特征映射组成，每个特征映射是一个平面，平面上所有神经元的权值相等。特征映射结构采用影响函数核小的sigmoid函数作为卷积网络的激活函数，使得特征映射具有位移不变性。一个映射面上的神经元共享权值，因而减少了网络自由参数的个数。

       半监督学习是有监督学习和无监督学习的结合体，其主要思想是：利用少量的标签数据和大量的无标签数据相结合，训练出好的结果。在深度学习领域，无监督学习常见的有自编码、受限玻尔兹曼机等。

三、下周学习计划

    1、李宏毅老师的机器学习课程学完

    2、复习并总结学习李宏毅老师课程的收获和盲点