Neural Networks and Deep Learning (Week 1)——Introduction to deep learning

一. Introduction

1.ReLu(Recitified Linerar Unite)

线性整流函数

max(0,y)

把一个神经元看做是一个乐高积木，搭建很多乐高积木就是一个较大的神经网络

2.对于神经网络而言，只需要给它足够多的数据即下例中篮筐中的x,y,而不必关心红色框中的东西。

神经网路在这的作用就是通过给定的X，预测Y

二. Supervised learning with Neural Networks

目前监督学习的应用及所用的神经网络类型：

监督学习既可以应用到结构化的数据中，也可以应用在像图片、音频等非结构化数据中，表现形式为像素或单个的词。

三.Why is Deep Learning taking off?

快速发展的两个重要因素：数据量巨大、神经网络的规模变大

整个神经网络构建的循环

四、课程的Outline