深度学习笔记

1.矩阵点乘：    

import numpy as np
A = np.arange(1,10).reshape(3,3)
B = np.arange(2,14).reshape(3,4)
A.dot(B),np.dot(A,B) #维度顺序不可搞错

2.单层感知机无法表示异或门，异或门是一种多层结构的神经网络。通过叠加多一层感知机就能实现异或门。

3.神经网络：

        激活函数：sigmoid函数，.函数值在0到1之间取值，连续变化，可二次求导。是非线性函数。

        神经网络的激活函数必须使用非线性函数。

        神经网络的运算是通过多个矩阵相乘或者多维数组相乘实现的。

        一般来说，回归问题用恒等函数，分类问题用softmax函数。所谓恒等函数就是按原样输出，softmax函数就相当于求概率，函数值在0到1之间，哪个函数值大就输出哪个类型。