深度学习与激活函数的复现

对深度学习的初步认识

深度学习是机器学习的一种技术。

一、机器学习分为五大类
1.有监督学习
2.无监督学习
3.半监督学习
4.强化学习
5.遗传算法

二、神经网络
神经网络是一种基于传统统计学的模型，由大量的神经元与
其关系构成，常用来对复杂的输入和输出关系进行建模。
误差反向传递：给出信号，得到经过神经网络算法之后的结果（信号正向传播），再根据结果来修改神经网络中的神经元强度（信号反向传播）。
通过正向和反向传播来更新神经元，从而形成更好的神经系统。
每一个神经元都有属于它的激活函数，在训练过程中可以通过调整不同神经元的激活参数来调整模型。
输入层：负责信息的传入
输出层：权衡、中转、输出信息
隐藏层：负责传入信息的加工处理

神经网络具有速度快的优势，能在更短时间内处理大量数据，为机器学习建立的强大的支柱。
例如AlphaGo利用最先进的机器学习来学习围棋，在较短时间与可以下数万盘，比我们一辈子下的还要多，所以它渐渐摸索出全新的招数，有时候我们连人都无法理解，但其实十分厉害。所以我们的国手经常与它对弈，希冀偷学到它的功法。

激活函数的复现

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
import math

Softmax函数

def softmax(x):
    x=np.exp(x)
    y=x/np.sum(x)
    return y
x=np.linspace(-