一、深度学习和pytorch基础小结

1. 人工智能

        人工智能(Artificial Intelligence，AI)是使一部机器像人一样进行感知、认知、决策、执行的人工程序和系统。人工智能在金融、内容创作、机器人等领域有十分不俗的表现。人工智能的三个层面：

        （1）计算智能：计算机具有快速计算和记忆储存的能力

        （2）感知智能：类似于人的视觉、听觉的、触觉等感知能力

        （3）认知智能：概念、意识、观念都是认知智能的表现

2. 机器学习

        机器学习(Machine Learning，ML)的定义没有统一的说法，最常用的定义是，计算机系统能够利用经验提高自身的性能；可操作的定义是，机器学习本质是一个基于经验数据的函数估计问题；统计学的定义是，提取重要模式、趋势，并理解数据，即从数据中学习。这些定义的共同点是从数据中提取知识。

        机器学习的通过模型、策略、算法来进行学习

        模型：对要学习问题映射的假设（问题建模，确定假设空间）

        策略：从假设空间中学习/选择最优模型的准则（确定目标函数）

        算法：根据目标函数求解最优模型的具体计算方法（求解模型参数）

模型分类：

3.深度学习

神经网络结构的发展 

 神经网络的发展

 深度学习的缺点

• 算法不够稳定，容易被“攻击”
• 模型的复杂程度高，难以纠错和调试
• 模型层级复合程度高，参数不透明
• 端到端训练方式对数据依赖性强，模型增量性差
• 专注直观感知类问题，对开放推理性问题无能为力
• 人类知识无法有效引入进行监督，机器偏见难以避免

M-P神经元

 激活函数

 万有逼近定律

        如果一个隐层包含足够多的神经元，三层前馈神经网络（输入-隐层-输出）能以任意精度逼近任意预定的连续函数。

        当隐层足够宽时，双隐层感知器（输入-隐层1-隐层2-输出）可以逼近任意非连续函数：可以解决任何复杂的分类问题。

神经网络中每一层的作用

 4.代码练习

Sprial Classification

数据设置及可视化 

线性模型分类：

两层神经网络进行分类

使用Sigmoid函数

 使用Tanh函数

 使用ReLU函数

分别尝试了Sigmoid、Tanh、ReLU激活函数，发现ReLU函数的精确度最高，Sigmoid的精确度最差。