《深度学习之美》第2章

《深度学习之美》 张玉宏著

第2章 人工“碳”索意犹尽，智能“硅”来未可知

1、什么是人工智能（Artificial Intelligent）？

人工智能就是为机器赋予与人类类似的智能。简单来讲，大致就是用“硅基大脑”模拟或重现“碳基大脑”。

2、机器学习的形式化定义

根据台湾大学李宏毅博士的通俗说法，所谓机器学习，在形式上可近似等同于，在数据对象中通过统计或推理的方法，寻找一个特定输入（X）和预期输出（Y）的功能函数 f。Y=f(X)

机器学习需要走好的三大步：
（1）如何找一系列的函数实现预期的功能，这是建模问题。
（2）如何找出一系列评价标准来评估函数的好坏，这是评估问题。
（3）如何快速找到性能最佳的函数，这是优化问题。（比如机器学习中随机梯度下降法）

3、神经网络（Neural Network）

芬兰计算机科学家托伊沃.科霍宁的定义：“神经网络是一种由具有自适应性的简单构成的广泛并行互联的网络，它的组织结构能够模拟生物神经系统对真实世界所做出的交互反应。”

4、人工神经网络（Artificial Neural Network）的特点

非线性、非局限性、非常定性、非凸性

5、什么是通用近似定理（Universal Approximation Theorem）？

“一个包含足够多隐含层神经元的多层前馈网络，能以任意精度逼近任意预定的连续函数”。
注意：（1）“近似” ，not “准确”，可通过增加隐含层神经元的个数来提升近似的精度。（2）被近似函数，必须是连续函数