【2020人工智能培训课】笔记三 神经网络、支持向量机

Python 科学计算常用数据结构

a2=[0,1]，[2,3]，[4,2]] #二维列表
a1=mat([[1，1]，[2,3],[4,2]])#元组
元组
字典
centroids[i，:] = dataSet[index,:] # : 代表第二维所有
python中集合当key必须先把集合冻结住：frozenset ( {2} )

sklearn: 除了深度学习外常见的机器学习算法包

---

神经网络

神经网络:大量（结构简单的、功能接近的）神经元节点按一定体系架构连接成的网状结构——就是大脑的结构。
建立输入与输出的“强行映射”的关系。神经网络的作用: 分类、模式识别、连续值预测。

导数用y表示原因：误差反向传播，所以y已知的。形式也简单一点。
通过误差一层一层传播，调整神经元的权重Wij

神经网络是由大量神经元节点按一定体系架构连接成的网状结构，一般都有输入层，隐含层和输出层。
传统的浅层网络，一般有3~5层。没有前跳、没有层间连接、没有回连等深度神经网络常见连接方法。

Delta学习规则：Delta学习规则是一种有监督学习算法，该算法根据神经元的实际输出与期望输出差别来调整连接权，其数学表示如下:

 还要乘以梯度

注意，这个权重W之和并不为1。一般权重的初始化设置为按某一分布随机取值。

前馈神经网络
前馈神经网络，是人工神经网