非线性假设
为什么需要学习这个算法
非线性拟合
- 多项式
多项式拟合参数个数大于特征个数 - 神经网络
当特征个数过大时，多项式拟合参数过多
二次项的个数大约是
(
n
2
)
/
2
(n^2)/2
(n2)/2，
n
n
n为特征的个数。
三次项个数大约是
(
n
3
)
/
6
(n^3)/6
(n3)/6
神经元与大脑
大脑能够通过同一套算法处理不同类型的信号(听觉、触觉、视觉）。
模型展示 1
参数与权重
模型的权重和参数是一个意思。
神经网络
参数矩阵的大小
s
j
+
1
×
(
s
j
+
1
)
s_{j+1}\times(s_j + 1)
sj+1×(sj+1)，
s
j
s_j
sj为第
j
j
j层的单元数
第二层
第三层
模型展示 2
如何高效进行计算，以及一个向量化实现的方式。
明白如何学习复杂的非线性假设函数。
矩阵表示
前向传播
从第一层到最后一层的计算过程也叫前向传播。
神经网络与logistics回归
每层的每个单元的计算与logistics回归有相同的形式，但是输入不是
x
i
x_i
xi，而是上一层单元的输出
a
i
(
j
)
a^{(j)}_i
ai(j)
例子与直觉理解 1
- 神经网络是怎么样计算的
- 为什么能够用来学习复杂的非线性假设模型
神经网络是如何学习复杂非线性假设模型的
拟合的目标：
AND运算
令
w
0
=
−
30
,
w
1
=
20
,
w
2
=
20
w_0 = -30, w_1=20, w_2=20
w0=−30,w1=20,w2=20
O
R
运
算
OR运算
OR运算
例子与直觉理解2
NOT运算
XNOR运算
393
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
