贝叶斯估计
利用已知的样本结果,反推最有可能导致这样结果的参数,参数本身也是一个分布。同时,根据已有信息参数θ的先验概率,并结合似然(条件概率) 来推断后验概率。 贝叶斯方法使用θ的全分布先验,能够影响概率密度朝参数空间中偏好先验的区域偏移。
例1:设在某个局部地区细胞识别中正常(ω1)和异常(ω2)两类的先验概率分别为,正常状态:P(ω1)=0.9;异常状态:P (ω2)= 0.1。
现有一待识别的细胞,其观察值为x,从类条件概率密度分布曲线上查得
p (x|ω1)=0.2,p (x|ω2) =0.4。试对该细胞x进行分类。
解:利用贝叶斯公式,分别计算出ω1及ω2的后验概率。
所以合理的决策是把x归为正常状态。
例2:在例1 条件的基础上, 利用决策表, 按最小风险贝叶斯决策进行分类。
解:已知条件:P(ω1)=0.9,P(ω2) =0.1,p ( x|ω1)=0.2,p ( x|ω2)=0.4,a11= 0,a12= 6, a21= 1,a22= 0, P(ω1|×)=0.818,P(ω2|x)=0.182
再计算出条件风险:
由于R(a1|x)=1.092 > R(a2|x)=0.818,即决策为ω2的条件风险小于决策为ω1的条件风险,因此我们采取决策行动a2,即判断待识别的细胞x为ω2类——异常细胞。
卷积神经网络
卷积层用于提取特征,局部感受野利用局部性原理、权值共享有效减少参数个数。池化层夹在连续的卷积层中间,用于压缩数据(图像)和参数量,减小过拟合。常用的有最大值池化(Max Pooling)和均值池化(Avergae Pooling)。
若输入尺寸为W,卷积核尺寸F,零填充数目P,步长为S。则输出尺寸为 (W-F+2P)/S +1。
例1:输入7x7xD1,卷积核3x3,步长1,填充0,则输出(7-3)/ 1 + 1 = 5,为5x5xD2。由于权值共享,则卷积层共有D1 * 3x3 * D2个权重和D2个偏置。
例2:设有输入特征图和卷集核,请求出卷积操作后的输出特征图。
例3:设有如下特征图,给定池化窗口为2*2,请分别用最大池化法和平均池化法求出池化后的输出特征图。
遗传算法
基本原理:通过随机方式产生若干个所求解问题的数字编码,即染色体,形成初始种群;通过适应度函数给每个个体一个数值评价,淘汰低适应度的个体,选择高适应度的个体参加遗传操作,经过遗传操作后的个体集合形成下一代新的种群。再对这个新的种群进行下一轮的进化。
收敛性定义:简单遗传算法不是全局最优收敛,只能在一定的约束条件下,实现全局最优收敛。
求解步骤:
(1)编码(二进制编码、格雷编码、实数编码)并初始化种群;
(2)采用标准适应度函数计算种群个体适应度值;
(3)按个体适应度值所决定的规则(轮盘赌选择算法)选择下一代个体;
(4)按概率P1进行交叉(单点交叉、多点交叉)操作;
(5)按概率P2进行变异(二进制变异)操作;
(6)若没有满足某中停止条件,则转2,否则进入下一步:
(7)输出种群中适应度最优的染色体作为问题的满意解或最优解。
例:种群规模为4,采用二进制编码4位,2 ^ 4<16,适应度函数f(x)= x ^ 2,x∈[0,16]。
填空以及概念题
由于题量较大,具体资料下载链接如下:《高级人工智能》