本文探讨半监督学习中的条件熵和交叉熵在优化模型中的作用。通过最大似然函数，分析有监督与无监督学习的区别，并介绍深度学习中如何应用这些概念进行模型构建，尤其是利用未标注数据提升模型性能。
问题描述.
对于有监督学习，我们有数据集 D l = { ( x i , y i ) ∣ i = 1 , 2 , 3 , … , n } D_l = \{(x_i,y_i)|i = 1,2,3,…,n\} Dl={
(xi,yi)∣i=1,2,3,…,n}，其中 x i ∈ R d x_i ∈ R^d xi∈Rd , y i y_i yi是监督信号， y i ∈ { y 1 , y 2 , … , y k } y_i∈\{y_1,y_2,…,y_k\} yi∈{
y1,y2,…,yk}。未标注的数据集为 D u = { x i ∣ i = n + 1 , … , n + m } D_u=\{x_i|i = n+1,…,n+m\} Du={
xi∣i=n+1,…,n+m}。
我们引进新的参数 z i z_i zi来表示即存在标注数据又存在未标注数据的数据集，称之为learning dataset，有 L n = { ( x i , z i ) ∣ i = 1 , … , n } L_n = \{(x_i,z_i)|i=1,…,n\} Ln={
(xi,zi)∣i=1,…,n}。其中 z ∈ { 0 ， 1 } K z∈\{0，1\}^K z∈{
0，1}K，被称作名义变量，用于表征实际上可获得的 lables ，而y用于表征精确地完全的信息。此处设定：如果 x i x_i xi被标注为 y k y_k yk，则 { z i l = 0 , i f l ! = k z i l = 1 , i f l = k \{^{z_{il}=1,if l = k}_{z_{il}=0,if l !=k} {
最低0.47元/天 解锁文章
扫一扫
600
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
