半监督学习下的条件熵与交叉熵

问题描述.

对于有监督学习,我们有数据集 D l = { ( x i , y i ) ∣ i = 1 , 2 , 3 , … , n } D_l = \{(x_i,y_i)|i = 1,2,3,…,n\} Dl={ (xi,yi)i=1,2,3,,n},其中 x i ∈ R d x_i ∈ R^d xiRd , y i y_i yi是监督信号, y i ∈ { y 1 , y 2 , … , y k } y_i∈\{y_1,y_2,…,y_k\} yi{ y1,y2,,yk}。未标注的数据集为 D u = { x i ∣ i = n + 1 , … , n + m } D_u=\{x_i|i = n+1,…,n+m\} Du={ xii=n+1,,n+m}
我们引进新的参数 z i z_i zi来表示即存在标注数据又存在未标注数据的数据集,称之为learning dataset,有 L n = { ( x i , z i ) ∣ i = 1 , … , n } L_n = \{(x_i,z_i)|i=1,…,n\} Ln={ (xi,zi)i=1,,n}。其中 z ∈ { 0 , 1 } K z∈\{0,1\}^K z{ 01}K,被称作名义变量,用于表征实际上可获得的 lables ,而y用于表征精确地完全的信息。此处设定:如果 x i x_i xi被标注为 y k y_k yk,则 { z i l = 0 , i f l ! = k z i l = 1 , i f l = k \{^{z_{il}=1,if l = k}_{z_{il}=0,if l !=k} {

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值