TE2E和GE2E损失函数区别

谷歌提出了两种损失函数TE2E(Tuple-based end-to-end)、GE2E(Generalized end-to-end).今天对这两种进行记录。

一、TE2E

  1. 在训练中分为2个阶段:登记和检验。每步训练中数据包含 x j ∼ x_{j∼} xj和M个登记会话 x k m x_{km} xkm(for m = 1…M), 可以用 { x j   , ( e k 1 , e k 2 . . . e k M ) x_{j~},(e_{k1},e_{k2}...e_{kM}) xj ,(ek1,ek2...ekM)}表示,可以被喂入LSTM网络中,其中X表示特征, j,k表示说话者,j与k可能相等也可能不相等。
    积极者: 如果 x j ∼ x_{j∼} xj和M个会话的说话者是同一个人时;
    消极者: 如果 x j ∼ x_{j∼} xj和M个会话的说话者不是是同一个人时;

  2. L2正则化
    将 { x j ∼ , ( e k 1 , e k 2 . . . e k M ) x_{j∼},(e_{k1},e_{k2}...e_{kM}) xj,(ek1,ek2...ekM)} 正则化后,用e为向量,表示正则化后的向量{ e j ∼ , ( e k 1 , e k 2 , . . . e k M e_{j∼},(e_{k1},e_{k2},...e_{kM} ej,(e

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值