端到端(end-to-end)学习

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/tszupup/article/details/84944716

  本博客仅供学术交流之用,如有侵权,请联系我,我将删除,谢谢大家

    最近在读复旦大学邱锡鹏老师写的《神经网络与深度学习》,在其中找到了之前不理解的一些概念的解释,以“端到端”为例。现摘录原文如下

    在一些复杂任务中,传统机器学习方法需要将一个任务的输入和输出之间人为地切割成很多子模块(或多个阶段),每个子模块分开学习。比如一个自然语言理解任务,一般需要分词、词性标注、句法分析、语义分析、语义推理等步骤。这种学习方式有两个问题:一是每一个模块都需要单独优化,并且其优化目标和任务总体目标并不能保证一致。二是错误传播,即前一步的错误会对后续的模型造成很大的影响。这样就增加了机器学习方法在实际应用的难度。
    端到端学习(End-to-End Learning),也称端到端训练,是指在学习过程中,一般不需要明确地给出不同模块或阶段的功能,中间过程不需要人为干预。端到端学习的训练数据为“输入-输出”对的形式,无需提供其他额外信息。因此,端到端学习和深度学习一样,都是要解决“贡献度分配”问题。目前,大部分采用神经网络模型的深度学习也可以看作是一种端到端的学习。

    推荐一下这本书:《神经网络与深度学习》

    欢迎交流! QQ:3408649893

展开阅读全文

没有更多推荐了,返回首页