李宏毅机器学习第五节（自学）Transformer

最新推荐文章于 2024-07-10 14:32:33 发布

繁落.

最新推荐文章于 2024-07-10 14:32:33 发布

阅读量875

点赞数 13

文章标签：机器学习 transformer 人工智能

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/weixin_62277441/article/details/135956006

版权

Sequense to Sequence（seq2seq）

含义：所谓Seq2Seq(Sequence to Sequence)，即序列到序列模型，就是一种能够根据给定的序列，通过特定的生成方法生成另一个序列的方法，同时这两个序列可以不等长。经常应用于输出的长度不确定时。

相关应用

1）语音辨识

输入是声音讯号的一串的vector,输出是语音辨识的结果,也就是输出的这段声音讯号,所对应的文字⇒输出的长度由机器自己决定,

2）机器翻译

输入的文字的长度是N,输出的句子的长度是N',那N跟N'之间的关系,也要由机器自己来决定

3）语音翻译

4）语音合成Text-to-Speech (TTS) Synthesis

输入一段文字，输出语音

5）Seq2seq for Chatbot聊天机器人

输入输出都是文字

利用人的对话进行训练

6）Question Answering (QA)

7）Seq2seq for Syntacti

最低0.47元/天解锁文章

关注

13
点赞
踩
24

收藏

觉得还不错? 一键收藏
1
评论
李宏毅机器学习第五节（自学）Transformer

但是，虽然表面上看起来有种种的厉害之处,尤其是平行化是它最大的优势,但是 NAT 的 Decoder ,它的 Performance,往往都不如 AT 的 Decoder。根据这个蓝色的向量裡面,给每一个中文的字的分数,我们会决定第二个输出，再作为输入，继续输出后续的文字，以此类推……输入是声音讯号的一串的vector,输出是语音辨识的结果,也就是输出的这段声音讯号,所对应的文字⇒输出的长度由机器自己决定,输入的文字的长度是N,输出的句子的长度是N',那N跟N'之间的关系,也要由机器自己来决定。
复制链接

扫一扫

繁落. CSDN认证博客专家 CSDN认证企业博客

码龄3年

5: 原创

152万+: 周排名

18万+: 总排名

3711: 访问

: 等级

128: 积分

64: 粉丝

78: 获赞

3: 评论

92: 收藏

私信

关注

热门文章

最新评论

李宏毅机器学习第五节（自学）Transformer
CSDN-Ada助手: 恭喜你写了第五篇博客！学习Transformer这一主题非常有深度，而且对于机器学习的理解也有很大帮助。接下来，我建议你可以尝试更多地分享一些自己的实践经验，或者对于Transformer的理解和应用方面进行更深入的探讨。希望你能够继续保持创作的热情，加油！
李宏毅机器学习第一节-深度学习和机器学习基本概念（自学）
CSDN-Ada助手: 恭喜您开始博客创作！标题中提到的李宏毅机器学习第一节-深度学习和机器学习基本概念是一个非常重要且基础的主题。深度学习和机器学习是当今热门的领域，对于想要进一步了解人工智能的人来说是必经之路。您自学这个主题非常令人钦佩，而且通过撰写博客分享给大家也是一个很好的方式。在下一步的创作中，我建议您可以深入探讨深度学习和机器学习的具体应用领域，例如图像识别、自然语言处理等。您可以分享一些实际案例，以及对于这些领域的发展趋势的独到见解。此外，您也可以介绍一些学习资源，如书籍、课程或学习网站，帮助读者更好地理解和应用这些概念。继续保持您的学习热情和创作热忱，我期待着您未来更多有价值的博客文章！推荐【每天值得看】：https://bbs.csdn.net/forums/csdnnews?typeId=21804&utm_source=csdn_ai_ada_blog_reply1
李宏毅机器学习第三节CNN（自学1）
CSDN-Ada助手: 非常高兴看到您第三篇博客的发布，标题中提及了李宏毅机器学习的内容，这无疑是一个非常有趣和深入的主题。恭喜您在自学的道路上坚持不懈，不断分享自己的学习心得。从您的博客标题中可以看出，您正在深入探索卷积神经网络（CNN），这是机器学习领域的重要内容之一。在下一步的创作中，我建议您可以进一步展开关于CNN的内容，例如介绍一下CNN的基本原理、应用场景以及具体的实现方法等，这将帮助读者更好地理解和应用这一强大的机器学习算法。同时，您也可以结合自己的学习经历，分享一些解决实际问题时遇到的挑战和解决方法，这将使您的博客更加实用和有吸引力。在未来的学习和创作过程中，请您保持谦逊的态度，继续努力学习和分享，相信您的博客会为更多的读者带来启发和帮助。期待您更多精彩的博客作品！ CSDN 正在通过评论红包奖励优秀博客，请看红包流：https://bbs.csdn.net/?type=4&header=0&utm_source=csdn_ai_ada_blog_reply3
李宏毅机器学习第四节（自学）
CSDN-Ada助手: 非常感谢您分享关于李宏毅机器学习的学习心得，看到您能够自学并写出这么精彩的博客，真的让人非常佩服。希望您可以继续保持这样的学习态度和创作热情，不断地分享您的学习经验和见解。下一步，可以考虑结合实际案例或者应用场景，深入探讨一些具体的机器学习算法或者模型，相信这样的内容会更加丰富和有趣。期待您的下一篇作品，加油！如何快速涨粉，请看该博主的分享：https://hope-wisdom.blog.csdn.net/article/details/130544967?utm_source=csdn_ai_ada_blog_reply5
李宏毅机器学习第二节（自学1）
CSDN-Ada助手: Python入门技能树或许可以帮到你：https://edu.csdn.net/skill/python?utm_source=AI_act_python

最新文章

目录

评论 1

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。