深度学习attention原理_浅谈深度学习的工作原理

机器学习

机器学习系统是训练出来的，而不是明确地用程序编写出来的，将与某个任务相关的许多示例，输入到机器学习系统，它会在这些示例中找到统计结构，从而最终找到规则将任务自动化。

比如，你想为度假照片添加标签，并且希望将这项任务自动化，那么你可以将许多人工打好标签的照片输入到机器学习系统，系统将学会把照片与特定标签联系在一起的统计规则。

在经典的程序设计中，人们输入的是规则（程序）和需要根据这些规则进行处理的数据，系统输出的是答案。机器学习是一种新的编程范式，利用机器学习，人们输入的是数据和从这些数据中预期得到的答案，系统输出的是规则。这些规则随后可应用于新的数据，并使计算机自主生成答案。

head_first_deep_learning_principle_01.png

从数据中学习表示

为了给出深度学习的定义并搞清楚深度学习与机器学习方法的区别，我们首先需要知道机器学习算法在做什么，我们需要以下三个要素来进行机器学习：

• 输入数据点。例如，你的任务是语音识别，那么这些数据点可能是记录人们说话的声音文件。如果你的任务是为图像添加标签，那么这些数据点可能是图像。
• 预期输出的示例。对于语音识别任务来说，这些示例可能是人们根据声音文件整理生成的文本。对于图像标记任务来说，预期输出可能是“猫“，”狗”之类的标签。
• 衡量算法效果好坏的方法。这一衡量方法是为了计算算法的当前输出与预期输出的差