深度学习001 绪论简介+深度学习之前机器学习流行的算法

相关链接

• 线性回归的手动实现
• pytorch线性模型+Softftmax多分类问题
• 对比损失，三元组损失，中心损失
• ……
• 经典任务
• https://pytorch.org/docs/stable/_modules/index.html

绪论

$$深度学习之前机器学习流行的算法$$

应用

教材：深度学习的重要人物

2006年，多伦多大学的教授Geoffrey Hinton提出了深度学习。他在世界顶级学术期刊《Science》上发表了一篇论文《Reducing the dimensionality of data with neural networks》[4]，论文中提出了两个观点：①多层人工神经网络模型有很强的特征学习能力，深度学习模型学习得到的特征数据对原始数据有更本质的代表性，这将大大便于分类和可视化问题；②对于深度神经网络很难训练达到最优的问题，可以采用逐层训练方法解决。将上层训练好的结果作为下层训练过程中的初始化参数。在这一文献中深度模型的训练过程中逐层初始化采用无监督学习方式。

问题：机器学习的可解释性，比如在图像分割领域为什么有效?

答：模型的可解释性一直是一个值得关注的地方，大家都知道这是一个黑盒，面对一个模型无法知道其为什么工作，为什么不工作。对于深度学习来讲，这一块我们做的是不好的，对于机器学习来讲，我们对一些简单的模型有一些理解。
对于问题：“机器学习在图像分割领域为什么有效？”，有效和可解释性其实是两个问题，对于有效性，在提出模型时就产生了相应的解释，可解释性则是另一个问题，人如何理解，如何调整偏差。

问题：“领域专家是什么意思？”

答：比如一个农业专家，提出需求，并解释什么情况下树木生长的号

问题：“深度学习无法用数学规范表示吗？”

答：深度学习需用数学表示，但数学解释工作困难

问题：“符号学能和深度学习融合起来吗？”

答：在模型比较复杂的情况下，能够做一些推理的工作，比如一些图神经网络

问题：“数据科学教和AI专家的区别？”

答：没有很大的区别，资深的数据科学家可认为是AI专家

问题：“如何寻找自己的领域的paper”

答：每天大约有100篇出来，今天暂时不讲，看以后有没有机会看自己的一些做法