零基础入门深度学习（一）：用numpy实现神经网络训练

授课讲师 | 毕然 百度深度学习技术平台部主任架构师

授课时间 | 每周二、周四晚20:00-21:00

编辑整理 | 刘威威

内容来源 | 百度飞桨深度学习集训营

 

本课程是百度官方开设的零基础入门深度学习课程，主要面向没有深度学习技术基础或者基础薄弱的同学，帮助大家实现从0到1的跨越。从本课程中，你将学习到：

1. 深度学习基础知识

2. numpy实现神经网络构建和梯度下降算法

3. 计算机视觉领域主要方向的原理、实践

4. 自然语言处理领域主要方向的原理、实践

5. 个性化推荐算法的原理、实践

本周为开讲第一周，百度深度学习技术平台部主任架构师毕然老师，利用两次课的时间，讲解了三个知识点：

1. 人工智能、机器学习、深度学习三者的关系，并简要介绍了深度学习的发展历史以及未来趋势。

2. 介绍构建深度模型的五个步骤，并手把手教大家使用numpy实现神经网络。

3. 原理介绍和代码实践并行，详细介绍了使用numpy实现梯度下降算法。

本文总结了毕然老师的讲课要点，不免疏漏一些生动的讲课案例，感兴趣的同学可从文末链接中直接观看课程。

01

深度学习介绍

 

对于深度学习初学者来说，容易遇到三个入门级问题：

1. 人工智能、机器学习、深度学习三者之间关系是什么？

2. 一般的机器学习方法是什么？

3. 为什么那么多人看好深度学习，其未来的发展趋势是什么？

本次课程在第一讲中则优先解决这些问题。首先对第一个问题，以人工智能、机器学习、深度学习三者的关系开始。三者覆盖的技术范畴是逐层递减的，人工智能是最宽泛的概念，机器学习则是实现人工智能的一种方式，也是目前较有效的方式。深度学习是机器学习算法中最热的一个分支，在近些年取得了显著的进展，并代替了多数传统机器学习算法。所以，三者的关系可用下图表示，人工智能 > 机器学习 > 深度学习。

图1：人工智能、机器学习和深度学习三者之间的概念范围

其次，对于第二个问题，一般的机器学习方法是什么？

课程以“机器从牛顿第二定律实验中学习知识”为案例，生动的讲解了机器学习（监督学习）到底是怎样的一种技术方法。

举例类比，机器如一个机械的学生一样，只能通过尝试答对（最小化损失）大量的习题（已知样本）来学习知识（模型参数ｗ），期望用学习到的知识ｗ组成完整的模型，能回答不知道答案的考试题（未知样本）。最