李宏毅《深度学习》笔记（一）

李宏毅《深度学习》笔记（一）

一、机器学习介绍

1.人工智能、机器学习、深度学习的概念区分

• 人工智能（Artificial Intelligence）：这是一个很广泛的概念，这个词在1950年就有了。这个词意味着一个人类长远以来的目标，希望机器可以跟人一样的聪明，因此人工智能是我们想要达成的目标。
• 机器学习（Machine Leaning）：而对于如何实现人工智能？人们希望让机器能够像人一样去学习。因此机器学习是想要达成目标的手段，希望机器通过学习方式，让机器跟人一样聪明。
• 深度学习（Deep Learning）：深度学习和机器学习有什么关系呢？深度学习就是机器学习的其中一种方法。

2.如何实现人工智能

生物学上说：生物的行为取决于两件事，一个是后天学习的结果，不是后天学习的结果就是先天的本能。同理，机器也有先天学习和后天学习两种途径。

• 先天学习：机器的先天学习就是来自于他的创造者，帮它实现设立好规则。比如If…then…规则，就是程序员给给机器的先天学习，即hand-crafted rules。
• 后天学习：要做的其实是让机器他有自己学习的能力，也就我们要做的应该machine learning的方向。讲的比较拟人化一点，所谓machine learning的方向，就是你就写段程序，然后让机器人变得了很聪明，他就能够有学习的能力。接下来，你就像教一个婴儿、教一个小孩一样的教他，你并不是写程序让他做到这件事，你是写程序让它具有学习的能力。

其实靠先天学习是万万不够的。使用hand-crafted rules的坏处就是：使用hand-crafted rules你没办法考虑到所有的可能性，它非常的僵化，而用hand-crafted rules创造出来的machine，它永远没有办法超过它的创造者人类。人类想不到东西，就没办法写规则，没有写规则，机器就不知道要怎么办。所以如果一个机器，它只能够按照人类所设定好的hand-crafted rules，它整个行为都是被规定好的，没有办法freestyle。如果是这样的话，它就没有办法超越创造他的人类。讲个笑话，