关于Machine Learning

这篇文章主要用于记录在学习machine learning课程时的点点滴滴。主要记录学习过程中的疑问，以列表的方式呈现。除此之外，也会记录一些其他有意思的事情。

在Coursera上看课程的视频当然很方便，做一些有互动性质的随堂quiz也比较有助于对课程的理解。但是Coursera需要注册账号，可能对于只是想随便看看的人来讲还是太麻烦了。还好油管（YouTube）上有个哥们Alireza Saberi把Andrew Ng的视频都传了上去。链接不好直接给，关键词是“Machine learning coursera”，^_^，只能帮大家到这了。这位Saberi给课程视频编了号。比方说W5 7，表示第五周的第7个视频。我们用还是尊重Coursera上这门课Andrew去分的结构来对视频编号吧。Andrew给每个week的课分成了几个Lesson。大多数Lesson里面都有课程视频，单并不是每一个都有。有的Lesson里面只有Quiz和Assignment。对于我这份笔记来说，W5-2-1表示第五周第二个Lesson的第一个视频。大多数情况下我会连视频的名称一并写出，如W5-2-1 Implementation Note: Unrolling Parameters。这样也便于大家去油管上找对应的视频看。

1. Andrew Ng有一个地方好像是错了，那种形状的曲线不是二次函数的形状，反倒是平方根函数形状。
2. Andrew 在讲神经网络的时候，给大家大致讲了一下神经元的知识。由于是拿英文讲的，满篇子的单词都不认识。所以去油管（YouTube）上补了一下有关神经元的知识。搜到这个视频： https://www.youtube.com/watch?v=Y_Fvp03UFuQ 。 啧啧啧，台湾女老师讲的。听得我骨头都酥了。估计台湾学生会很习惯。
3. 在看Coursera上这门Machine Learning课程提供的matlab代码时，发现这个代码是一个叫Fang Qianqian的人写的。Qianqian吗，第一反应应该是个女生叫倩倩。就好奇谷歌了一下这位神人。毕竟贡献machine learning相关的代码这种事如果是一个女生干出来的就还挺新鲜。可谁知，这是位地地道道的汉子，房谦谦。估计取名字的时候取谦谦君子之意。这位谦谦哥居然是研究用machine learning算法分析乳腺X光图的（可能不是X光，原谅我词穷把医疗影像类的东西都叫X光了）。链接为： http://nmr.mgh.harvard.edu/~fangq/ 。 看人家画的图，我觉着这位老兄好性福啊。O(∩_∩)O~
4. 在classification类型的算法中，为什么要用sigmoid function这样一个奇怪的函数来表示“概率”。他真的是概率吗，这个函数和一般概率分布的累积分布函数（cdf）又有什么关系。
5. 为什么神经网络类型的结构性能要比一般的classification好？这种结构的优越性源自何处？多级的使用sigmoid function有哪些好处？
6. 为什么基于sigmoid函数的模型的cost函数要长成那副模样。敲上去和information theory里面的entropy有点像啊，有啥关系不咧？