pytorch深度学习框架笔记（一）-简介

   “ 理解复杂世界”是生活在这个星球的所有人类共同愿望”。
   4000多年前，埃及人通过观察发现，当夏天黎明天狼星于东方升起，尼罗河就会开始洪水泛滥。中国的先民由于积累了大量的观察记录，发展出了用来指代理性思考于脑中仿真的文字符号——“预”。“预”字的左边（予）表示“通过”，右边（页）表示“头脑”，合起来是指让想象情景过脑，这也象征了人类独特的智能行为——“预测”。
   随着智能的逐步积累，人类观察世界的工具也有了质的飞越，从最早的肉眼观察记录，逐步发展出了通过实验和理论来推演思辨的方式。但是随着知识的累积，人类发现世界上难以理解的事情与日俱增，这时才意识到过去犯了一个严重的错误，那就是企图用“简化的模型来描述世界”。
  问题是，当这个世界不简单的时候，任何企图化繁为简的举动都会让我们离真实越来越远
   既然简化模型这条路不可行，那就直接面对这个世界的复杂性吧！深度学习开山鼻祖辛顿为我们带来了挑战复杂性的最新武器。从语音识别，机器视觉，到自然语言，这些我们过去认为机器不可能做到的任务，都被深度学习逐步破解。深度学习的关键正是计算机不再靠只靠人为的规则编程，而是用数据进行编程，重现这个世界的复杂性。
  深度学习的关键正是计算机不再靠只靠人为的规则编程，而是用数据进行编程，重现这个世界的复杂性。
  但是现实中的深度学习工具并不友好，2017年初，Facebook公司推出了全新的深度学习框架——pytorch，在深度学习顶级会议LCLR的提交论文中，提及的pytorch的论文数从2017年的87篇激增到2018年的252篇，而提及TensorFlow的论文数量却没有太大起伏，从2017年的228篇到2018年的266篇，甚至快追平了。同时，随着pytorch1.0的问世以及ONNX（Open Neural Network Exchange）深度学习开发生态的逐步完备，pytorch无疑成为众多深度学习框架中值得期待的明日之星。

   Tips1: ICLR，全称为「International Conference on Learning ，2013 年由深度学习三座大山中的 Yoshua Bengio 和 Yann LeCun 牵头创办。众所周知，Yoshua Bengio 主管着蒙特利尔大学人工智能实验室，也就是 MILA，它是世界上最大的人工智能研究中心之一。Yann LeCun 是 Facebook 人工智能研究院的院长，被称为卷积神经网络之父。
  Tips2:今年是第八届大会，虽举办的年限比较短，但已经被学术研究者们广泛认可，被认为是深度学习的顶级会议。ICLR 2020 共收到了 2594 篇论文投稿，最终共有 687 篇被接收，其中 48 篇 orals，108 篇 spotlights，531 篇 poster；录取率为 26.5%，相比去年的 31.4% 略有降低。