美国三院院士、加州大学伯克利分校统计系主任Michael I. Jordan介绍[推荐的机器学习书单等] (公号可下载PDF)
科学Sciences导读:论总引用数他不是最高的,但他的很多作品都堪称开山之作。这波DeepLearning他没有活跃参与其中,但深度学习领域四大金刚几乎都跟他有关,因此被称为DeepLearning影子大佬。他学生中很多已或成为山头,或成为中坚,根繁叶茂,桃李天下。如Andrew Ng和Daphne Coller等。他是谁呢?
他就是人工智能领域泰斗、Deep Learning影子大佬、深度学习奠基者、AlphaGo们的祖师爷、美国科学工程艺科三院院士——加州大学伯克利分校MichaelI. Jordan教授。AI时代即将开启,新来者犹可追赶,我们先了解一下这位业界泰斗的简历,再读一下AI乔丹教授推荐的机器学习书单、Michael I. Jordan如何谈人工智能研究的机遇与挑战,以及这周受聘北京大学名誉教授的新闻。
美国三院院士、加州大学伯克利分校统计系主任Michael I. Jordan介绍 [机器学习泰斗乔丹推荐的机器学习书单,教授谈AI研究的机遇与挑战,受聘北大] (13150字)目录
A美国三院院士、AI泰斗、机器学习奠基者Michael I. Jordan教授简历 (4894字)
1 传记Biography
2 作品Work
3 开设课程Courses
4 荣誉和获奖Honorsand awards
5 发表作品Publications
6 网络评论NetworkNotes
B Michael I. Jordan列出的机器学习系列必读12本书单 (1741字)
C Michael I. Jordan讲座:人工智能的研究充满机会和挑战! (5507字)
人工智能的四个观点
人工智能哪些可以实现,哪些是不可以实现?
人工智能的未来十年愿景
关于人工智能,我们应该担心什么?
人工智能目前有哪些重要的技术
机器学习存在的挑战
个性化与机器学习
D加州大学伯克利分校MichaelI. Jordan被北京大学聘请为名誉教授 (671字)
参考文献(450字)Appx(626字).数据简化DataSimp社区简介
A美国三院院士、AI泰斗、机器学习奠基者Michael I. Jordan教授简历 (4894字)
图1 迈克尔·I.·乔丹(Michael I. Jordan)
迈克尔·乔丹MichaelI.Jordan是加州大学伯克利分校UCB电气工程与计算机科学系、统计系的陈丕宏杰出教授(Pehong Chen DistinguishedProfessor),美国科学院、美国工程院、美国艺术与科学院三院院士,机器学习领域唯一一位获此成就的科学家。同时,他还是美国科学进步协会的资深会员。他被数理统计研究所任命为奈曼讲师和奖章讲师。多家国际顶级期刊和国际顶级学术会议(AAAS、AAAI、ACM、ASA、CSS、IEEE、IMS、ISBA、SIAM)会士。曾获IJCAI研究卓越奖(IJCAI Research Excellence Award)(2016)、David E.Rumelhart奖(2015),以及ACM/AAAI的Allen Newell奖(2009)等。2016年,Jordan教授被Semantic Scholar评为CS领域最具影响力学者。
自1988年到1998年在麻省理工学院任教授,研究方向包括了计算学、统计学、认知科学以及生物科学,最近几年集中在贝叶斯非参数分析,概率图模型,谱方法,核方法和在分布式计算系统、自然语言处理、信号处理和统计遗传学等问题的应用上。指出了机器学习与统计学间的联系,并推动机器学习界广泛认识到贝叶斯网络的重要性。他还以近似推断变分方法的形式化、最大期望算法在机器学习的普及方面的工作而知名。其研究兴趣涵盖机器学习、统计、认知和生物科学等领域,近年来尤其集中在非参数贝叶斯分析、概率图模型、谱方法以及分布式计算、自然语言处理、信号处理和统计遗传学等方面。[1]
成名作:隐狄利克雷分配LatentDirichlet allocation。值得注意的奖项:美国美国国家科学院研究员Fellow of the U.S. NationalAcademy of Sciences[1],美国人工智能协会会员AAAI Fellow (2002),鲁梅哈特奖(2015)Rumelhart Prize (2015) [2],国际人工智能联合会议顶级优秀科研奖International JointConference on Artificial Intelligence, IJCAIAward for Research Excellence (2016)。
博士生导师Doctoral advisor:戴维·鲁梅尔哈特(David Rumelhart)、唐纳德·诺曼(Donald Norman)。
博士生Doctoral students至少31个:①RobertJacobs, ②Wey Fun, ③Zoubin Ghahramani, ④Eric Loeb, ⑤PhilipSabes, ⑥John Houde, ⑦TommiJaakkola, ⑧Marina Meila, ⑨Emanuel Todorov, ⑩Andrew Ng吴恩达, Eric Xing, Francis Bach, David Blei, Gert Lanckriet, Jon McAuliffe, Brian Vogel, AliceZheng, Patrick Flaherty, Barbara Engelhardt, XuanLong Nguyen, Romain Thibaux,Ben Blum, Simon Lacoste-Julien, Guillaume Obozinski, Alexandre Bouchard-Cote,Sriram Sankararaman, Aleksandr Simma, Junming Yin, Lester Mackey, TamaraBroderick, Daniel Wolpert等。其他著名学生:Lawrence Saul (postdoc), Martin Wainwright (postdoc), Yee Whye Teh (postdoc), Ben Taskar (postdoc), Yoshua Bengio (postdoc), Zhihua Zhang张志华, Professor, Peking University 等。[2]
2016年9月10日著名社区Reddit机器学习板块“Ask Me AnyThing”活动,Michael I.Jordan教授回答了机器学习爱好者Reddit用户投票决定问答先后顺序的许多问题。[3]
Jordan教授在机器学习领域里一个重要贡献就是关于参数化模型和非参数模型的研究,他认为非参数模型还没有开始发展。问及这个话题时,他指出主要是相关领域学者根本没有尝试过。他以LDA模型为例详细讲述了这两种模型。注意到LDA(隐含狄利克雷分布)是一个带参数的贝叶斯模型,其中包括K个假设已知的主题。而非参数版本的LDA被称为HDP(隐含狄利克雷过程)。从实际实现上看,从LDA到HDP仅仅是一小步。LDA提出至今,LDA已经被用于数千种应用了。然而,使用LDA模型并不比使用HDP模型具有更多优势,有时候甚至恰恰相反。Jordan教授认为,贝叶斯非参数模型领域的推广真正需要的是一个简单的介绍——写出它的数学模型,并且展示它的美丽——目前这样的介绍并不存在。所以,他和他的同事Yee Whye The正在从事这项工作,并基本上写完了这样的介绍,可能在秋天发行出来。Jordan教授非常看好非参数模型,他说到“贝叶斯非参数模型刚刚在机器学习领域里点亮了未来,将如同经典的非参数模型有着广阔的舞台和发展前景”。这些模型能够在复杂性上持续增长,就像在信息时代数据积累看上去那么自然。如果这些模型能够得到很好的控制,并且聚焦在在带参数的子模型,非参数模型将会越来越流行。[4]
1 传记Biography
生于1956年2月25日(61岁),住址:加利福尼亚州伯克利县,机构:加利福尼亚大学伯克利分校(Universityof California, Berkeley),加利福尼亚大学圣地亚哥分校(Universityof California, San Diego),麻省理工学院(MassachusettsInstitute of Technology),母校:加利福尼亚大学圣地亚哥分校(University of California, San Diego),论文:表征连续性能学习(1985)The Learning of Representations forSequential Performance(1985),个人网站:www.cs.berkeley.edu/~jordan。[5]
Jordan教授1978年路易斯安那州立大学心理学士优异成绩毕业,1980年亚利桑那州立大学数学硕士,1985年加利福尼亚大学圣地亚哥分校获得认知科学博士学位。[6]在加利福尼亚大学圣地亚哥分校,他是David Rumelhart的学生,上世纪80年代的PDP组成员。Jordan目前是加利福尼亚大学伯克利分校的正教授,任命他的地方分成统计部和EECS部。他是1988-1998期间,麻省理工学院的教授。[6]
2 作品Work
1980年代,Jordan开始发展递归神经网络CNN作为认知模型。但近年来,他的作品较少受认知影响,更多是从传统统计学背景出发。他在机器学习领域提出了Bayesian networks贝叶斯网络,众所周知,指出了机器学习和统计之间的联系。Jordan教授在在近似推理的变分方法的形式化(the formalisation ofvariational methods for approximate inference)[3]和机器学习期望最大化算法的普及性的方法(the popularisation of the expectation-maximization algorithm inmachine learning)[8]神经信息处理系统大会(Conferenceand Workshop on Neural Information Processing Systems)NIPS就是他及他弟子搞的。
2.1 机器学习期刊辞职Resignation from MachineLearning Journal
2001年,迈克尔·乔丹等人辞去了机器学习编辑委员职务。在一封公开信中,他们主张减少准入限制,并承诺支持一本新的开放存取期刊——机器学习研究杂志the Journalof Machine Learning Research (JMLR),由莱斯利·凯尔步灵(Leslie Kaelbling)创办,以支持机器学习领域进化。[9]
3 开设课程Courses
Stat 210B,Theoretical Statistics, Spring 2017
Stat 210A,Theoretical Statistics, Fall 2015
CS 174, Combinatoricsand Discrete Probability, Spring 2015
CS 281A / Stat 241A,Statistical Learning Theory, Spring 2014
Stat 210B, TheoreticalStatistics, Spring 2011
Stat 260/CS 294,Bayesian Modeling and Inference, Spring 2010
CS 294, PracticalMachine Learning, Fall 2009
CS 170, EfficientAlgorithms and Intractable Problems, Fall 2005
CS 281B / Stat 241B,Advanced Topics in Learning and Decision Making, Spring 2004
Stat 153,Introduction to Time Series Analysis, Fall 2001
CS 172, Computabilityand Complexity, Fall 1999
4 荣誉和获奖Honors andawards
Jordan获得了许多奖项,包括国际机器学习会议the InternationalConference on Machine Learning (ICML 2004)最佳学生论文奖[10] (with X. Nguyen and M. Wainwright);美国控制会议the American ControlConference (ACC 1991)最佳论文奖(with R. Jacobs);the ACM- AAAI Allen Newell Award, the IEEE Neural Networks Pioneer Award, and an NSF Presidential Young Investigator Award. 2010年成为计算机器协会研究员a Fellow of the Associationfor Computing Machinery,“为机器学习的理论和应用做出贡献”[11]
a member of theNational Academy of Science, a member of the National Academy of Engineeringand a member of the American Academy of Arts and Sciences. a Neyman Lecturerand a Medallion Lecturer by the Institute of Mathematical Statistics. the DavidE. Rumelhart Prize in 2015 and the ACM/AAAI Allen Newell Award in 2009.语义学者Semantic Scholar项目2016年根据文献分析Who’s theMichael Jordan of computer science? New tool ranks researchers'influence定为CS领域最具影响力学者"most influential computerscientist"[12]
5 发表作品Publications
发表论文(按年代顺序chronological):这里只列出2018年、2017年的,其余请看Jordan教授UCB个人主页www.cs.berkeley.edu/~jordan。
[Bayesian Nonparametrics] [ Big Data and Systems] [ Classification] [Computational Biology]
[Control and Reinforcement] [ Dimension Reduction] [ Graphical Models] [ HumanMotor Control]
[Information Retrieval] [ Kernel Methods] [ Language and Speech] [ MixtureModels] [ Neural Networks]
[Optimization] [ Ranking] [ Spectral Methods] [ Tutorials] [ VariationalMethods]
2018
Artificial intelligence: The revolutionhasn't happened yet. M. I. Jordan. Medium, 2