BAAI 2020 北京智源大会 | Yolanda Gil | Thoughtful Artificial Intelligence

回放地址

2020 北京智源大会 机器学习专题论坛

报告内容

概述

Yolanda Gil( AAAI主席，南加州大学信息科学研究所科研副主任)，本次talk的题目是Thoughtful Artificial Intelligence: Forging A New Partnership for Data Science and Scientific Discovery(考虑周到的人工智能：为数据科学和科学发现建立新的合作伙伴关系)。Yolanda围绕四个方面进行报告，分别是：
1，Knowledge technologies are increasingly important
2，AI offer systematic,correct,unbiased approaches and rigorous reporting
3，AI will excel at assembling fragmented knowledge about complex systems and pursue interdisciplinary frontiers
4，Thoughtful AI will exploit knowledge technologies for effective human-AI partnerships
最后，Yolanda通过人工智能作为科学伙伴需要什么，人工智能需要做些什么来帮助我们解决这些大问题列举了人工智能作为科学伙伴的7个原则。

Part Ⅰ Knowledge technologies are increasingly important

越来越多的人对knowledge technology 感兴趣，比如：在自然语言处理中，从自然语言中提取常识也越来越有趣，许多人对对立（adversarial）的例子感兴趣；也有越来越多的人对计算机视觉感兴趣；当然还有机器学习和数据科学。

但同时收集和更新人类所有的知识是一个巨大的挑战。

Part Ⅱ AI offer systematic,correct,unbiased approaches and rigorous reporting

这一部分主要介绍了人们在使用data进行research的时候容易犯一些错误，比如：Not Systematic，
Errors，Biases，Poor reporting，但是AI能够避免这些错误。

Yolanda以她们以前做的一个project为例，给AI一个hypothesis，由AI自动来寻找method和data来检测这个hypothesis，对结果进行推理，然后产生一个修正的假设，如果合适的话，再加上这些结果的置信值。
人类researcher的分析很难在这方面做到彻底，而AI可以尝试每个搜索引擎，尝试所有的可能，在科学的搜索和优化方面做的更好。

Part Ⅲ AI will excel at assembling fragmented knowledge about complex systems and pursue interdisciplinary frontiers

Yolanda说她相信AI未来将会聚集在分析跨学科的数据上，而不仅仅是某个特定学科。比如说研究地球的生态系统，或者是宇宙的起源，我们需要将不同学科的知识整合在一起，所以这需要我们认真的来看待AI。

接着Yolanda从牛顿，爱因斯坦时期发一篇论文或者写一部著作一个人完成，到现在的ATLAS项目需要数千人的团队共同合作，说明了科学研究正在变得越来越复杂。所以AI怎样才能帮助我们处理这些？

拿蛋白质研究的例子来看，仅仅一个蛋白质研究的lab就有很多方向和方法，每个团队的研究方法都不同，几乎没有重叠。

根据调查，对数据分析专业人员的需求越来越高。

Yolanda举例一个粮食短缺模型分析的例子，我们需要从众多方面来对这个模型进行建模，比如：气候，水文，经济等，不同方面的模型又大相径庭，想把这些模型整合到一起可能需要数年的时间，而且要求也在不断增加。

Yolanda的团队目前正在尝试使用AI对这些模型进行更加高效地整合。

当我们面对跨学科，零碎的知识时，很难将这些知识整合到一起，AI可能会在这里面发挥重大的作用。

Part Ⅳ Thoughtful AI will exploit knowledge technologies for effective human-AI partnerships

在最后一部分我们将来思考一下真正能make a difference的AI研究方向。
人类和计算机各有所长，拿象棋举例，一个Player可以是人类和计算机的任意组合，我们怎样来设计最好的Player？在Yolanda看来，最好的Player并不是最好的象棋大师和最好的超级计算机组合而成，事实上即使是拥有一般象棋水平的棋手，如果他们知道对手将会下出什么样的棋，应该使用什么样的program进行对弈，如果有一个好的过程，这就会是一个更好的Player。

所以人工智能作为科学伙伴需要什么？人工智能需要做些什么来帮助我们解决这些大问题？Yolanda列举了下面7条原则。

1)，Rationality Principle(理性原则)
AI必须有一些决定其行为的知识.这意味着它必须有一点可预测性,所以你必须理解系统是怎么运行的。

2)，Context Principle(上下文原则)
今天的AI,给了它们一些任务,它们不知道任务是什么,也不知道任务意味着什么。AI最好要知道它们要回答什么样的问题,问题之间的关系,这个问题的目的是什么?这个问题有多重要？然后我们可以计算我们在科学上可以问什么样的问题, 这些问题遵循什么样的模式,不同学科遵循什么的方法？
所以不仅仅是关注于某个问题，而是关注这个问题是怎么来的。

3)，Initiative Principle(主动性原则)
当你研究一个非常复杂的问题时，你不想把所有的事情都教给AI，或者向AI解释所有的东西，所以它们需要在学习方面做到self-learning，学习新的知识，并将新的知识和自己已有的知识结合起来更新自己的知识。

4)，Network Principle(网络原则)
我们的AI系统应该生活在一个网络资源和科学资源知识网络的生态系统中,它们能够访问数据库，获取
不同类型的知识，还能将它们的结果放到网络中。

5)，Articulation Principle(清晰原则)
今天我们听到很多解释人工智能系统的重要性,我想这在科学上是必要的,因为科学家们总是希望听到
的不仅仅是如何得出结论的解释,而是这个发现如何与文献中的所知联系起来。
但是我这里说的更进一步。人工智能系统应该能够向不同的受众阐明和传达他们的发现。

6)，Ethical Principle(道德伦理原则)
这一点也是相当重要。

7)，System Principle(系统原则)
我们为特定的任务或目的创建系统，有时我们训练系统跨几个任务工作，把人工这需要智能系统当作应该是可以被组合的系统，或者是在不同层次上可以做事情的系统。所以连接不同的人工智能能力非常重要。