全文共2703字,预计学习时长7分钟
图源:unsplash
或许这是你第一次听到人工智能前面加“可解释的”这个形容词,但其实它的涵义你一定能
理解。可解释的人工智能(XAI)是指构建AI应用程序的技术和方法,人们借此以理解它们做出特定决策的原因。换句话说,如果我们可以从AI系统获得有关其内部逻辑的解释,则该系统可视为可解释的人工智能系统。
可解释性是一个新的属性,在人工智领域初露锋芒。首先,让我们深入探讨一下这个问题的技术根源。
人工智能是改善生活的增强器
无可置疑,技术进步便于人们获得更优质的服务。技术是我们生活中不可或缺的一部分,而且不管你喜欢与否,它对生活的影响只会越来越大。
继计算机和互联网之后,人工智能再次改变了我们的生活。从五六十年代数学领域的奋力尝试,到九十年代的专家系统,再到现在人类在AI领域取得的成果——可乘坐自动驾驶汽车,使用谷歌翻译与外国人交流,利用各种应用程序修图,使用智能推荐算法寻找最佳餐厅等等。毫无疑问,人工智能对我们生活的影响力正在逐步提高,成为生活中不可或缺的一部分。
但与此同时,人工智能系统错综复杂,普通用户几乎无法理解其工作原理。我确信只有不到1%的谷歌翻译用户知道它是如何工作的,但我们仍信任并广泛使用该系统。但我们应该了解AI系统的运行路径,或者至少,能够在必要的时候获取其有关信息。
过于注重准确性
数百年来,数学家和统计学家一直在研究传统的机器学习算法,如线性回归、决策树和贝叶斯网络。这些算法直观易懂,且发展成熟,基于其中任何一项传统算法进行的决策,都十分容易解释,但它们的精确度却十分有限。因此,我们的传统算法虽解释性高,但成就有限。
在麦卡洛克-皮茨神经元之后,一切都改变了,这一发展促进了深度学习领域的创立。深度学习是人工智能的子领域,专注于利用人工神经网络复制大脑中神经元细胞的工作机制。得益于强大的计算能力和优化的开源深度学习框架,我们能够构建高精确性的复杂神经网络。
为达到尽可能高的精确度,人工智能研究人员开始竞相研究。这些研究催生了许多出色的AI产品,但也有其弊端——低解释性能力。
神经网络极其复杂,它们可以由数十亿个参数来构建。例如,Open AI革命性的NLP模型GPT-3有超过1750亿的机器学习参数,从