Hinton最新专访:别让AI解释自己,AI寒冬不会再来

Hinton最新专访:别让AI解释自己,AI寒冬不会再来

 

https://www.toutiao.com/a6635065473450902029/

 

量子位 2018-12-15 12:02:44

今天,《连线》发表了一篇专访Geoffrey Hinton的长文。

在这次加拿大G7人工智能会议上的访谈里,Hinton谈到了对谷歌军方合同的“私下”抗议,还提出了对现在AI研究的一些看法,比如:

不要让AI解释自己,那简直是个灾难。人类大多数时候都没法解释自己。

发展AI需要新型的计算硬件(他指的并不是TPU)。

我们在研究中应该追求“新想法”,不能一味看效果。从长远来看,一个全新的想法比一个微小的改进更有影响力。

另外,Hinton还说:不,不会再有AI寒冬了。

 

 

以下是采访实录:

Wired:加拿大总理特鲁多在G7大会上说,人工智能带来了一些道德挑战,对此需要做更多工作,你怎么想?

Hinton我一直很担心致命自主武器的滥用。我认为,应该有一个类似于日内瓦公约的东西,像禁止化学武器一样禁止它们。就算不是每个国家都签署这个公约,实际上它也会起到像道德旗帜一样的作用。谁没签你是能看到的。

 

Wired:有一封抗议Google为国防部提供无人机图像识别服务的公开信,有4500名你的同事签了名。你签了吗?

Hinton作为一名Google高管,我认为我不应该公开表达对公司的不满,所以,我私下表达。我没有签公开信,而是找(Google联合创始人)谢尔盖·布林谈了谈。他说他对这个事情也不满,所以,这不是他们的追求。

WiredGoogle决定履行完这份合同,但是不会续签,还发布了一份AI指导方针,其中就包含了不能把这项技术用于武器。

Hinton:我认为Google的选择是正确的。各种各样的东西都需要云计算,想弄清底线设在哪确实很难。我对Google设置的底线很满意,那些原则我认为很有道理。

 

Wired:在日常场景里,比如在社会服务、医疗等领域用软件做决策的时候,人工智能也会带来道德问题。我们应该当心什么?

Hinton:我的专业领域是让这个技术管用,不是社会政策。这里面确实有一点和我的专业技能相关,就是判断监管者该不该坚持要求你能解释AI系统的工作原理。我认为那完全是个灾难。

在大多数事情上,人类都不能解释自己的原理。你招人的时候,是基于那些可以量化的东西来做判断,再加上各种”直觉”。人们根本不知道自己是怎么做到的。如果你让人类对自己的决定做出解释,就相当于逼他们编故事。

神经网络的问题也一样。你训练了一个神经网络,它学习的是几十亿数字,代表着从训练数据中提取的知识,输入一张图片,它给出正确的决定,比如说这是不是一个行人。但如果你要问“它为什么这么想”……如果图片里有没有行人能通过任何简单的规则来判断的话,这个问题早就解决了。

Wired:所以,我们怎么会知道什么时候能信任这些系统?

Hinton应该根据表现来管理它们。你可以用实验来检验有没有偏见。对于无人车,我认为人们现在已经算接受了,就算不知道一辆无人车怎么做到的,如果它发生的事故比人类司机少,那就是好事。我认为我们要像对人一样来对待这个问题:看他们表现如何。

 

https://arxiv.org/abs/1807.04587

 

Wired:在你上周发表的一篇论文中,提及应该进一步研究大脑中的学习算法。这是为什么?

Hinton大脑和现在大多数神经网络都不一样。人类大脑有大约100万亿个突触,而人工神经网络的权重通常要小1万倍。大脑使用大量的突触,从很少的样本中尽可能多的学习。而深度学习则是利用更少的神经元连接,从大量的样本中进行学习。

我认为大脑并不关注如何把大量知识压缩成几个突触的连接,而是关注如何使用大量的连接,快速的提取知识。

Wired:那应该如何构建更强大的机器学习系统?

Hinton我们需要转向另一种计算机。幸运的是,我这里就有一个。

(Hinton说罢把手伸到包里,掏出一块耀眼的大芯片。这个芯片是英国初创公司Graphcore的原型产品,这家公司致力于为机器/深度学习算法开发新型处理器。)

 

漂亮得不像实力派

大多数用来运行神经网络的计算机,甚至包括Google的专用硬件,都得使用RAM(来存储正在使用的程序)。从RAM中获取神经网络的权重代价高昂,所以一旦软件获得了权重,就会反复使用很多次。想要改变是一个成本巨大的事情。

而在Graphcore芯片上,权重存储在处理器的缓存而不是RAM中,所以不会被移走。因此某些探索会变得更容易。 比如我们可以搞个一万亿个权重的系统,但是每次训练只涉及数十亿的权重。这种方式更接近大脑。

 

Wired:AI和机器学习的快速增长,是否也带来了新的挑战?

Hinton现在一个巨大的挑战是,如果你想发表一篇机器学习论文,有一些条条框框的限制。如果你用的方法,看起来效果没那么好,那就很难发表。我不认为这能鼓励人们去思考全新的方法。

现在如果你发送了一个有着全新想法的论文,被接收的可能性非常低,或者会有一些无法理解你想法的初级同行在评审,或者一些看了太多论文的资深评审者,他们都不理解你的论文,并且认为是无稽之谈。我认为这非常糟糕。

我们应该追求的,特别是在基础科学会议上,是一些全新的想法。从长远来看,一个全新的想法比一个微小的改进更有影响力。出现这个问题的原因,就是资深人士太少,而年轻人太多。

Wired:这会破坏AI领域的进展么?

Hinton:用不了几年,问题就会自行解决。困难都是暂时的。大公司、大学都已经开始培育更多的人才,大学最终也会聘请更多的教授。

 

Wired:一些学者警告说,目前的AI热潮还会再次进入寒冬。

Hinton不,不会再有AI寒冬了。现在AI都已经在你的手机里了。当年经历AI寒冬时,人工智能还不是人们日常生活的一部分。而现在AI已经是了。

 

 

 

 

已标记关键词 清除标记
相关推荐
<p> <span style="color:#4d4d4d;">当前课程中博客项目的实战源码是我在 GitHub上开源项目 My-Blog,目前已有 2000 多个 star:</span> </p> <p> <span style="color:#4d4d4d;"><img src="https://img-bss.csdnimg.cn/202103310649344285.png" alt="" /><br /> </span> </p> <p> <span style="color:#4d4d4d;">本课程是一个 Spring Boot 技术栈的实战类课程,课程共分为 3 大部分,前面两个部分为基础环境准备和相关概念介绍,第三个部分是 Spring Boot 个人博客项目功能的讲解,<span style="color:#565656;">通过本课程的学习,不仅仅让你掌握基本的 Spring Boot 开发能力以及 Spring Boot 项目的大部分开发使用场景,同时帮你提前甄别和处理掉将要遇到的技术难点,认真学完这个课程后,你将会对 Spring Boot 有更加深入而全面的了解,同时你也会得到一个大家都在使用的博客系统源码,你可以根据自己的需求和想法进行改造,也可以直接使用它来作为自己的个人网站,这个课程一定会给你带来巨大的收获。</span></span> </p> <p> <span style="color:#4d4d4d;"><span style="color:#565656;"> </span></span> </p> <p> <span style="color:#e53333;"><span style="color:#e53333;"><strong>课程特色</strong></span></span> </p> <p> <span style="color:#e53333;"><span style="color:#e53333;"><strong> </strong></span></span> </p> <p> <span style="color:#4d4d4d;"><span style="color:#565656;"> </span></span> </p> <ol> <li> <span style="color:#565656;">课程内容紧贴 Spring Boot 技术栈,涵盖大部分 Spring Boot 使用场景。</span> </li> <li> <span style="color:#565656;">开发教程详细完整、文档资源齐全、实验过程循序渐进简单明了。</span> </li> <li> <span style="color:#565656;">实践项目页面美观且实用,交互效果完美。</span> </li> <li> <span style="color:#565656;">包含从零搭建项目、以及完整的后台管理系统和博客展示系统两个系统的功能开发流程。</span> </li> <li> <span style="color:#565656;">技术栈新颖且知识点丰富,学习后可以提升大家对于知识的理解和掌握,对于提升你的市场竞争力有一定的帮助。</span> </li> </ol> <p> <strong>实战项目预览</strong> </p> <p> <span style="color:#4d4d4d;"><span style="color:#565656;"><span style="color:#e53333;"><strong> </strong></span></span></span> </p> <p> <span style="color:#4d4d4d;"><img src="https://img-bss.csdn.net/202005150303066258.png" alt="" /><br /> </span> </p> <p>   </p> <p> <span style="color:#4d4d4d;"> </span> </p> <p> <span style="color:#4d4d4d;"><img src="https://img-bss.csdn.net/202005150305396930.png" alt="" /><br /> </span> </p> <p> <span style="color:#4d4d4d;"> </span> </p> <p> <span style="color:#4d4d4d;"><img src="https://img-bss.csdn.net/202005150305528842.png" alt="" /><br /> </span> </p> <p> <span style="color:#4d4d4d;"> </span> </p> <p> <span style="color:#4d4d4d;"><img src="https://img-bss.csdn.net/202005150306056323.png" alt="" /><br /> </span> </p>
包含以下内容: 第一部分 基础篇 001 第一个C程序 002 运行多个源文件 003 求整数之积 004 比较实数大小 005 字符的输出 006 显示变量所占字节数 007 自增/自减运算 008 数列求和 009 乘法口诀表 010 猜数字游戏 011 模拟ATM(自动柜员机)界面 012 用一维数组统计学生成绩 013 用二维数组实现矩阵转置 014 求解二维数组的最大/最小元素 015 利用数组求前n个质数 016 编制万年历 017 对数组元素排序 018 任意进制数的转换 019 判断回文数 020 求数组前n元素之和 021 求解钢材切割的最佳订单 022 通过指针比较整数大小 023 指向数组的指针 024 寻找指定元素的指针 025 寻找相同元素的指针 026 阿拉伯数字转换为罗马数字 027 字符替换 028 从键盘读入实数 029 字符行排版 030 字符排列 031 判断字符串是否回文 032 通讯录的输入输出 033 扑克牌的结构表示 034 用“结构”统计学生成绩 035 报数游戏 036 模拟社会关系 037 统计文件的字符数 038 同时显示两个文件的内容 039 简单的文本编辑器 040 文件的字数统计程序 041 学生成绩管理程序 第二部分 数据结构篇 042 插入排序 043 希尔排序 044 冒泡排序 045 快速排序 046 选择排序 047 堆排序 048 归并排序 049 基数排序 050 二叉搜索树操作 051 二项式系数递归 052 背包问题 053 顺序表插入和删除 054 链表操作(1) 055 链表操作(2) 056 单链表就地逆置 057 运动会分数统计 058 双链表 059 约瑟夫环 060 记录个人资料 061 二叉树遍利 062 浮点数转换为字符串 063 汉诺塔问题 064 哈夫曼编码 065 图的深度优先遍利 066 图的广度优先遍利 067 求解最优交通路径 068 八皇后问题 069 骑士巡游 070 用栈设置密码 071 魔王语言翻译 072 火车车厢重排 073 队列实例 074 K阶斐波那契序列 第三部分 数值计算与趣味数学篇 075 绘制余弦曲线和直线的迭加 076 计算高次方数的尾数 077 打鱼还是晒网 078 怎样存钱以获取最大利息 079 阿姆斯特朗数 080 亲密数 081 自守数 082 具有abcd=(ab+cd)2性质的数 083 验证歌德巴赫猜想 084 素数幻方 085 百钱百鸡问题 086 爱因斯坦的数学题 087 三色球问题 088 马克思手稿中的数学题 089 配对新郎和新娘 090 约瑟夫问题 091 邮票组合 092 分糖果 093 波瓦松的分酒趣题 094 求π的近似值 095 奇数平方的有趣性质 096 角谷猜想 097 四方定理 098 卡布列克常数 099 尼科彻斯定理 100 扑克牌自动发牌 101 常胜将军 102 搬山游戏 103 兔子产子(菲波那契数列) 104 数字移动 105 多项式乘法 106 产生随机数 107 堆栈四则运算 108 递归整数四则运算 109 复平面作图 110 绘制彩色抛物线 111 绘制正态分布曲线 112 求解非线性方程 113 实矩阵乘法运算 114 求解线性方程 115 n阶方阵求逆 116 复矩阵乘法 117 求定积分 118 求满足特异条件的数列 119 超长正整数的加法 第四部分 图形篇 120 绘制直线 121 绘制圆 122 绘制圆弧 123 绘制椭圆 124 设置背景色和前景色 125 设置线条类型 126 设置填充类型和填充颜色 127 图形文本的输出 128 金刚石图案 129 飘带图案 130 圆环图案 131 肾形图案 132 心脏形图案 133 渔网图案 134 沙丘图案 135 设置图形方式下的文本类型 136 绘制正多边形 137 正六边形螺旋图案 138 正方形螺旋拼块图案 139 图形法绘制圆 140 递归法绘制三角形图案 141 图形法绘制椭圆 142 抛物样条曲线 14
©️2020 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页