大家好,我是程序员老王。
年薪百万老码农,待过一线大厂创过业,带过团队,目前专注于一线技术。
分享程序员进阶路上的点滴,帮助大家提升认知,升职加薪。
所有文章首发于我的公众号【程序员云课堂】,喜欢文章的可以微信关注,也可以扫码加我的个人微信交流~
上篇讲了kk大佬在前几年对于人工智能的看法,他提出了自己对于AI并不像其他人一样恐惧的几个原因,他认为AI目前并不会替代程序员工作,今天再接着展开讲讲。
大部分情况下,基本都不会对AI重新编程
对于部分人来说,AI代替人类做出决策还不是最可怕的,可怕的是AI将以某种方式阻止人类改变它做出的决策。这是最大的不可控力。
工程师对AI进行再编程,目的是让它无法以任何方式自行更改,这样做看起来不可能实现。但从技术角度来说,这是可能的,只是不切实际。
大部分情况下,更可能发生的是AI会自行重新编程,以使人类无法更改它。但从另一个角度来看,一个不变的程序,是限制AI的发展的。
对于一帮工程师来说,创建一个无法被黑客入侵的系统,也将是让人难以置信的成就。不过仍然有可能,可能在某个很遥远的时间,但这只是众多可能性中的一种。
在开源模式下,AI可能会自行决定让任何人对其进行更改,或者它可以决定要与人的意志力合并。
其实人也是这样,在具有内省型自我意识的人类中,我们发现进化似乎将我们的思想设计为不容易自我重编程,也就是核心思维是很难改变的。
AI可能也需要同样的自我保护。
与其恐惧,不如把它当作机会
由于AI的发展,其代替人类执行了许多工作,因此后续我们还要教它更多的知识,让它自我学习的性能更好。
如果一个人的行为动机来源于恐惧,那么大概率会出错。
满足对AI的道德、公平、常识、判断力和智慧的训练,更好的方式是把这些当成“机会”。
人工智能为我们提供了提升和强化自己的部分行为的机会。
因为在这之前,人们普遍都认为自己比机器更具有行为优越性,但人类的很多准则是简单的、多变的。
遵循明确的程序规则的AI,会让我们学会忍耐,并更加清楚为什么我们相信自己的想法。
人类很多规则本就复杂,如果大家都减少迷信,更多基于现实去思考,我们很快就会发现,尝试训练AI让它更人性化,也将让我们变得更人性化。不过这确实是一项很大的挑战。
我们应该欢迎AI,拥抱AI。
最后,kk不担心AI还有很重要的一点是,我们在非技术角度给AI的定义是:当下无法用机器产生的智能。
因此,截止到目前,我们用机器产生的任何东西都不能称为人工智能。从最狭义上来说,人工智能将永远出现在未来。
人们用机器学习、机器智能或其他名称来定义人工智能,且它出现在大家的日常生活中。尽管如此,人工智能仍然是个“神话”。
今天先分享这些,老王后续会就这个话题再跟大家分享几点~喜欢的可以点个关注,或者加老王微信一起聊聊!
所有文章首发于我的公众号【程序员云课堂】,喜欢文章的可以微信关注,也可以扫码加我的个人微信交流~
大家好,我是程序员老王。
年薪百万老码农,待过一线大厂创过业,带过团队,目前专注于一线技术。
分享程序员进阶路上的点滴,帮助大家提升认知,升职加薪。
原文:https://kk.org/thetechnium/why-i-dont-worry-about-a-super-ai/