计算机如何大规模协作?

本文探讨了计算机从早期的单机计算到现在的分布式计算的转变,强调了算力的发展对人工智能的重要性。文章提到了分布式技术的起源,如谷歌的GFS、MapReduce和BigTable三篇论文对行业发展的影响,以及CAP定理在分布式系统设计中的角色。
摘要由CSDN通过智能技术生成

7d6b5eeca89acd83a3001215b3d5136d.gif

数据、算法和算力,被视为驱动人工智能发展的“三驾马车”,三者缺一不可。比如,关于AlphaGo的胜利,很多人喜欢把它归功于深度学习算法,这当然是原因之一。可如果只有算法,可以断言AlphaGo一定不会成功。其实早在2016年DeepMind就已经公开了AlphaGo的算法细节,可直到今天,我们并没有看到第二个与AlphaGo旗鼓相当的围棋人工智能出现。实际上,AlphaGo的胜利有很大一部分原因要归功于谷歌后台庞大的IT基础设施建设。过去,计算机下棋很难获胜,除了没有好的算法,计算机的算力也不够。就是说,计算机在有限的时间里算不出答案。AlphaGo真正让同行无法复制的,不是算法,而是它的数据中心。

dd1554549d9f7e7e558cf1e7e47b64e2.png

01.今非昔比的算力

早期的计算机装置庞大到可以塞满整个房间,不仅布满电子管,还拖着长长的电线,它们的输入输出使用打孔的纸或磁带。这些贵重设备由技术专家来使用和维护。普通老百姓连看都没看过,更不用提使用它们。

20世纪最顶尖的技术专家,也难以预测IT技术的发展速度。IBM创始人托马斯·沃森曾说:“全世界只需要5台电脑就足够了”,如今一个家庭恐怕就有超过五台的智能设备。当时,微软的比尔·盖茨说:“无论对谁来说,640KB内存都足够了”,但在Windows 2000推出时,它最低的内存要求是64MB。

电子计算机发展至今还不到100年。我们看到的是,随着集成工艺提升,集成电路可以安装更多的晶体管。Intel创始人戈登·摩尔在19世纪提出了“摩尔定律”。这一定律精准预测了芯片行业未来30年的发展,揭示了信息技术发展初期指数级增长规律。直到芯片尺度达到它的物理极限前,摩尔定律会持续生效。

1958年第一代集成电路仅仅包含了两个晶体管,但是在1997年,奔腾II处理器的晶体管已经扩大到了750万个。如今,我们可以在一根头发丝大小的空间上集成上万个晶体管。《奇点临近》的作者雷·库兹韦尔(Ray Kurzweil)将这种科技发展增长规律称作加速回报法则,他还大胆预测,人类在21世纪的进步可能是20世纪的1000倍。

计算机刚被发明出来时,主要服务于军事科研领域。如今,它们已走入千家万户。过去,一个5MB硬盘的体积相当于两个冰箱大小,必须用飞机运送。如今,TB容量的固态硬盘只有手掌这么大,可以随身携带。

20世纪80年代,计算机每秒只能执行100万次操作,如今,计算机每秒能执行超过十亿次操作,一台超级计算机的每秒计算速度甚至可以轻松突破亿亿次,这种超强计算能力可以用于解决很多专业工程问题,比如天气预

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值