作者 | 胡巍巍
出品 | 程序人生(ID:coder_life)
华为北京研究所的食堂,好便宜!
9月7日,笔者到华为北研所,参加华为方舟编译器(以下简称“方舟”)的开源主题沙龙。
正赶上饭点,点了个安徽板面,才15块。
各个档口的师傅,热情招呼着。
“瓜哥凉面”的档口,还排起了队,要知道这可是周六!
周六就像工作日,传说中的勤奋,果然诚不欺我。
OK~言归正传,来聊聊本次“方舟”开源沙龙。
沙龙合影
沙龙上,一位开发小哥哥,动情讲述了“方舟”的前世今生。
这不是挪亚的方舟,这是华为的方舟!
方舟,英文名叫“ark”,来源于《圣经》:一名叫做挪亚的男子,用歌斐木造船,船名叫“方舟”。
洪水来临时,挪亚让一家八口人、和各样动物的一对公母,上船躲避洪水、并让人类和动物得以繁衍后代。
华为把编译器起名“方舟”,笔者认为,拯救当下编译器的困境,一定是其初心之一。
事实上,华为做编译器,已有近10年历史。
2009年,华为首个编译器团队“方舟”成立,后来,很多国内外编译器人才,也陆续加入。
对于刚成立的“方舟”来说,一是解决华为产品的性能问题,再就是解决手写汇编问题。
当时,团队基于GCC(GNU Compiler Collection,GNU编译器套件),做了DSP(Demand-Side Platform,需求方平台)的编译器后端,这样就可以发挥整个DSP的性能优势。
2014年,“方舟”团队日渐葳蕤 ,一些著名教授和博士也开始加入。
Fred Chow便是团队中一位著名的华人教授,他还是Open64的鼻祖。
2015年,无线基站又面临一个问题,即在DSP编程时,很多人都是用手写汇编。而手写汇编存在的问题是:每一代芯片更新换代时,它都得去适配。
为解决该问题,“方舟”团队想出一个方法:将C语言和MATLAB结合起来,在C语言中加上MATLAB的数据类型和操作,最终形成CM语言。
这个定制语言,仿佛一个杠杆,为“方舟”省去大量开发工作。
在华为内部,各个部门会按照重要性来分级。最初,方舟编程语言实验室和编译团队,都是4级部门。
2016年,华为对编译器和编程语言,越来越看重,遂成立编译器与编程语言实验室。
2016年之后,华为手机卖得不错,但也遇到很多问题。
从那时开始,华为在思考,能否搞一个全新的编译器,来铲除产品痛点?
“被迫”诞生的“方舟”:没有粮?自己种!
正如神话传说中,每一个英雄的诞生,都是为了拯救而来。
“方舟”也不例外。
当时华为遇到的困局是:一般编译器,都是用虚拟机的运行方式。它的原始模式,是从Java转成DEX文件,然后在手机上安装,安装完之后,再进行运行安装。
但整个虚拟机,使用的是混合式执行模式,它在执行这个模式时,会不断地切换、并产生一些开销。为这个问题,华为内部讨论颇久。
很多人说,应该在现有虚拟机上改,还有另外一种方案,即华为另起炉灶,自己做一套能够执行Java的运行环境和编译器。
当时,很多人赞同走第一条路,因为第一条路最省事,投入也不大,还能快速看到效果。
但是,“方舟”团队认为,直接在虚拟机上改,只是治标不治本,华为可以优化GC(Garbage Collector,垃圾收集器),也可以优化JIT(Just In Time,准时制生产方式)。但这样无法彻底解决问题。
最终,华为亲自上!
据介绍,“方舟”前期工作耗时巨长,光是梳理MAPLE框架,就花费两年时间,而从IR(Intermediate Representation,中间语言)的设计、到整个编译器过程,从Demo到产品化,也需要时间。
一篇论文成为方舟编译器的“航海灯塔”
后来,Fred Chow教授的一篇论文,起到点石成金的作用。他在这篇论文中指出,IR应该具备的特征、以及好的IR“长啥样”......
Fred Chow这篇论文,让团队开始自问:“方舟”能不能做一个统一的IR,既支持多种语言表示,又能支持后端多种芯片代码指定生成?
答案是可以。日后来看,这篇论文,堪称“方舟”的指路灯塔。
在灯塔的指引下,“方舟”团队发现,基于MAPLE IR,可以做更复杂的优化、以及更广义的控制流分析。
而MAPLE IR能让开发者,看到更多程序信息,能给编译器提供更多优化机会。可以说,“方舟”的立项,既是华为的技术选择,也是华为的自我挑战。
后来的日子中,作为“水手”的“方舟”开发者们,卯足劲去研究LLVM等业界技术。
“方舟”往事:“小黑屋”噼里啪啦到天明
冰心曾说:“成功的花,人们只惊慕她现时的明艳!然而当初她的芽儿,浸透了奋斗的泪泉,洒遍了牺牲的血雨!”
2017年5月,“方舟”团队终于把Java程序的HelloWorld跑出来,这标志着,整个编译器框架开发完成!
沙龙现场,方舟编译器架构师讲述“方舟始末”
2017年12月,“方舟”团队在Android系统里,增加一个方舟MAPLE Zygote,目的是用于孵化方舟应用,即把Mygote的运行方式,换成“方舟”的运行方式。
这件事,则标志着“方舟”团队把整个Mygote程序从只能启动,做到可以运行起来,并且能够支持方舟计算器运行。
在此之间,“方舟”团队一行一行地调代码。为专心工作,工程师们在杭州方舟编译器的“小黑屋”里,没黑没夜大干一个月......
2018年春节,“方舟”团队把整个SystemServer(Android系统中的核心进程)运行起来。光SystemServer这个进程,就有500万行代码、180个服务!
后来,团队又历时半年多,进行调优、解Bug、和产品化......
2018年9月1日,方舟编译器开始商用!
“方舟”开源:听人劝,吃饱饭
开源之前,华为内部走访很多厂商和高校,请教“方舟”社区后续该如何发展,他们给出的意见,竟然惊人的一致——开源。
在沙龙现场演讲的小哥哥表示,“方舟”会持续开源,而开源是一个循序渐进的过程,他们内部还有很多代码,要整理和合规认证。
但,可以肯定的是,到2020年,“方舟”所有代码都会开源。
2019年,曾有记者问,任正非信奉的人生信条是什么?他只说四个字:合作共赢。
如果盘点2019年华为的关键词,开放,一定算一个。
这种开放,体现在任正非频繁接受采访,体现在鸿蒙OS和“方舟”的开源......
而本次举行的首场“方舟”开源沙龙,不过“方舟”开放的起点。
它还有更伟大的征程:计划招募2000名左右的代码贡献者。
“方舟”希望贡献者做什么?
共建方舟IR
“方舟”IR的标准,还没有完全制定好。因为,不同的高级语言,有不同的特征,它们的的类型系统不一样、内存管理机制不一样,内存对象模型也不一样。
故此,“方舟”希望听取业界和学术界的意见,从而逐渐制定出标准。
共同开发多语言前端
目前,“方舟”只做Java,C++还在开发。JS等其他语言的开发,很缺少力量,所以亟需支援。
共同开发多芯片后端
当下,“方舟”内部只做出ARM64的后端,ARM32还在规划中。此外,可能还有一些厂家在用X86。因此,外部贡献者可以结合自己的芯片,做一些后端开发,也可以把“方舟”用在自家产品中。
后记
曾有记者问,下一个倒下的是不是华为?任正非说,一定是。
市面上,也有一本名为《下一个倒下的会不会是华为》的书籍。
别说下一个倒下的,会不会是华为,就连下一个倒下的,是不是我们自己,都很难说。
这是一个瞬息万变的世界,一朝繁华,一朝梦碎。
计划赶不上变化的年代,个人也好,公司也好,可以学学华为,把自己“开源”,该求助就求助,该合作就合作,众人拾柴火焰高,这是永恒不变的道理!
Python入门不知道这些你还是承早放弃吧!真的
如何少走弯路,利用不同区块链的数据结构实现项目上链?
数据架构是区块链的重要组成部分,了解数据架构,可以让我们对于自身业务是否适合上链做出明智的判断。
9月19日,【dfuse小聚:区块链数据应用讨论会】将在上海举行,dfuse CTO&联合创始人、EOS加拿大联合创始人 Alex Bourget;慢雾科技合伙人兼安全产品负责人启富(Keywolf);MYKET联合创始人/EOS Cannon联合创始人Ricky胖哥,与你一起深度探索区块链应用搭建以及区块链数据结构的奥秘,让你明白到底你的业务该如何上链!长按下方二维码报名:
热 文 推 荐
☞程序员踩坑之旅:将 75000 行 iOS 原生代码迁移到 Flutter!
☞上云难?TA霸气回应:不要你觉得,一键上云 so easy!
☞Python微信远程控制摄像头-拍摄女朋友坐电脑前聊天时表情
☞AI大神如何用区块链解决模型训练痛点, AI+区块链的正确玩法原来是这样…… | 人物志
点击阅读原文,输入关键词,即可搜索您想要的程序人生文章。
你点的每个“在看”,我都认真当成了喜欢