AI时代基础架构如何演进:快手资深架构师访谈

d91c9145c40a2791a8c32b48311480f1.png

导读:2024年5月24-25日,2024全球互联网架构大会(简称:GIAC大会)将于深圳华侨城洲际酒店举行。第11届GIAC,组委会从互联网架构热门的AIGC、效能提升、 云原生架构、数据智能、新硬件等领域甄选前沿的有典型代表的技术创新及研发实践的架构案例,分享他们在本年度值得的总结、盘点的实践启示,打造一个分享及讨论平台,帮助和指导听众了解和改进互联网构建方式。

在大会前夕,GIAC组委会采访了本届大会基础架构&架构演进专场出品人余昭辉老师,就当下大模型对架构师的影响以及基础架构的演进方向等问题进行了访谈。

f687b7d36d81e19531b96508c085abd5.jpeg

余昭辉,快手主站技术部/资深架构师。目前就职于快手主站技术部,探索海量互联网架构。曾在互联网基础架构领域摸爬滚打多年,研发过各类互联网常见中间件,对消息队列、RPC等尤其情有独钟,曾开源过消息队列,也参与过Apache Dubbo的开源贡献。

GIAC组委会:余老师,您好,很高兴采访到您,能否简单的介绍一下自己?您目前的主要工作内容是什么?

余昭辉嗨,我现在在快手主站做业务架构的一些工作,主要就是看看我们工程架构上一些痛点怎么解决,比如工程耦合的合理性问题,还有数据存储上是不是可以采用更有效的缓存模型优化性能、降低成本之类的。在加入快手之前我在去哪儿、携程、便利蜂等公司工作过,做过十多年的基础架构相关的研发工作。

GIAC组委会:您在快手架构领域的探索中,负责项目的成果和遇到的挑战有哪些?并且如何带领团队克服挑战的,能简单说1-2个具体的事例么?您接下来的工作重心是哪方面?

余昭辉嗯,主要的挑战有这么几个方面吧,第一个是短视频领域最近几年发展特别迅速,快手是短视频行业头部之一,用户规模决定了我们很多架构的选择其实在行业内缺少可供参考的案例,再加上这几年的业务狂奔,也给架构积累了不少技术债。

另外一点是,在降本增效的大环境之下,如何在成本和架构合理性之间寻找平衡点也非常有挑战,就比如微服务架构这个事情,大家都说合久必分,依赖重了,复杂了我们就拆分呗,但是如果在一个千万qps的大规模系统里,拆分就不仅仅是单纯的依赖重不重的问题了,需要考虑的因素就很多,比如拆分后IO放大了好几倍,相应地稳定性、性能、成本都可能会劣化,这是非常有挑战的。所以这个也是我们未来一段时间的重点工作,寻找海量qps服务下的架构实践。

GIAC组委会:在具体技术方案落地的过程中,您通常关注哪些问题?如何保证技术方案顺利实施?

余昭辉对于技术方案落地,我关注更多的可能是稳定性相关的,因为就目前我们的用户规模,如果稳定性受损,影响面将非常大,所以为了保证技术方案顺利实施,我们会做很多事前的压测工作,还会有各种灰度的措施,比如针对每个功能点都会有灰度开关,然后缓慢地放量,还要设计周全的降级和回滚措施。

GIAC组委会:对于业务方向的架构师,在技术选型的过程中,需要考虑哪些问题?您平时在这方面是怎么样做的?

余昭辉作为业务架构师,在做技术选型的时候,我觉得首先就是要了解清楚业务背景,在问题开始之前,多想一下我要解决的问题是什么?我要解决的问题到底是什么?想清楚这个很多时候技术选型就会自动地浮现出来。

想清楚真正的问题之后,下一步就是对问题进行拆解,要把一个大的问题拆分成多个小问题,然后针对这些小问题各个击破。

最后就是从稳定性、成本等各个方面做一些测算,做一些benchmark,然后就是考虑落地节奏之类的啦。

GIAC组委会:您曾经主导过消息队列项目QMQ开发,也了解到您在Apache Dubbo等项目有过开源贡献,您觉得一个开源项目成功的关键因素是什么?对于投身开源,您有哪些经验可以分享给那些还没参与开源开发的工程师?

余昭辉这方面我其实做的不太好,我觉得开源项目的成功关键最主要的是社区建设和维护,建设一个活跃的社区之后,就会有更多的人参与进来,然后开源项目才能发展地更好,反而项目本身倒是其次的。

GIAC组委会:这两年AI发展如火如荼,这和几年前的业务型态有重大变化,您认为架构师如何适应这些变化,如何让自己在AI时代同样具备竞争力?

余昭辉我其实对AI还理解的不太深,但是目前一些AI产品我基本上也都用过,有的用的还比较频繁,现在基本上代替了一部分搜索引擎的任务。

我觉得AI这个东西,积极去拥抱就好了,看看自己日常的工作有什么AI是可以帮助你的。其实架构师的很多工作是不确定的、模糊的,就是不好对这个问题下一个定义,所以导致你都没法直接去搜索引擎搜,因为你不知道keyword到底是什么,在以前你可能需要找一些人聊聊,但是现在你可以和AI聊,然后慢慢的探索出那个keyword,然后你就可以搜一些成熟的解决方案。

GIAC组委会:随着AI时代的到来,传统的基础架构也变得成熟,是不是它没有以前重要?从事基础架构的工程师如何接下来如何更好体现自己价值?

余昭辉这是个好问题,我也一直在自问。传统的基础架构确实好像没有以前重要了,但也又比以前更重要。

一方面现在可选的开源组件非常多,云服务也越来越成熟,所以好像没什么新的东西可以做,很多公司的基础架构团队基本上成了SRE的角色,很少有一些原创性的开发工作了。

但是另一方面,现在很多工作都进入了深水区,以前那种基本可用,粗放型基础架构工作不再适合了。比如以前我们很多高可用方案都采用主从同步的方式,而现在基本上Raft成了标配;还有怎么在降本增效的大环境里,极致的压榨性能,在本次GIAC基础架构专题中,来自快手的李其胜就分享了快手的持续性能分析平台Perf-Insight,就是属于这类。

GIAC组委会:您认为什么是架构师的真正能力,作为想成为架构师的技术人如何不断提升自己的技术顺应时代潮流?

余昭辉我个人特别认同第一性原理,我觉得架构师真正的能力就是要直击问题本质,用第一性原理看我们的业务,看我们的架构,从本质上去思考问题到底是什么,然后提出有效的解决方案。

提升技术可能每个人都有自己的方法,我个人比较习惯从这几个方面:

1、多看,我会关注各种计算机顶会的论文,看看这些行业TOP的公司和专家怎么解决问题的,他们的方案是什么。

2、多听,我会经常和一些其他公司的同行聊天,比如参加各种技术大会就挺好,这是个提升认知的好机会。

GIAC组委会:2024年GIAC大会深圳站即将开启,作为基础架构专题的出品人,能否简单介绍下您甄选出的几个议题?您对大会有哪些寄语?

余昭辉之前组织方联系我说做基础架构的出品人,我就回了句:我不会AI Infra啊,只会点传统Infra,这个还有人听吗,哈哈哈。所以在之后的选题中,我还是力争去寻找那种能让人眼前一亮的topic。

我觉得这次基础架构的几个topic还是非常有特色的:

首先我找了字节跳动的ByteGraph数据库的负责人张帅老师,这里其实是有点私心的,我在快手做了一段时间的关系链的缓存优化工作,所以我也很想看看在抖音这个规模上,这个用户关系链是怎么做的,从一些途径了解到抖音正在把关系链数据放到图数据库里,快手也正在这个方向上探索,所以想看看行业里其他人是怎么做的。那么听众也可以看看,在几亿日活的国民级APP中,如何做社交关系,这是一件非常有挑战性的事情。

而来自AutoMQ的周新宇老师分享的主题就是我一直念念不忘的了,我曾经在MQ这个领域摸爬滚打将近十年,一直在稳定性、性能和成本这个三角上左右互搏,后来我不再从事MQ的研发了,有一天我看到Snowflake的论文,讲他们怎么基于对象存储S3来构建数据库,我当时都被触动了。后来我看到AutoMQ的分享,我又一次被触动了,这就是我想要的那个Dream MQ。

还有来自快手的李其胜老师分享快手的持续性能分析平台Perf-Insight,那我们看快手是如何做成本优化的,我们常说做性能优化是个特种兵工作,需要那种牛人把自己关小黑屋一顿分析,那这种成本也太高了,所以一些小的性能优化可能就放弃了,那快手认为性能分析是一个持续的工作,那我们能不能把一些牛人分析完的东西形成固化的系统规则,那所有一线开发写了个代码部署完后,我们的分析平台就告诉他,你这个代码这样写能优化多少核,能节约多少钱,是不是很酷。

GIAC里分享的主题都是来自一线工作者的干货,我希望大家参会都能找到自己的收获。

以上内容来自GIAC组委会对余昭辉老师的采访,希望大家看后有所收获。2024全球互联网架构大会将于5月24-25日在深圳华侨城洲际酒店举行。根据用户反馈和行业分析,同时结合联合主席和出品人的建议,组委会设置了24大专场、84个前沿创新实践。每一个专题下都有3-4位大咖讲师,致力于帮助参会者通过了解大厂(案例包括字节、阿里等)、快速发展的互联网公司(案例包括B站、快手等)以及传统研发组织(案例包括华为等)不同研发规模、不同技术栈的公司的实践,「按图索骥」找到符合自己特点的开发范式和架构模式,每个案例分享时长为1小时,下面是大会的全日程,分享给大家:

262c641358dc2b9c7c97d8dcb1bc11dd.jpeg

b5c71802c695f6c084ea5f76d8b9bdce.jpeg

大会报名已经接近尾声,现在还有少量余票,点击“阅读原文”,即可报名参与。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值