2018年架构师峰会见闻

     2018年12月7日,去国家会议中心参加了2018年架构师峰会。天气很冷,开着我的小电车,不敢开暖风,冻得跟孙子似得,但是,阻拦不了我对技术的孜孜追求。

     今年的架构师峰会有两天,我参加的是第一天。上午我主要听了两个分享,一个是《当GraphQL遇到Observable:同构Web App的另一种探索》,这个分享是快手直播项目的经验分享。这个分享中包括了不少内容,我印象最深刻的是他们GraphQL的使用,还有Vue.js的使用。GraphQL是一种用于API的查询语言,对API中的数据提供了一整套易于理解的完整描述,使得客户端可以准确获取所需数据,没有冗余。查询方式从命令式->声明式,思考方式的转变带来效率的提升,利用GraphQL,也可以做聚合/过滤。使用声明式,数据模型也要做相应修改,Model与Componet的边界更加清晰,足够声明式。第二个是我们京东大数据平台负责人dennis对京东大数据平台的介绍。

     下午的分享内容比较丰富精彩,主要介绍两个。第一个《滴滴分布式NoSQL数据库Fusion的演进之路》,余汶龙老师从fusion的诞生、演进、展望三个方面详细介绍了滴滴分布式数据库Fusion的发展历程。Fusion的催生是滴滴的业务单量,从2015年的几百万/天,猛增到现在的2000万+/天,业务的狂增,必然带来数据存储上的变革。     

  从上图可以看到,Fusion的使用和redis非常类似,但是他可以存在磁盘上,它的底层是RocksDB,滴滴通过自己的代理Proxy,把它搞成介于Redis和Mysql之间的数据库。

    四大特色:海量存储,这个不用说了,百亿级订单,百T司机轨迹存储; FastLoad,将离线数据到实时数据全部打通;NewSql是相对于Mysql的单机容量小,扩展不灵活,转变为NewSql的轻松改字段,存储不受限,尽量省成本,单机事务,稳定,灵活扩展,高性能,二级索引;扩机房多活,就是滴滴所有的业务数据,在全国多个机房都有多个可用结点,应对灾备。

这是fusion的软件架构,底层是RocksDB(尽量用SSD磁盘),上层用Cache,通过类redis协议,向业务开放使用。

 

这是集群架构,redis、mysql、hadoop数据都可以通过FastLoad向fusion灌入,fusion本身集群数据分片存储,通过hash策略分配。数据通过binlog可以mq导出。

这是滴滴的多活架构,主要是通过计算路由,进行不同机房间的异步复制。保持数据最终一致性。

阿里OceanBase的介绍也很精彩,作为一款志在替代oracle,成为中国oracle的数据库,OceanBase可谓志存远大,而且在NoSql数据库遍地开花,在互联网公司大肆传播的背景下,OceanBase居然还是关系型数据库,还能承载那么大的数据量,真的是厉害。

第二个要介绍的是《快速搭建一超高性能的时序空间大数据处理平台》,是一个海归老程序员(据说已经编程30年)讲的,人家不但写程序,还能当ceo(涛思数据创始人),真是厉害。所谓的时序空间数据,工业4.0数据,有以下特点:

传统的大数据处理,不外乎将开源的Kafka, Redis, Hbase, MongoDB, Cassandra, ES, Hadoop, Spark,
Zookeeper等大数据软件拼装起来,利用集群来处理海量数据。

他们推出的TDengine,消息队列,数据库,缓存,流式计算,订阅,一套工具全乎了,都是自己开发的,而且性能极高。

以下是他们的技术亮点:

查询性能也很高,比clickHouse还高,厉害。

他们的性能为什么这么高,因为他们的产品都是自己开发,只用C/C++开发,性能极高,量身定制,只为物联网数据而设计,不适合电商、社区、erp、crm,看来大部分业务场景都不适合啊。

存储引擎,集群调度、管理,计算模块,Sql解析,他们都是自己用C/C++开发的。

数据存储结构,完全去中心化,多节点存储:

而且他们的数据是把连续数据,按块存储:

这种时序型的数据,其实在很多领域都有类似,比如饭店、超市的资金流水数据,日志数据,基本都不会有更新和删除,这种类型的数据其实使用范围其实还蛮大的。

 

 

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值