这才是真正的表扩展方案

原创 2017年11月12日 08:29:46

零、缘起

讨论问题域:

1数据量大、并发量高场景,在线数据库属性扩展

2)数据库表结构扩展性设计

 

一、哪些方案一定是不行

1alter table add column

要坚持这个方案的,也不多解释了,大数据高并发情况下,一定不可行

 

2)通过增加表的方式扩展,通过外键join来查询

大数据高并发情况下,join性能较差,一定不可行

 

3)通过增加表的方式扩展,通过视图来对外

一定不可行。大数据高并发情况下,互联网不怎么使用视图,至少58禁止使用视图

 

4必须遵循“第x范式”的方案

一定不可行。互联网的主要矛盾之一是吞吐量,为了保证吞吐量甚至可能牺牲一些事务性和一致性,通过反范式的方式来确保吞吐量的设计是很常见的,例如:冗余数据。互联网的主要矛盾之二是可用性,为了保证可用性,常见的技术方案也是数据冗余。在互联网数据库架构设计中,第x范式真的没有这么重要


(5)打产品经理

朋友,这是段子么,这一定不可行

 

二、哪些方案可行,但文章未提及

1提前预留一些reserved字段

这个是可以的。但如果预留过多,会造成空间浪费,预留过少,不一定达得到扩展效果。

 

2通过增加表的方式扩展列,上游通过service来屏蔽底层的细节

这个也是可以的Jeff同学提到的UserExt(uid, newCol1, newCol2)就是这样的方案(但join连表和视图是不行的)

 

三、哪些读者没有仔细看文章

1version+ext太弱了,ext不支持索引

回复:属于没有仔细看文章,文章也提了如果有强需求索引可以使用MongoDB,它就是使用的json存储(评论中有不少朋友提到,还有其他数据库支持json检索)

 

2)第二种key+value方案不支持索引

回复:uid可以索引

 

四、key+value方式使用场景

服务端,wordpressEAV,配置,统计项等都经常使用这个方案。

客户端(APP或者PC),保存个人信息也经常使用这个方案。

 

今天的重点

以楼主性格,本不会进行“解释”,上文解释这般,说明这一次,楼主真的认真了。对于技术,认真是好事,认真的男人最可爱(打住,我要吐了)。好了,下面的内容才是今天的重点。

 

五、在线表结构变更

在《啥,又要为表增加一列属性?》文章的开头,已经说明常见“新表+触发器+迁移数据+rename”方案(pt-online-schema-change),这是业内非常成熟的扩展列的方案(以为大伙都熟悉,没有展开讲,只重点讲了两种新方案,这可能是导致被喷得厉害的源头),今天补充说一下。


user(uid, name, passwd)

扩展user(uid, name, passwd, age, sex)为例


基本原理是:

1)先创建一个扩充字段后的新表user_new(uid, name, passwd, age, sex)

2)在原表user创建三个触发器,对原表user进行的所有insert/delete/update操作,都会对新表user_new进行相同的操作

3)分批将原表user中的数据insert到新表user_new,直至数据迁移完成

4删掉触发器,把原表移走(默认是drop掉)

5)把新表user_new重命名rename)成原表user

扩充字段完成。

 

优点整个过程不需要锁表,可以持续对外提供服务

 

操作过程中需要注意

1)变更过程中,最重要的是冲突的处理,一条原则,以触发器的新数据为准,这就要求被迁移的表必须有主键(这个要求基本都满足)

2)变更过程中,写操作需要建立触发器,所以如果原表已经有很多触发器,方案就不行(互联网大数据高并发的在线业务,一般都禁止使用触发器)

3)触发器的建立,会影响原表的性能,所以这个操作建议在流量低峰期进行

 

pt-online-schema-changeDBA必备的利器,比较成熟,在互联网公司使用广泛。


楼主非专业的dba,上面的过程有说的不对的地方,欢迎指出。要了解更详细的细节,可以百度一下。有更好的方法,也欢迎讨论,后续会梳理汇总share给更多的朋友。

版权声明:本文为博主原创文章,未经博主允许不得转载。

相关文章推荐

各朝代灭亡原因,这才是真正学历史!

探究揭秘历史真相, 揭开历史人物的真实面目, 解密尘封已久的历史档案, 让您了解不一样的历史。 中国(夏、商、周、秦、汉、魏晋、南北朝、隋、唐、五代、宋、元、明、清)各朝代灭亡的原因总...

很短,很文艺,很唯美。这才是真正的英文经典

1.I love three things in this world. Sun, moon and you. Sun for morning, moon for night , and you fo...

余秋雨先生的话,这才是真正的生活本色

引导语:余秋雨,上海戏剧学院教授,曾任上海戏剧学院副院长、院长、荣誉院长,国际知名的学者和作家。其文化散文集,在二十世纪九十年代至二十一世纪初的中国大陆最畅销书籍中占据了非常重要的地位,在台湾、香港等...

iOS9之UIStackView体验,无需任何约束,这才是真正的自动布局,快到不能呼吸

Apple在2012年推出AutoLayout,以前很排斥,现在用的飞起啊,2014年推出了Size Class,2015年又推出UIStackView, 他提供了一组接口用于平铺一行或者一列的的视...

冯巩的155句经典语,太有才了,这才是真正的幽默!

1 姑娘们啊!哪有那麽多白马啊?找个驴凑合得了,别等到有一天驴都被抢没了,剩一堆骡子... 2 所谓美女,三分长相七分打扮、所谓气质,三分才气七分装蒜、所谓温柔,三分忍让七分压抑。 3 下辇子要做...

这才是真正的synchronized

对于synchronized,想必是基础中的基础了,但是我们在使用时,还是会有一些模棱两可的地方,作为一个android程序员,对于java知识决不能只是够用即可,需要向深处挖掘,好了,在这里先要明确...

余秋雨的话,看到了前15句就不敢往下看了,这才是真正的生活

1、假如你想要一件东西,就放它走。它若能回来找你,就永远属于你;它若不回来,那根本就不是你的。       2.一个人会落泪,是因为痛;一个人之所以痛,是因为在乎;一个人之所以在乎,是因为有感...

这才是完整的UrlRewriter.dll 20k

  • 2013年03月05日 17:25
  • 4KB
  • 下载

[天涯原创大赛]这才是战争(初稿)--中国唯一一部通俗易懂并教会你解读战争的文字

第一章 原来战术很简单   在我们的印象里,一提到战争,总是在脑海里浮现出这么些画面:“一边是飞机、坦克、大炮,另一边也是飞机、坦克、大炮,然后我轰你来你轰我。或者这边是战车密布,铁甲如云,那边...
  • zfive5
  • zfive5
  • 2012年07月15日 08:32
  • 8699
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:这才是真正的表扩展方案
举报原因:
原因补充:

(最多只允许输入30个字)