Python分库分表都有哪些常见形式?

“分库分表”是谈论数据库架构和优化时经常听到的关键词。那么对于这些业务量正在高速增长的公司,它有那么容易实践吗?

垂直分表

垂直分表在日常开发和设计中比较常见,通俗的说法叫做“大表拆小表”,拆分是基于关系型数据库中的“列”(字段)进行的。通常情况,某个表中的字段比较多,可以新建立一张“扩展表”,将不经常使用或者长度较大的字段拆分出去放到“扩展表”中,如下图所示:

 

在字段很多的情况下,拆分开确实更便于开发和维护。

拆分字段的操作建议在数据库设计阶段就做好。如果是在发展过程中拆分,则需要改写以前的查询语句,会额外带来一定的成本和风险,建议谨慎。

垂直分库

垂直分库在“微服务”盛行的今天已经非常普及了。基本的思路就是按照业务模块来划分出不同的数据库,而不是像早期一样将所有的数据表都放到同一个数据库中。如下图:

系统层面的“服务化”拆分操作,能够解决业务系统层面的耦合和性能瓶颈,有利于系统的扩展维护。也能对不同业务类型的数据进行“分级”管理、维护、监控、扩展等。

在高并发场景下,垂直分库一定程度上能够突破IO、连接数及单机硬件资源的瓶颈,是大型分布式系统中优化数据库架构的重要手段。

水平分表

水平分表也称为横向分表,比较容易理解,就是将表中不同的数据行按照一定规律分布到不同的数据库表中(这些表保存在同一个数据库中),这样来降低单表数据量,优化查询性能。最常见的方式就是通过主键或者时间等字段进行Hash和取模后拆分。如下图所示:

水平分表,能够降低单表的数据量,一定程度上可以缓解查询性能瓶颈。

水平分库分表

水平分库分表与上面讲到的水平分表的思想相同,唯一不同的就是将这些拆分出来的表保存在不同的数据中。这也是很多大型互联网公司所选择的做法。如下图:

 

某种意义上来讲,有些系统中使用的“冷热数据分离”(将一些使用较少的历史数据迁移到其他的数据库中。而在业务功能上,通常默认只提供热点数据的查询),也是类似的实践。

在高并发和海量数据的场景下,分库分表能够有效缓解单机和单库的性能瓶颈和压力,突破IO、连接数、硬件资源的瓶颈。当然,投入的硬件成本也会更高。同时,这也会带来一些复杂的技术问题和挑战(例如:跨分片的复杂查询,跨分片事务等)

总结和实践建议

1. 我们目前的数据库是否需要进行分库分表?

根据系统架构和公司实际情况来,如果你们的系统还是个简单的单体应用,并且没有什么访问量和数据量,那就别着急折腾“垂直分库”了,否则没有任何收益,也很难有好结果。

切记,“过度设计”和“过早优化”是很多架构师和技术人员常犯的毛病。

2. 有没有原则或者技巧?

没有什么黄金法则和标准答案。一般是参考系统的业务模块拆分来进行数据库的拆分。比如“用户服务”,对应的可能就是“用户数据库”。但是也不一定严格一一对应。

3. 后台系统中join的表都有n个了,其实互联网的业务系统中,本来就应该尽量避免join的,如果有多个join的,要么是设计不合理,要么是技术选型有误。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
引用中的代码是使用Python中的SQLAlchemy库来连接和操作数据库的示例。其中使用了数据库连接参数和表结构定义,并展示了如何获取数据库会话并执行查询操作。 引用和引用分别介绍了垂直分表和水平分表的概念。垂直分表是将一个包含多个字段的大表拆分成多个小表,将不经常使用或长度较大的字段放到扩展表中。水平分表是将表中的数据行按照一定规律分布到不同的数据库表中,通过主键或时间等字段进行Hash和取模后进行拆分。 根据你的问题,"python 分库分表",我理解你想了解在Python中如何进行数据库的分库和分表操作。 在Python中,进行数据库的分库和分表操作可以通过拼接SQL语句来实现。可以使用字符串拼接的方式来动态生成SQL语句,根据需要进行数据库的连接和表的选择。例如,可以使用字符串的format()方法来动态替换SQL语句中的表名、数据库名等参数。 另外,也可以使用ORM库来简化分库分表操作。ORM库可以将数据库表映射为Python类,通过操作Python类来实现对数据库的操作。一些常用的ORM库如SQLAlchemy、Django的ORM等,都提供了对分库分表的支持。 总结起来,在Python中进行分库分表操作,可以通过拼接SQL语句或使用ORM库来实现。具体的操作方式可根据实际情况和所使用的数据库进行选择和实现。123 #### 引用[.reference_title] - *1* [python3基于sqlalchemy的分库分表及并发问题](https://blog.csdn.net/gx347699598/article/details/125844899)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] - *2* *3* [Python分库分表的几种常见形式](https://blog.csdn.net/weixin_39999859/article/details/111815798)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT3_1"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值