MySQL 大数据量修改表结构问题

前言:

  在系统正常运作一定时间后,随着市场、产品汪的需求不断变更,比较大的一些表结构面临不得不增加字段的方式来扩充满足业务需求;

    而 MySQL 在体量上了千万、亿级别数据的时候,Alter Table 的操作,可以让你等一天,而且在高峰期执行这种 SQL 让你的数据库也承担着压力。 

  第一时间想到的解决方案就是新建一张表,去掉索引等关联关系,然后加上需要修改的字段,接着写上 insert select 语句进行导数据,  

  后面发现加上重建索引的操作,时间上几乎没有出入; 

  针对这种问题,赶紧翻翻 《高性能 MySQL》 ,里面有写出一种解决方案,与大家分享一下。

 

一、工具 

  // “影子拷贝”,针对不同的场景而言的方式,在一台不提供服务的机器上执行 Alter Table 操作,然后和提供服务器的机器进行切换;

  Facebook 数据库运维团队的“online scherma change”工具:

    https://launchpad.net/mysqlatfacebook

  Shlomi Noach 的 openrak toolkit 工具:

    https://launchpad.net/mysqlatfacebook

 

  // 不是所有的 Alter Table 操作都会引起表重建。

 

 二、修改 .frm 文件 

  // .frm MySQL 数据库表结构定义文件;(.myd 数据文件、.myi 索引文件、.idb 数据&索引文件 [前者 MyISAM 后者 InnoDB])  

  修改 .frm 文件非官方支持的,也没有文档记录,并且也有可能无法正常工作了,采用这些技术自己承担风险,做好备份!

  下面这些操作有可能不需要重建表的:

  1、移除(不是增加)一个列的 AUTO_INCREMENT 属性。

  2、增加、移除,或更改 ENUM 和 SET 常量。如果移除的是已有行数据用到其值的常量,查询将会返回一个空字符串。

 

  基本的技术是为想要的表结构创建一个新的 .frm 文件,然后用它替换掉已经存在的那张表的 .frm 文件,如下:

  1、创建一张有相同结构的空表,并进行所需要的修改(例如增加 ENUM 常量);

  2、执行 FLUSH TABLES WITH READ LOCK。这将会关闭所有正在使用的表,并且禁止任何表被打开;

  3、交换 .frm 文件;

  4、执行 UNLOCK TABLE 来释放第 2 步的读锁;

 

  假如我们需要为那些对电影更加谨慎的父母们增加一个 PG-14 的电影分级:

  

     注意,我们是在常量列表的末尾增加一个新的值。如果把新增的值放在中间,

  例如 PG-13 之后,则会导致已存在的数据的含义被改变:已经存在的 R 值将变成 PG-14,

  而已经存在的 NC-17 将成为 R,等等。

  

   接下来用操作系统的命令替换 .frm 文件:

/var/lib/mysql/sakial# mv film.frm film_tmp.frm
/var/lib/mysql/sakial# mv film_new.frm film.frm
/var/lib/mysql/sakial# mv film_tmp.frm film_new.frm

  再回到 MySQL 命令行,现在可以解锁并查看变更后的效果了:

UNLOCK TABLES;
SHOW COLUMNS FROM sakila.film LIKE 'rating'\G

  最后需要做的就是删除这个临时的辅助表了。

 

转载于:https://www.cnblogs.com/loongsoft/p/7269888.html

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
当需要在大数据MySQL中添加字段时,一般采取以下步骤: 1. 首先,确认新字段的数据类型和长度。需要考虑新字段所存储的数据类型和取值范围,选择合适的数据类型,以及确定字段的长度,以确保数据的准确性和完整性。 2. 在确认新字段的数据类型和长度后,可以使用ALTER TABLE语句来添加新字段。ALTER TABLE语句用于修改结构,包括添加字段、删除字段、修改字段等。语法如下: `ALTER TABLE 名 ADD 列名 数据类型 [约束条件] [FIRST | AFTER 上一个字段];` 其中,名为要进行修改名称,列名为新字段的名称,数据类型为新字段的数据类型,约束条件为字段的约束条件,如NOT NULL,UNIQUE等。FIRST和AFTER用于确定新字段的位置,可以是第一个字段或者在某个已有字段后进行插入。 3. 执行ALTER TABLE语句后,MySQL将执行结构变更操作,添加新字段到中。在数据较大的情况下,这个过程可能需要一定时间,取决于服务器的性能和数据的大小。 4. 在添加新字段后,需要考虑对该字段进行相应的操作,如插入默认值、更新现有数据等。可以使用UPDATE语句批更新现有数据,以确保新字段的数据和已存在的数据保持一致。 需要注意的是,在进行结构变更操作时,建议先备份数据,以避免意外情况造成数据丢失或损坏。另外,在大数据上进行结构变更操作时,建议在低峰期进行,以减少对系统性能的影响。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值