<p><span class=style1>作/译者:叶金荣(Email: <img src="http://image2.360doc.com/DownloadImg/2008/12/2/36491_2038379_1.gif" border=0>),来源:<a href="http://imysql.cn/">http://imysql.cn</a>,转载请注明作/译者和出处,并且不能用于商业用途,违者必究。</span></p>
<h1>0、前言</h1>
<p>本文主要探讨 <em>mysqldump</em> 的几种主要工作方式,并且比较一下和 <em><a href="http://www.maatkit.org/tools.html" target=_blank>mk-parralel-dump</a></em> 的一些差异,为备份方式的选择提供更多的帮助。</p>
<p> </p>
<h1>1、mysqldump</h1>
<p>首先来看下 <em>mysqldump</em> 的几个主要参数的实际工作方式。</p>
<h2>mysqldump 几个主要选项<br>1. -q<br>很简单,什么都不做,只是导出时加了一个 <strong>SQL_NO_CACHE</strong> 来确保不会读取缓存里的数据。
<p> </p>
<pre class=plaintext_pre>081022 17:39:33 7 Connect root@localhost on
7 Query /*!40100 SET @@SQL_MODE='' */
7 Init DB yejr
7 Query SHOW TABLES LIKE 'yejr'
7 Query LOCK TABLES `yejr` READ /*!32311 LOCAL */
7 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
7 Query show create table `yejr`
7 Query show fields from `yejr`
7 Query show table status like 'yejr'
7 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
7 Query UNLOCK TABLES
7 Quit
</pre>
<p>2. --lock-tables<br>跟上面类似,不过多加了一个 <strong>READ LOCAL LOCK</strong>,该锁不会阻止读,也不会阻止新的数据插入。 </p>
<pre class=plaintext_pre>081022 17:36:21 5 Connect root@localhost on
5 Query /*!40100 SET @@SQL_MODE='' */
5 Init DB yejr
5 Query SHOW TABLES LIKE 'yejr'
5 Query LOCK TABLES `yejr` READ /*!32311 LOCAL */
5 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
5 Query show create table `yejr`
5 Query show fields from `yejr`
5 Query show table status like 'yejr'
5 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
5 Query UNLOCK TABLES
5 Quit
</pre>
<p>3. --lock-all-tables<br>这个就有点不太一样了,它请求发起一个全局的读锁,会阻止对所有表的写入操作,以此来确保数据的一致性。备份完成后,该会话断开,会自动解锁。 </p>
<pre class=plaintext_pre>081022 17:36:55 6 Connect root@localhost on
6 Query /*!40100 SET @@SQL_MODE='' */
6 Query FLUSH TABLES
6 Query FLUSH TABLES WITH READ LOCK
6 Init DB yejr
6 Query SHOW TABLES LIKE 'yejr'
6 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
6 Query show create table `yejr`
6 Query show fields from `yejr`
6 Query show table status like 'yejr'
6 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
6 Quit
</pre>
<p>4. --master-data<br>除了和刚才的 --lock-all-tables 多了个 <strong>SHOW MASTER STATUS</strong> 之外,没有别的变化。 </p>
<pre class=plaintext_pre>081022 17:59:02 1 Connect root@localhost on
1 Query /*!40100 SET @@SQL_MODE='' */
1 Query FLUSH TABLES
1 Query FLUSH TABLES WITH READ LOCK
1 Query SHOW MASTER STATUS
1 Init DB yejr
1 Query SHOW TABLES LIKE 'yejr'
1 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
1 Query show create table `yejr`
1 Query show fields from `yejr`
1 Query show table status like 'yejr'
1 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
1 Quit
</pre>
<p>5. --single-transaction </p>
</h2>
<p>InnoDB 表在备份时,通常启用选项 <em>--single-transaction</em> 来保证备份的一致性,实际上它的工作原理是设定本次会话的隔离级别为:REPEATABLE READ,以确保本次会话(dump)时,不会看到其他会话已经提交了的数据。</p>
<pre class=plaintext_pre>081022 17:23:35 1 Connect root@localhost on
1 Query /*!40100 SET @@SQL_MODE='' */
1 Query SET SESSION TRANSACTION ISOLATION LEVEL REPEATABLE READ
1 Query BEGIN
1 Query UNLOCK TABLES
1 Init DB yejr
1 Query SHOW TABLES LIKE 'yejr'
1 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
1 Query show create table `yejr`
1 Query show fields from `yejr`
1 Query show table status like 'yejr'
1 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
1 Quit
</pre>
<p>6. --single-transaction and --master-data<br>本例中,由于增加了选项 <em>--master-data</em>,因此还需要提交一个快速的全局读锁。在这里,可以看到和上面的不同之处在于少了发起 <strong>BEGIN</strong> 来显式声明事务的开始。这里采用 <strong>START TRANSACTION WITH CONSISTENT SNAPSHOT</strong> 来代替 <strong>BEGIN</strong> 的做法的缘故不是太了解,可以看看源代码来分析下。 </p>
<pre class=plaintext_pre>081022 17:27:07 2 Connect root@localhost on
2 Query /*!40100 SET @@SQL_MODE='' */
2 Query FLUSH TABLES
2 Query FLUSH TABLES WITH READ LOCK
2 Query SET SESSION TRANSACTION ISOLATION LEVEL REPEATABLE READ
2 Query START TRANSACTION WITH CONSISTENT SNAPSHOT
2 Query SHOW MASTER STATUS
2 Query UNLOCK TABLES
2 Init DB yejr
2 Query SHOW TABLES LIKE 'yejr'
2 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
2 Query show create table `yejr`
2 Query show fields from `yejr`
2 Query show table status like 'yejr'
2 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
2 Quit
</pre>
<p>关于隔离级别可以看手册 <a href="http://dev.mysql.com/doc/refman/5.0/en/innodb-transaction-isolation.html" target=_blan>13.2.10.3. InnoDB and TRANSACTION ISOLATION LEVEL</a>,或者本站之前的文章:<a href="http://imysql.cn/2008_07_10_innodb_tx_isolation_and_lock_mode" target=_blan>[InnoDB系列] - 实例解析Innodb的隔离级别以及锁模式</a>。 </p>
<p>关于 <strong>START TRANSACTION WITH CONSISTENT SNAPSHOT</strong> 的说明可以看下手册描述: </p>
<pre class=plaintext_pre>The WITH CONSISTENT SNAPSHOT clause starts a consistent read for storage engines that are capable of it. This applies only to InnoDB. The effect is the same as issuing a START TRANSACTION followed by a SELECT from any InnoDB table. See Section 13.2.10.4, “Consistent Non-Locking Read”. The WITH CONSISTENT SNAPSHOT clause does not change the current transaction isolation level, so it provides a consistent snapshot only if the current isolation level is one that allows consistent read (REPEATABLE READ or SERIALIZABLE).
</pre>
<p><a href="http://imysql.cn/原文链接:http://dev.mysql.com/doc/refman/5.0/en/commit.html" target=_blank>12.4.1. START TRANSACTION, COMMIT, and ROLLBACK Syntax</a></p>
<p> </p>
<h1>2. mysqldump 和 mk-parralel-dump 的比较</h1>
<p><em>mk-parralel-dump</em> 是开源项目 <a href="http://www.maatkit.org/" target=_blank>Maatkit</a> 中的一个工具,主要由 <a href="http://www.xaprb.com/blog/" target=_blank>Baron Schwartz</a> 维护。<br><em>mk-parralel-dump</em> 是由 perl 开发的,可以实现并发的导出数据表。具体的功能不细说,自己去看相关文档吧。这里只列出在我的环境下和 <em>mysqldump</em> 的对比数据。</p>
<h2>2.1 mysqldump 常规使用</h2>
<pre class=plaintext_pre>#导出耗时
time mysqldump -f --single-transaction -B yejr --tables yejr | gzip > /home/databak/yejr.sql.gz
real 10m15.319s
user 6m47.946s
sys 0m38.496s
#文件大小
608M /home/databak/yejr.sql.gz
#导出期间系统负载
05:00:01 PM all 0.71 0.00 0.61 7.33 91.36
05:10:02 PM all 13.93 0.00 2.21 4.64 79.22
</pre>
<p> </p>
<h2>2.2 mysqldump + gzip --fast</h2>
<pre class=plaintext_pre>#导出耗时
time mysqldump -f --single-transaction -B yejr --tables yejr | gzip --fast > /home/databak/yejr_fast.sql.gz
real 9m6.248s
user 4m21.467s
sys 0m37.604s
#文件大小
815M Oct 21 17:33 /home/databak/yejr_fast.sql.gz
#导出期间系统负载
05:20:01 PM all 11.94 0.00 2.43 5.69 79.94
05:30:01 PM all 6.46 0.00 1.57 3.95 88.02
</pre>
<p> </p>
<h2>2.3 mk-parallel-dump 常规使用</h2>
<pre class=plaintext_pre>time ./mk-parallel-dump --database yejr --tables yejr --basedir /home/databak/
default: 25 tables, 25 chunks, 25 successes, 0 failures, 404.93 wall-clock time, 613.25 dump time
real 6m48.763s
user 4m20.724s
sys 0m38.125s
#文件大小
819M /home/databak/default/yejr/
#导出期间系统负载
05:10:02 PM all 13.93 0.00 2.21 4.64 79.22
05:20:01 PM all 11.94 0.00 2.43 5.69 79.94
</pre>
<p>可以看到,mk-parallel-dump 尽快确实实现了并发导出,速度相对快多了,却有个致命伤:那就是它不支持InnoDB的一致性备份,目前已经有人提交相关代码了,不过还没实现,期待中</p>
<h1>0、前言</h1>
<p>本文主要探讨 <em>mysqldump</em> 的几种主要工作方式,并且比较一下和 <em><a href="http://www.maatkit.org/tools.html" target=_blank>mk-parralel-dump</a></em> 的一些差异,为备份方式的选择提供更多的帮助。</p>
<p> </p>
<h1>1、mysqldump</h1>
<p>首先来看下 <em>mysqldump</em> 的几个主要参数的实际工作方式。</p>
<h2>mysqldump 几个主要选项<br>1. -q<br>很简单,什么都不做,只是导出时加了一个 <strong>SQL_NO_CACHE</strong> 来确保不会读取缓存里的数据。
<p> </p>
<pre class=plaintext_pre>081022 17:39:33 7 Connect root@localhost on
7 Query /*!40100 SET @@SQL_MODE='' */
7 Init DB yejr
7 Query SHOW TABLES LIKE 'yejr'
7 Query LOCK TABLES `yejr` READ /*!32311 LOCAL */
7 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
7 Query show create table `yejr`
7 Query show fields from `yejr`
7 Query show table status like 'yejr'
7 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
7 Query UNLOCK TABLES
7 Quit
</pre>
<p>2. --lock-tables<br>跟上面类似,不过多加了一个 <strong>READ LOCAL LOCK</strong>,该锁不会阻止读,也不会阻止新的数据插入。 </p>
<pre class=plaintext_pre>081022 17:36:21 5 Connect root@localhost on
5 Query /*!40100 SET @@SQL_MODE='' */
5 Init DB yejr
5 Query SHOW TABLES LIKE 'yejr'
5 Query LOCK TABLES `yejr` READ /*!32311 LOCAL */
5 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
5 Query show create table `yejr`
5 Query show fields from `yejr`
5 Query show table status like 'yejr'
5 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
5 Query UNLOCK TABLES
5 Quit
</pre>
<p>3. --lock-all-tables<br>这个就有点不太一样了,它请求发起一个全局的读锁,会阻止对所有表的写入操作,以此来确保数据的一致性。备份完成后,该会话断开,会自动解锁。 </p>
<pre class=plaintext_pre>081022 17:36:55 6 Connect root@localhost on
6 Query /*!40100 SET @@SQL_MODE='' */
6 Query FLUSH TABLES
6 Query FLUSH TABLES WITH READ LOCK
6 Init DB yejr
6 Query SHOW TABLES LIKE 'yejr'
6 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
6 Query show create table `yejr`
6 Query show fields from `yejr`
6 Query show table status like 'yejr'
6 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
6 Quit
</pre>
<p>4. --master-data<br>除了和刚才的 --lock-all-tables 多了个 <strong>SHOW MASTER STATUS</strong> 之外,没有别的变化。 </p>
<pre class=plaintext_pre>081022 17:59:02 1 Connect root@localhost on
1 Query /*!40100 SET @@SQL_MODE='' */
1 Query FLUSH TABLES
1 Query FLUSH TABLES WITH READ LOCK
1 Query SHOW MASTER STATUS
1 Init DB yejr
1 Query SHOW TABLES LIKE 'yejr'
1 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
1 Query show create table `yejr`
1 Query show fields from `yejr`
1 Query show table status like 'yejr'
1 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
1 Quit
</pre>
<p>5. --single-transaction </p>
</h2>
<p>InnoDB 表在备份时,通常启用选项 <em>--single-transaction</em> 来保证备份的一致性,实际上它的工作原理是设定本次会话的隔离级别为:REPEATABLE READ,以确保本次会话(dump)时,不会看到其他会话已经提交了的数据。</p>
<pre class=plaintext_pre>081022 17:23:35 1 Connect root@localhost on
1 Query /*!40100 SET @@SQL_MODE='' */
1 Query SET SESSION TRANSACTION ISOLATION LEVEL REPEATABLE READ
1 Query BEGIN
1 Query UNLOCK TABLES
1 Init DB yejr
1 Query SHOW TABLES LIKE 'yejr'
1 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
1 Query show create table `yejr`
1 Query show fields from `yejr`
1 Query show table status like 'yejr'
1 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
1 Quit
</pre>
<p>6. --single-transaction and --master-data<br>本例中,由于增加了选项 <em>--master-data</em>,因此还需要提交一个快速的全局读锁。在这里,可以看到和上面的不同之处在于少了发起 <strong>BEGIN</strong> 来显式声明事务的开始。这里采用 <strong>START TRANSACTION WITH CONSISTENT SNAPSHOT</strong> 来代替 <strong>BEGIN</strong> 的做法的缘故不是太了解,可以看看源代码来分析下。 </p>
<pre class=plaintext_pre>081022 17:27:07 2 Connect root@localhost on
2 Query /*!40100 SET @@SQL_MODE='' */
2 Query FLUSH TABLES
2 Query FLUSH TABLES WITH READ LOCK
2 Query SET SESSION TRANSACTION ISOLATION LEVEL REPEATABLE READ
2 Query START TRANSACTION WITH CONSISTENT SNAPSHOT
2 Query SHOW MASTER STATUS
2 Query UNLOCK TABLES
2 Init DB yejr
2 Query SHOW TABLES LIKE 'yejr'
2 Query SET OPTION SQL_QUOTE_SHOW_CREATE=1
2 Query show create table `yejr`
2 Query show fields from `yejr`
2 Query show table status like 'yejr'
2 Query SELECT /*!40001 SQL_NO_CACHE */ * FROM `yejr`
2 Quit
</pre>
<p>关于隔离级别可以看手册 <a href="http://dev.mysql.com/doc/refman/5.0/en/innodb-transaction-isolation.html" target=_blan>13.2.10.3. InnoDB and TRANSACTION ISOLATION LEVEL</a>,或者本站之前的文章:<a href="http://imysql.cn/2008_07_10_innodb_tx_isolation_and_lock_mode" target=_blan>[InnoDB系列] - 实例解析Innodb的隔离级别以及锁模式</a>。 </p>
<p>关于 <strong>START TRANSACTION WITH CONSISTENT SNAPSHOT</strong> 的说明可以看下手册描述: </p>
<pre class=plaintext_pre>The WITH CONSISTENT SNAPSHOT clause starts a consistent read for storage engines that are capable of it. This applies only to InnoDB. The effect is the same as issuing a START TRANSACTION followed by a SELECT from any InnoDB table. See Section 13.2.10.4, “Consistent Non-Locking Read”. The WITH CONSISTENT SNAPSHOT clause does not change the current transaction isolation level, so it provides a consistent snapshot only if the current isolation level is one that allows consistent read (REPEATABLE READ or SERIALIZABLE).
</pre>
<p><a href="http://imysql.cn/原文链接:http://dev.mysql.com/doc/refman/5.0/en/commit.html" target=_blank>12.4.1. START TRANSACTION, COMMIT, and ROLLBACK Syntax</a></p>
<p> </p>
<h1>2. mysqldump 和 mk-parralel-dump 的比较</h1>
<p><em>mk-parralel-dump</em> 是开源项目 <a href="http://www.maatkit.org/" target=_blank>Maatkit</a> 中的一个工具,主要由 <a href="http://www.xaprb.com/blog/" target=_blank>Baron Schwartz</a> 维护。<br><em>mk-parralel-dump</em> 是由 perl 开发的,可以实现并发的导出数据表。具体的功能不细说,自己去看相关文档吧。这里只列出在我的环境下和 <em>mysqldump</em> 的对比数据。</p>
<h2>2.1 mysqldump 常规使用</h2>
<pre class=plaintext_pre>#导出耗时
time mysqldump -f --single-transaction -B yejr --tables yejr | gzip > /home/databak/yejr.sql.gz
real 10m15.319s
user 6m47.946s
sys 0m38.496s
#文件大小
608M /home/databak/yejr.sql.gz
#导出期间系统负载
05:00:01 PM all 0.71 0.00 0.61 7.33 91.36
05:10:02 PM all 13.93 0.00 2.21 4.64 79.22
</pre>
<p> </p>
<h2>2.2 mysqldump + gzip --fast</h2>
<pre class=plaintext_pre>#导出耗时
time mysqldump -f --single-transaction -B yejr --tables yejr | gzip --fast > /home/databak/yejr_fast.sql.gz
real 9m6.248s
user 4m21.467s
sys 0m37.604s
#文件大小
815M Oct 21 17:33 /home/databak/yejr_fast.sql.gz
#导出期间系统负载
05:20:01 PM all 11.94 0.00 2.43 5.69 79.94
05:30:01 PM all 6.46 0.00 1.57 3.95 88.02
</pre>
<p> </p>
<h2>2.3 mk-parallel-dump 常规使用</h2>
<pre class=plaintext_pre>time ./mk-parallel-dump --database yejr --tables yejr --basedir /home/databak/
default: 25 tables, 25 chunks, 25 successes, 0 failures, 404.93 wall-clock time, 613.25 dump time
real 6m48.763s
user 4m20.724s
sys 0m38.125s
#文件大小
819M /home/databak/default/yejr/
#导出期间系统负载
05:10:02 PM all 13.93 0.00 2.21 4.64 79.22
05:20:01 PM all 11.94 0.00 2.43 5.69 79.94
</pre>
<p>可以看到,mk-parallel-dump 尽快确实实现了并发导出,速度相对快多了,却有个致命伤:那就是它不支持InnoDB的一致性备份,目前已经有人提交相关代码了,不过还没实现,期待中</p>