备份输出模式
libvirt back分为push和pull两种模式:
- push是libvirt直接写入数据;pull是libvirt开放一个nbd server,然后让外部拉取数据,外部拉取结束之后再关nbd server。
- pull模式,提供了更大的灵活性。但是需要提供scratch file,作为COW快照,作为磁盘挂载给nbd server,用于外部访问。
virtnbdbackup是基于nbd server,也就是pull模式,对外提供备份数据。
scratch file
通过参数 -S 或 --scratchdir 指定临时scratch file目录,默认是 /var/tmp。
如果备份磁盘很大,本地临时目录可能不够,生产环境中还是要配置专用的临时备份目录。
备份分为两个阶段:
- 以源磁盘作为backing file,将scratch file变成COW快照。这个阶段,对业务VM有影响,为了保证一致性,需要冻结VM,停止业务IO,所以操作时间要尽量短。
- 将scratch file挂载给nbd server,外部就可以拷贝备份数据。这个阶段,业务VM已经解冻,可以进行业务IO,备份数据正在异步传输。不过要注意备份限速,因为读COW快照 数据,实际上大部分数据还是从源磁盘中读取,少量有更新的数据才会copy到COW快照中。
virtnbdbackup备份实现原理
- 在备份服务器上,调用virtnbdbackup命令,执行本地或远程备份。
- 在需要备份的业务节点上,启动备份,基于pull模式、启动nbd server。
- 备份服务器连接nbd server,获取备份数据。
- 备份服务器打开目标备份文件,写入备份数据。
virtnbdbackup函数关键流程
- lib.sshSession (建立ssh连接,用于远程备份)
- ssh.client (创建ssh client,建立ssh连接)
- startBackupJob
- virtClient.startBackup (调用libvirt api启动备份job)
- _createBackupXml (创建backup xml)
- _createCheckpointXml (创建checkpoint xml)
- fs.freeze (冻结文件系统,可以指定冻结的mountpoint,默认全部冻结)
- domObj.backupBegin (调用libvirt api启动备份job)
- fs.thaw (解冻文件系统)
- virtClient.startBackup (调用libvirt api启动备份job)
- ThreadPoolExecutor.submit(backupDisk) (异步执行备份操作)
- connectNbd (远程连接nbd server)
- getWriter (打开备份目标文件,获取文件句柄)
- block.write & stream.writeFrame (raw格式要写整个磁盘,stream格式只写有数据的block)
- writer.close (关闭目标文件句柄)
- connection.disconnect (断开和nbd server的连接)
- virtClient.stopBackup (停止备份job)
- metadata.saveFiles (备份VM配置xml文件)
- args.sshClient.disconnect (断开ssh client)