一次TB级ERP(ASM RAC)库的恢复

前不久某客户的ERP 库出现故障(Linux x64,10204 rac ams环境). 大概问题是由于一些列操作之后导致磁盘组无法mount，
只能进行数据恢复，针对该case，我们前后投入了8个人力，进行了3天3夜终于成功抢救该数据库。

首先是客户在rac其中一个节点add disk时，发现在另外节点未添加成功，后面又反复折腾add，甚至dd 盘头进行了add。
最为致命的一个动作是强制add disk，其实在该步骤之前这几个disk已经add过一次，且完成了reblance，但是drop disk
却并未成功，最后客户尝试强制添加，如下：

SQL> ALTER DISKGROUP xxxx ADD  DISK 'ORCL:VOL1_xxx' SIZE 2097152M  FORCE ,

'ORCL:VOL2_xxx' SIZE 2097152M  FORCE ,

'ORCL:VOL3_xxx' SIZE 2097152M  FORCE

........

ORA-15186: ASMLIB error function = [asm_open],  error = [1],  mesg = [Operation not permitted]

Tue Feb 18 06:09:32 2014

SQL> alter diskgroup xxx MOUNT

NOTE: cache registered group xxx number=1 incarn=0x6c42d680

.......

Tue Feb 18 06:09:32 2014

NOTE: Hbeat: instance not first (grp 1)

Tue Feb 18 06:09:32 2014

NOTE: cache dismounting group 1/0x6C42D680 (xxx)

NOTE: dbwr not being msg'd to dismount

Tue Feb 18 06:09:32 2014

NOTE: PST enabling heartbeating (grp 1)

Tue Feb 18 06:09:32 2014

ERROR: diskgroup xxx was not mounted

Tue Feb 18 06:10:22 2014

ORA-15186: ASMLIB error function = [asm_open],  error = [1],  mesg = [Operation not permitted]

Tue Feb 18 06:10:22 2014

.........

最后导致磁盘组都无法mount，当然数据库肯定也无法成功open，会报如下类似的错误；

Tue Feb 18 05:53:57 2014

Errors in file /opt/oracle/admin/xxx/bdump/xxx_lmon_17095.trc:

ORA-00202: control file: '+xxx/xxx/controlfile/current.256.743166671'

ORA-15078: ASM diskgroup was forcibly dismounted

Tue Feb 18 05:53:58 2014

Errors in file /opt/oracle/admin/xxx/bdump/hxxx_lmon_17095.trc:

ORA-00204: error in reading (block 35, # blocks 1) of control file

ORA-00202: control file: '+xxx/xxx/controlfile/current.256.743166671'

ORA-15078: ASM diskgroup was forcibly dismounted

Tue Feb 18 05:53:58 2014

LMON: terminating instance due to error 204

Tue Feb 18 05:53:58 2014

首先利用kfed 读取相关的disk，发现asm的相关元数据基本上都不存在了，因为前面的add disk force其实相当于是吧
diskgroup 重建了一次，其中最为关键的file directory元数据没了。这是非常麻烦的一件事。

在恢复的过程中，我们甚至尝试了Oracle DUL，发现file directory完全丢失的情况下，dul根本无法正常工作。当然，

我们利用老熊的ODU成功的恢复了该库。ODU目前有这样的一个强悍功能，可以进行scan asm disk，然后将所有数据文件

的AU分配信息扫描出并记录到一个文件asm_fileext_meta.odu 中，然后可以自动的将AU进行拼接，也就形成了一个完整

的数据文件，大致的语法如下：

extract asm file 1  to / xxxxx / system 01. dbf

extract asm file 2  to / xxxxx / undotbs 1 _ 01. dbf

extract asm file 3  to / xxxxx / sysaux 01. dbf

备注:
1.   第一次使用抽取文件的方式进行了恢复，由于数据字典损坏严重，导致数据库open后问题不断（其中还修复了
大量的block，因为部分block是空的，空块是因为部分disk完成了reblance，部分没有，导致抽取的数据字典不完整），
因此我们又重新抽取了一次数据，并重建库导入，前后花费了大量的人力，当然这也是我第一次利用ODU
恢复ERP库，并完美的解决问题。 这里必须赞一个！

2.  关于file directory，可以参考：http://www.killdb.com/2013/01/13/oracle-asm-%e5%89%96%e6%9e%90%e7%b3%bb%e5%88%974-file-directory.html