环境:

  os rhel 5.3
  dbms 三节点 Oracle 10g rac
  ver  10.2.0.4
现象:
    某些工作站死机或网络异常后,特定的收费人员在ZLHIS中收费时,点击确定后,程序无响应.将会话kill后,重新登录ZLHIS,再次收费现象依旧.无论普通病人,还是医保病人都是同样现象.1-2小时后,ZLHIS自动恢复正常.
分析与解决过程:
  1.分析会话的状态:
通过查询找出会话的等待事件:

SQL> select  event,sid,serial# ,blocking_session from gv$session where username='YB040';

EVENT                                                                   SID    SERIAL# BLOCKING_SESSION

---------------------------------------------------------------- ---------- ---------- -------------

SQL*Net message from client                                             972      48797

SQL*Net message from client                                            1069      61575

SQL*Net message from client                                            1111      12404

enq: TX - row lock contention                                          1171      55482             1069

enq: TX - row lock contention                                          1113      42042             1069

 
可以看到是1069阻塞了1171与1113会话,等待事件为enq: TX - row lock contention,典型的tx行级锁,查看1069会话锁定的对象:

 

     分析一下业务,只有锁定了人员缴款余额,才有会这种现象,因为指定收费员的特定结算方式占用一行数据,而每次收费时都需要更新这一行数据,这一行数据就容易形成tx事务锁,一旦一个会话持有这一行的tx锁,其他会话将无法继续收费。
一般情况下,tx等级锁,只有事务提交或回退,或者kill掉会话,事务也会自动回退.但这个案例中,kill掉会话也不行。
取出这个时段的awr报告,发现tx锁的等待排在首位:

 

平均等待时间也达到489ms,已经非常严重了。查询了一下这个表的物理占用情况,一个只有471行的表,居然占用了24个数据块:

   2.分析表的数据分布
    这是不正常的.Dump这个表的所有数据块,使用如下命令:

alter system dump datafile 7 block min 577033 block max  577057

 发现一些问题:
a. 数据分布不均匀,大多数数据块只存储了10-33行数据.而大多数行存储在两个主要的块中,这通过nrow可以看到:

data_block_dump,data header at 0x13045264

===============
tsiz: 0x1f98
hsiz: 0x34
pbl: 0x13045264
bdba: 0x01c8ce0c
     76543210
flag=--------
ntab=1
nrow=17
frre=-1
fsbo=0x34
fseo=0x12d5
avsp=0x1d9d
tosp=0x1d9d
 
较密的块:

data_block_dump,data header at 0x130453b4

===============
tsiz: 0x1e48
hsiz: 0x254
pbl: 0x130453b4
bdba: 0x01c8ce0e
     76543210
flag=--------
ntab=1
nrow=289
frre=193
fsbo=0x254
fseo=0x261
avsp=0xd
tosp=0xd 
   标注为红色的nrow项目,表示这一个数据块中包括多少行数据,在缴款余额这张表上,存在大量的update,并发事务也非常高,如果数据集中在少数的数据块上,必然加剧热点块的并发争用。
    b.  出现了行链接现象:
行头的内容:
tab 0, row 74, @0x16ff

tl: 9 fb: --H----- lb: 0x0  cc: 0

nrid:  0x01c8ce0d.1f
行尾的内容:

tab 0, row 31, @0x7f0

tl: 32 fb: ----FL-- lb: 0x2  cc: 4

hrid: 0x01c8ce0e.4a

   dump文件中,项目fb是一串标志位, --H-----表示只有行头; ----FL—表示有行的第一片段和最后一片段,完整的fb标志列的说明如下(来源于Oracle的DSI文档):

这样一个小表出现这种情况是不正常的,因为平均行长很小,只能是大量的update导致了这样的现象。 
c.数据密度较大的块上的空闲空间不足,以上块为例:avsp=0xd,项目 avsp表示块中的可用空闲空间,这里转换成10进制表求只有13个字节可用。
再来看看itl的情况:

 Block header dump:  0x01c8ce0e

 Object id on Block? Y

 seg/obj: 0x13485  csc: 0x00.2bcd2f5e  itc: 16  flg: E  typ: 1 - DATA

     brn: 0  bdba: 0x1c8ce09 ver: 0x01 opc: 0

     inc: 0  exflg: 0

 
 Itl           Xid                  Uba         Flag  Lck        Scn/Fsc

0x01   0x0025.00a.00004f48  0x09819c74.0218.33  C---    0  scn 0x0000.2bcd26e6

0x02   0x000a.016.0002e06b  0x008015d3.614f.07  C---    0  scn 0x0000.2bcd297e

0x03   0x0009.003.0000fb75  0x00800602.2faf.06  C---    0  scn 0x0000.2bcd253f

0x04   0x0001.02a.0000bd22  0x0080230b.28d3.48  --U-    1  fsc 0x0000.2bcd2fce

0x05   0x0005.00b.0000bd6a  0x00801d86.2831.35  C---    0  scn 0x0000.2bcd224a

0x06   0x0036.017.000236cf  0x09c23f51.04e2.2c  C---    0  scn 0x0000.2bcd25c7

0x07   0x0026.011.00004eef  0x0980083f.023c.4b  C---    0  scn 0x0000.2bcd2dcc

0x08   0x0036.01d.000236d5  0x09c23f5b.04e2.31  C---    0  scn 0x0000.2bcd2a26

0x09   0x0026.004.00004ef3  0x09800839.023c.06  C---    0  scn 0x0000.2bcd280d

0x0a   0x000a.01d.0002e058  0x008015d2.614f.3a  C---    0  scn 0x0000.2bcd2579

0x0b   0x000a.009.0002e054  0x008015ce.614f.41  C---    0  scn 0x0000.2bcd23b8

0x0c   0x000a.00f.0002e063  0x008015d3.614f.33  C---    0  scn 0x0000.2bcd2c20

0x0d   0x002d.004.00004cef  0x09c2237c.0266.0c  C---    0  scn 0x0000.2bcd2d07

0x0e   0x0031.00b.00004cf6  0x09c23ffe.0296.04  C---    0  scn 0x0000.2bcd2336

0x0f   0x0028.007.00004fa5  0x0981d616.0216.3d  --U-    1  fsc 0x0000.2bcd319b

0x10   0x0036.00f.000236cb  0x09c23f63.04e2.2b  --U-    1  fsc 0x0000.2bcd2f72

    扩展一个itl需要大约23字节的空间,目前数据块已经扩展到16个itl槽,而初始的initrans为10,可见由于空闲空间缺乏,导致事务一直无法提交或回退,只有等到整个并发事务下来了,能够取得itl的时候就可以继续事务了,由于医院的高峰期要的高并发状态要持续一段时间,导致会话一直无法取得itl,只一直等下去。Itl不足是导致这个现象的一个原因。我们需要重建缴款余额这个表,使用move表的方法,但需要注意的是move表后,需要重建表上的索引:

     alter table 人员缴款余额 pctfee 20 inittrans  40 ;

     alter table  人员缴款余额 move;

     alter index 人员缴款余额_PK rebuild pctfree 20 initrans 40 ;

    4. 但还有一个问题,为什么kill掉会话,会话也不释放tx事务锁资源呢?Oracle由PMON进程来释放僵尸会话的锁、变量等资源,但这需要一个时间;这就是后面开启的会话等待1-2个小时,自动复活的原因。Oracle 有一个Dead Connection Detection(DCD 僵尸进程检测)的功能,启用这个功能后,Oracle会在指定的空闲间隔时间内,发送一个10个字节的探测包,如果客户端进程无响应则会启用PMON后台进程对这个进程的所占用的相关资源进程清理操作,包括内存资源(如PGA,UGA)、变量、锁等进行释放。
我在测试的rac环境,实验过这个方案。具体实施方法也非常简单:
 A  .在每个服务器节点的sqlnet.ora文件中添加这个参数:
SQLNET.EXPIRE_TIME= <# of minutes>
 
这个参数就是指定的空闲时间,也就是探测包发送的空闲间隔时间,以分钟为单位,可根据实际情况,设置一个时间。.
 B. 设置这个参数后,要求重启或reload监听程序,由于重启监听程序不影响已经连接的用户,可以直接重启;由于是rac环境,需要重启所有节点的监听程序;如果是RAC环境,在任一节点执行如下命令即可:

  srvctl stop listener –n 节点名

  srvctl start listener –n 节点名

 进行了这些调整后,系统运行了2个星期,没有再出现这个问题。