近期要上一个BI的项目，需要对各个业务系统内的数据进行分析，那么问题就来了。现有的数据库中有新insert进来的数据，还会有对于已有的数据进行变更的操作。那么这些新增以及变化都要反应到BI系统中。
可以现有的生产数据库的table中没有可以识别变更的时间戳字段。如果对已有的表增加一个timestmap字段，在数据库层面上当然是非常容易办到的，一个简单的 "alter table add xxx column... " 即可。但是在业务程序方面将会带来巨大的改造量。
在MySQL数据库下可以添加一个会自动更新的timestamp。（oracle中不支持该语法）
在oracle怎么办呢？
Scn转换成时间：
select to_char(scn_to_timestamp(3489228),'YYYY-MM-DD HH24:MI:SS') from dual;
时间转换成scn：
select timestamp_to_scn(to_date('2011-04-14 11:10:25','YYYY-MM-DD HH24:MI:SS')) from dual;
简单的测试，结果很令人开心哈，毕竟不用改程序了。（我为人人做贡献的DBA）
开始在业务测试库中进行验证。
**原因**
ora_rowscn分为两种模式:
测试
在创建表的时候添加了ROWDEPENDENCIES属性还是非常好使的。
我们知道，每个Block在头部是记录了该block最近事务的SCN的，所以默认情况下，只需要从block头部直接获取这个值就可以了，不需要其他任何的开销，Oracle就能做到这一点。但是这明显是不精确的，一个block中会有很多行记录，每次事务不可能影响到整个block中所有的行，所以这是一个非常不精准的估算值，同一个block的所有记录的ORA_ROWSCN都会是相同的，基本上没有多大的使用价值。
/* 可以从block dump中看到每行都多出了dscn信息，这就是基于行追踪的行级ORA_ROWSCN信息的来源。
注意这里的dscn需要占用6个字节的空间，换而言之启用ROWDEPENDENCIES会为每一行多出6个字节的磁盘开销。
*/
那么1千万行的数据，将会有10MB存储容量的开销
可以现有的生产数据库的table中没有可以识别变更的时间戳字段。如果对已有的表增加一个timestmap字段，在数据库层面上当然是非常容易办到的，一个简单的 "alter table add xxx column... " 即可。但是在业务程序方面将会带来巨大的改造量。
- insert的时候需要多增加一个timestmap字段
- update的时候需要同时更新timestmap字段
在MySQL数据库下可以添加一个会自动更新的timestamp。（oracle中不支持该语法）
alter table t2 add COLUMN T_MODIFY_TM timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT 'is_timestamp';在oracle怎么办呢？
伪列ORA_ROWSCN
想啊想，oracle既然存在rownum , rowid 这样的伪列，会不会还有行的scn的伪列呢。。果然oracle有 ---- ORA_ROWSCN
SQL> select * from t2;
ID
----------
0
SQL> select ora_rowscn , id from t2;
ORA_ROWSCN ID
---------- ----------
3489228 0
SQL> insert into t2 values (2);
1 row created.
SQL> commit;
Commit complete.
SQL> select ora_rowscn , id from t2;
ORA_ROWSCN ID
---------- ----------
3489228 0
3489004 2SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from t2;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-26 10:40:28 0
2018-02-28 10:35:45 2
Scn转换成时间：
select to_char(scn_to_timestamp(3489228),'YYYY-MM-DD HH24:MI:SS') from dual;
时间转换成scn：
select timestamp_to_scn(to_date('2011-04-14 11:10:25','YYYY-MM-DD HH24:MI:SS')) from dual;
简单的测试，结果很令人开心哈，毕竟不用改程序了。（我为人人做贡献的DBA）
开始在业务测试库中进行验证。
问题1： 遇到了 ORA-08181
ORA-08181: 指定的编号不是有效的系统更改号
ORA-06512: 在 "SYS.SCN_TO_TIMESTAMP", line 108181. 00000
- "specified number is not a valid system change number"
*Cause: supplied scn was beyond the bounds of a valid scn.
*Action: use a valid scn
刚一到测试系统就遇到了问题。
select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') ,acceptdate , t.* from policycopymain t;
**原因：
是因为ORA_ROWSCN是一个伪列，这伪列的存在依赖于建表时使用行记录时间跟踪的参数rowdenpendies。
select min(scn) from sys.smon_scn_time ;而min(scn) 最多只能五天内的。因为SMON_SCN_TIME记录5天的数据。
问题2：ora_rowscn不是很准
当我又连续的插入了几行数据的时候，出现了更新一个数据但是好多数据的ora_rowscn都变化为一样的了。
SQL> insert into t2 values (4);
1 row created.
SQL> insert into t2 values (5);
1 row created.
SQL> commit;
Commit complete.
SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from t2;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-26 10:40:28 0
2018-02-28 15:16:18 3
2018-02-28 15:16:18 4
2018-02-28 15:16:18 5
SQL> update t2 set id=6 where id=3;
1 row updated.
SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from t2;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-28 10:40:28 0
2018-02-28 15:16:18 6 ==>3
2018-02-28 15:16:18 4
2018-02-28 15:16:18 5
SQL> update t2 set id=7 where id=4;
1 row updated.
SQL> commit;
Commit complete.
SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from t2;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-26 10:40:28 0
2018-02-28 15:17:18 6
2018-02-28 15:17:18 7 ==>4
2018-02-28 15:17:18 5
**原因**
ora_rowscn分为两种模式:
- 一种是基于block这是默认的模式(块级跟踪,非行依赖性(NOROWDEPENDENCIES))；
- 一种是基于row上，这种模式只能在建里表时指定ROWDEPENDENCIES(行级跟踪)。
测试
SQL> create table td (id number) rowdependencies;
Table created.
SQL> insert into td values(1);
1 row created.
SQL> insert into td values (2);
1 row created.
SQL> commit;
Commit complete.
SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from td;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-28 15:19:46 1
2018-02-28 15:19:46 2 ===>same
SQL> update td set id=3 where id=1;
1 row updated.
SQL> commit;
Commit complete.
SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from td;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-28 15:20:07 3 ==> 1
2018-02-28 15:19:46 2
SQL> insert into td values (4);
1 row created.
SQL> insert into td values (5);
1 row created.
SQL> commit;
Commit complete.
SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from td;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-28 15:20:07 3
2018-02-28 15:19:46 2
2018-02-28 16:16:09 4
2018-02-28 16:16:09 5
SQL>
SQL> update td set id=10 where id=4;
1 row updated.
SQL> commit;
Commit complete.
SQL> select to_char(scn_to_timestamp(ora_rowscn),'YYYY-MM-DD HH24:MI:SS') , id from td;
TO_CHAR(SCN_TO_TIME ID
------------------- ----------
2018-02-28 15:20:07 3
2018-02-28 15:19:46 2
2018-02-28 16:16:48 10 ==>4
2018-02-28 16:16:09 5
在创建表的时候添加了ROWDEPENDENCIES属性还是非常好使的。
我们知道，每个Block在头部是记录了该block最近事务的SCN的，所以默认情况下，只需要从block头部直接获取这个值就可以了，不需要其他任何的开销，Oracle就能做到这一点。但是这明显是不精确的，一个block中会有很多行记录，每次事务不可能影响到整个block中所有的行，所以这是一个非常不精准的估算值，同一个block的所有记录的ORA_ROWSCN都会是相同的，基本上没有多大的使用价值。
问题3 ROWDEPENDENCIES会对数据库带来多少额外的性能影响呢
SQL> oradebug setmypid;
Statement processed.
SQL> oradebug tracefile_name;
/s01/10gdb/admin/clinica/udump/clinica_ora_12934.trc
block_row_dump:
tab 0, row 0, @0x1f88
tl: 24 fb: --H-FL-- lb: 0x0 cc: 2
dscn 0x0000.0351b8bd
col 0: [ 2] c1 02
col 1: [11] 78 6f 01 02 15 20 1a 21 d8 52 68
tab 0, row 1, @0x1f70
tl: 24 fb: --H-FL-- lb: 0x0 cc: 2
dscn 0x0000.0351b8c4
col 0: [ 2] c1 03
col 1: [11] 78 6f 01 02 15 20 26 02 ab c2 f8
/* 可以从block dump中看到每行都多出了dscn信息，这就是基于行追踪的行级ORA_ROWSCN信息的来源。
注意这里的dscn需要占用6个字节的空间，换而言之启用ROWDEPENDENCIES会为每一行多出6个字节的磁盘开销。
*/
那么1千万行的数据，将会有10MB存储容量的开销
扫一扫
7732
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
