Oracle数据库配置完全实战手册

To be DBA or not to be, that is NOT the question. ---- Arron

Oracle8以8.1.5为界分为普通版本和internet版本。普通版版本号8.0.x,接触较多的是8.0.5;internet版版本号包括8.1.5(Release 1),8.1.6(Release 2),8.1.7(Release 3)。普通版简称Oracle 8,internet版简称Oracle 8i。如果不作特别说明,文中凡出现Oracle 8i均指8.1.7版。
Oracle9i目前出到第二版,版本号为9.2,简称Oracle 9i。如果不作特别说明,文中凡出现Oracle 9i均指9.2版。
本手册介绍Oracle配置的基本方法,描述的是“所然”而不是“所以然”。全部操作以命令行方式出现,不涉及GUI(只有白刃战才是真正的战斗)。鉴于大家对Windows已经十分熟悉,同时为了避免Windows和Unix两种截然不同的使用和开发风格给描述带来的复杂性,所以本手册不介绍在Windows上的Oracle(上帝的归上帝,恺撒的归恺撒)。
文中所有例子以oradb作为数据库实例名,数据库用户dbuser,口令oracle。如果不作特别说明,关于Oracle 8i所有的例子都在Solaris 8 Intel Platform+Oracle 8iR3上通过,关于Oracle 9i所有的例子都在RedHat Linux 7.3+Oracle 9iR2上通过。附录文件sample.tar包含全部示例,简称附录。
大量使用表emp作为例子(参见附录08_proc/proc/single/emp.sql):
create table emp
(
no number(12) not null,
name char(20) not null,
age number(6) not null,
duty char(1) not null,
salary number(12) not null,
upd_ts date not null,
primary key (no)
);
开发中对应emp表结构,定义其宿主结构(参见附录08_proc/proc/single/db.h):
typedef struct
{
double no;
char name[21];
int age;
char duty[2];
double salary;
char upd_ts[15];
} emp_t;
修改历史:
2000/07 版本1.0
2000/09 版本1.1
增加Linux安装,export,import使用,数据库监控及优化(utlbstat,utlestat,分析session),语言时间环境变量设置,Oracle8.0.5手工建库脚本(wei_dick提供,稍加修改)
2000/10 版本1.2
修改Linux安装中RedHat 6.x+Oracle 8.1.6、数据库优化中配置文件和session分析、常用技巧中下载上传文本资料和访问他机数据库;增加创建数据库实例中资料字典参考、常用技巧中删除冗余记录、应用开发,常见错误
感谢liu_freeman,jiao_julian,huang_miles等人对开发工具所作的努力
2001/03 版本1.3
修改安装部分、init.ora配置、常用技巧、应用开发;增加手工建库、MTS配置;重写开发工具
感谢li_bo的大力帮助
2001/09 版本1.4
修改数据库优化,使之较系统化;增加应用开发中多线程下的数据库连接
2002/04 版本1.5
修改数据库优化、多线程条件下数据库编程;分离附录的程序范例
2002/12 版本2.0
重新安排内容,增加Oracle 9i安装配置、OCI开发、mysql安装配置开发,补充数据库优化、PROC开发


ORACLE傻 瓜 手 册 1
1 安装 6
1.1 通用设置 6
1.2 UnixWare7 7
1.2.1 Oracle 8 7
1.3 HP-UX 8
1.3.1 Oracle 8 8
1.4 Linux 9
1.4.1 kernel 2.0 & glibc 2.0 9
1.4.2 kernel 2.2 & glibc 2.1 9
1.4.3 kernel 2.4 & glibc 2.2 10
1.5 Solaris 11
2 创建 13
2.1 Oracle 8 & 8i 13
2.1.1 工具创建 13
2.1.2 手工创建 13
2.1.3 MTS(multi-threaded server) 14
2.1.4 调整临时表空间 15
2.1.5 调整回滚表空间 15
2.1.6 调整日志 15
2.1.7 调整用户表空间 16
2.1.8 创建用户 17
2.1.9 创建资料对象 17
2.1.10 创建只读用户 18
2.1.11 激活及关闭数据库实例 19
2.1.12 网络配置 19
2.2 Oracle 9i 21
2.2.1 手工创建 21
2.2.2 创建用户表空间 22
3 初始化文件配置 23
3.1 Oracle 8 & 8i 23
3.2 Oracle 9i 25
4 工具 26
4.1 sqlldr 26
4.2 exp 27
4.3 imp 28
4.4 sqlplus 29
4.4.1 命令行参数 29
4.4.2 提示符命令 29
4.4.3 SET选项 30
4.4.4 例子 30
5 备份及恢复 32
5.1 export与import方式 32
5.2 冷备份 32
5.3 联机全备份+日志备份 32
5.3.1 设置 32
5.3.2 步骤 33
5.3.3 恢复 33
5.4 注意要点 34
6 数据库优化 35
6.1 通用设置 35
6.1.1 硬件配置 35
6.1.2 应用配置 35
6.1.3 日常性能监控 36
6.2 实战分析 36
6.2.1 总体分析 37
6.2.2 详细分析 37
6.3 专题分析 39
6.3.1 巨表查询 39
6.3.2 对比测试 41
6.3.3 上下载数据 44
6.3.4 回滚空间快照陈旧(snapshot too old) 46
7 常用技巧 48
7.1 增加、更改和删除域 48
7.2 删除冗余记录 49
7.3 更改字符集 49
7.4 表数据迁移 50
7.5 成批生成资料 50
7.6 注意要点 51
8 嵌入式SQL(C) 53
8.1 编译 53
8.2 SQL语句 54
8.2.1 内部类型与宿主类型对应 54
8.2.2 连接和断开 54
8.2.3 事务 55
8.2.4 标准SQL语句 55
8.2.5 动态SQL语句 55
8.2.6 数组操作 56
8.3 编程框架 58
8.3.1 总体原则 58
8.3.2 单线程和多线程 59
8.3.3 开发工具 60
9 OCI—Oracle Call Interface 61
9.1 连接和断开 61
9.1.1 句柄层次 61
9.1.2 连接流程 61
9.1.3 断开流程 62
9.2 SQL语句 62
9.2.1 事务 62
9.2.2 无结果集的sql语句 63
9.2.3 有结果集的sql语句 63
9.2.4 LOB 65
9.3 编程框架 67
9.3.1 总体原则 67
9.3.2 sql语句 68
9.3.3 函数 69
10 附录—MYSQL 72
10.1 安装配置 72
10.2 管理 72
10.2.1 初始调整 72
10.2.2 建立用户对象 73
10.3 开发 73
10.3.1 连接和断开 73
10.3.2 无结果集的sql语句 74
10.3.3 有结果集的sql 74
10.3.4 错误处理 75


1 安装
所有参见内容都在附件01_install_02_create_03_init/下。
1.1 通用设置
文件系统swap
创建文件系统时应考虑Oracle对swap的需要,大约每个oracle服务进程将占用10-20Mswap空间,通常操作系统建议2倍于内存的swap空间,数据库系统可能要求更多些。
操作系统用户和环境变量
Oracle文档要求为数据库系统的管理和使用建立3个或更多的组,但这个需求是可以忽略的,实践中并没有体现其必要性。为简化操作起见,只建立dba组,即拥有更新软件和管理最高权限(SYSDBA)的操作系统用户组,此组称为OSDBA,属于此组的用户可以SYSDBA身份登录进任何一个数据库实例,简单的,只建立一个用户,习惯上使用oracle的名称。
$ groupadd dba
$ useradd –g dba –d /home/oracle –m –s /bin/bash oracle
确定oracle 系统的根目录ORACLE_BASE,如/opt/oracle,所有的软件和配置都在这个目录下展开,虽然并非一定需要如此,但这是一个良好的习惯。同时确定软件安装的起始点ORACLE_HOME,通常在ORACLE_BASE下。
修改oracle用户的.profile,加入以下各行,或者修改/etc/profile,使每一个用户都获得环境变量设置
umask 022
ORACLE_BASE=/opt/oracle
ORACLE_HOME=$ORACLE_BASE/product/{版本号}(如8.0.5,8.1.7,9.2.0等)
ORACLE_SID=oradb
ORACLE_TERM=ansi #仅与Oracle8字符接口安装有关
ORA_NLS33=$ORACLE_HOME/ocommon/nls/admin/data #字符集支持
NLS_LANG=American_America.{ZHS16CGB231280(Oracle8支持)|ZHS16GBK(Oracle8i支持)|ZHS16GB18030(Oracle9i支持)}
NLS_DATE_FORMAT=YYYYMMDDHH24MISS
LD_LIBRARY_PATH=$ORACLE_HOME/lib:$LD_LIBRARY_PATH #动态连接路径,Unixware中要确保/usr/ucb/lib在/usr/ccs/lib之后出现
TMPDIR=/tmp #安装中Oracle会在此目录下存储相当数量的档,所以TMPDIR所在的磁盘分区要确保空闲空间的大小,至少在1G左右
PATH=$PATH:$ORACLE_HOME/bin
export ORACLE_BASE ORACLE_HOME ORACLE_SID ORACLE_TERM ORA_NLS33 NLS_LANG NLS_DATE_FORMAT LD_LIBRARY_PATH TMPDIR
参见profile。
注意:
NLS_LANG=American_America.ZHS16CGB231280(ZHS16GBK)
“American”指显示信息时所用的语言,窃以为凭大家的英语水平足够应付,如改为SIMPLIFIED CHINESE,在不带中文支持的终端上就没人能看懂了。
“America”指地区
“ZHS16CGB231280”指Client工具使用的字符集,一般使用”ZHS16CGB231280”,Oracle8i已支持到”ZHS16GBK”
NLS_DATE_FORMAT=YYYYMMDDHH24MISS
Oracle的date类型过于灵活,为统一时间格式,利于编程,应将时间的输入输出格式限定为14位字符串,如”20000101235959”
据oracle文檔,此参数可按照session,操作系统用户环境,init.ora由高到低的优先级顺序设置,依次覆盖。
相关系统表:
v$nls_parameters v$nls_valid_values
X-Window
Oracle 8的安装程序是光盘mount点/bin/orainst,使用字符接口,不用考虑X-Window。
Oracle 8i和9i使用光盘mount点/runInstaller进行安装,它是用Java编写的图形接口,对中文处理有问题,所以应在进入X-Window前确保语言(LANG)和地域(LC_ALL,LC_TYPE,…)环境变量不是中文。
LANG=C
LC_ALL=C
安装选项
Oracle 8i的主要软件包在安装选项Enterprise中,但并不包括proc,必须进行第二次安装,可选择安装选项Client中的programmer。
Oracle 9i的主要软件包在安装选项Enterprise安装选项中,但并不包括proc,必须进行第二次安装,一定要选择安装选项Client中的Administrator。runInstaller的稳定性欠佳,建议每次安装结束后,先退出,再进行下一次安装。
1.2 UnixWare7
1.2.1 Oracle 8
确认操作系统的交换分区swap不少于350M
认为该打的补丁统统打上,宁滥毋缺。UnixWare7.0.1必须打的补丁为ptf7033,ptf7051,ptf7052,ptf7068,ptf7096。
将/etc/default/login中的ulimit设为大于2113674(稍大一点即可,太大会有问题)
将/etc/conf/node.d/async中的600改为666
修改以下核心参数
核心参数 必需值 解释
SHMMAX 2147483647 共享内存段最大尺寸
SHMMNI 100 系统共享内存段标识最大数目
SHMSEG 15 每个进程所能使用最大共享内存段数目
SEMMNI 100 核心信号量标识最大数目
SEMMSL 150 每个信号量标识包含的信号量个数
SCORLIM 0X7FFFFFFF Core文件最大尺寸
HCORLIM 0X7FFFFFFF
SDATLIM 0X7FFFFFFF 进程堆最大尺寸
HDATLIM 0X7FFFFFFF
SVMMLIM 0X7FFFFFFF 进程最大映像地址
HVMMLIM 0X7FFFFFFF
SFSZLIM 0X7FFFFFFF 进程档最大偏移量
HFSZLIM 0X7FFFFFFF
SFNOLIM 128 进程能打开的最大档个数
HFNOLIM 2048
NPROC 20+(8*MAXUSERS) MAX:125000
ARG_MAX 1,048,576
NPBUF 100 I/O缓冲区数目
MAXUP 1000 用户同时使用的最大进程个数
STRTHRESH 0X500000 流能使用的最大字节数

为优化应用系统修改以下核心参数
核心参数 参考值 解释
MSGMAX 8192 消息最大尺寸
MSGMNB 81920 消息队列尺寸
MSGMNI 2048 系统能并存的最大消息队列数目
MSGSSZ 16384
MSGTQL 4096 系统能并用的消息头数目
SEMMNI 1024
SEMMSL 150

也可通过编辑/etc/conf/cf.d/stune达到同样效果
重新连接内核,重起或运行/etc/conf/bin/idbuild –B
修改核心参数SEMMAP时,注意要同时修改/etc/conf/mtune.d/ipc中相应的MAX值
建立/var/opt/oracle,使oracle成为此目录属主
mount oracle光盘,通常mount目录为/SD-CDROM_1
root用户,ORACLE_OWNER=oracle,执行光盘上orainst中oratab.sh,建立/var/opt/oracle/oratab
安装时,选custom方式,安装时不建立数据库,字符集可选Simplified Chinese
1.3 HP-UX
1.3.1 Oracle 8
流程大致与unixware相同,调整kernel参数可通过sam,选择/Kernel Configuration/Actions/Apply Tuned Parameter Set/OLTP Database Server System,另外为提高I/O能力,还需调整以下参数:
核心参数 参考值 解释
bufpages 61992 缓冲页
dbc_max_pct 10 动态缓存占内存最大百分比
dbc_min_pct 10 动态缓存占内存最小百分比
nbuf
设定共享库目录SHLIB_PATH,不是LD_LIBRARY_PATH
SHLIB_PATH=$SHLIB_PATH:$ORACLE_HOME/lib;export SHLIB_PATH
1.4 Linux
1.4.1 kernel 2.0 & glibc 2.0
代表产品为Red Hat Linux 5.1。
Oracle 8在RedHat5.1上能成功安装,安装软件包为805ship.tgz
一般不会在RedHat5.1上安装Oracle8i以上的版本
修改共享内存最大尺寸限制:
在系统初始化脚本/etc/rc.d/rc.sysinit中加入:
echo 2147483648 >/proc/sys/kernel/shmmax
重启计算机。这样做避免了Oracle分配的共享内存碎片化,对提高效率有好处。
原$ORACLE_HOME/precomp/admin/pcscfg.cfg中sys_include有误,使proc预处理pc程序失败,安装结束后,应设为:sys_include=(/usr/include,/usr/lib/gcc -lib/i386-redhat-linux/egcs-2.91.66/include)(视gcc版本而定)
1.4.2 kernel 2.2 & glibc 2.1
代表产品为Red Hat Linux 6.2。
修改共享内存最大尺寸限制:
在系统初始化脚本/etc/rc.d/rc.sysinit中加入:
echo 2147483648 >/proc/sys/kernel/shmmax
重启计算机。这样做避免了Oracle分配的共享内存碎片化,对提高效率有好处。
原$ORACLE_HOME/precomp/admin/pcscfg.cfg中sys_include有误,使proc预处理pc程序失败,安装结束后,应设为sys_include=(/usr/include,/usr/lib/gcc -lib/i386-redhat-linux/egcs-2.91.66/include) (视gcc版本而定)
1.4.2.1 Oracle 8
本来已经很少有人在LinuxKernel2.2的系统中安装Oracle8.0.5,但笔者实在怀念8.0.5纯粹的文本接口和与之相处的无数不眠之夜,故收录如下:
Oracle8在kernel为2.2.x的linux中是无法正常运行的,运行可执行档如svrmgrl,sqlplus时会导致“Segmentation fault”,原因在于这些linux使用了默认的libc2.1,与Oracle8程序重连接所需的libc2.0不兼容。Oracle的补丁程序其实是将Oracle可执行程序的重连接脚本中libc位置重新定位到libc2.0上去,并用旧版的gcc,ld重新连接可执行档。为此必须先在系统中安装兼容库和相应工具。这是权宜之计,而且仅对RedHat有效。
root用户
rpm –ivh tcl-8.0.3-20.i386.rpm Oracle的Intelligent Agent要使用
rpm –ivh compat-binutils-5.2-2.9.1.0.23.1.i386.rpm
rpm –ivh compat-glibc-5.2-2.0.7.1.i386.rpm
rpm –ivh compat-egcs-5.2-1.0.3a.1.i386.rpm
rpm –ivh compat-egcs-c++-5.2-1.0.3a.1.i386.rpm
rpm –ivh compat-libs-5.2-1.i386.rpm
版本号可略有差异
oracle用户安装Oracle8.0.5但不创建instance,如选择安装文档,则会产生如下错误:
A write error occurred while try to copy ‘/home/oracle/setup_oracle/unixdoc/server.805/install/lnx_server.805.map’ to ‘/oracle/product/8.0.5/doc/server.805/install/lnx_server.805’(No such file or directory).
这是安装程序的一个bug—不能创建目录。可进入$ORACLE_HOME/doc,mkdir –p server.805/install,再选择Retry
ftp.oracle.com/pub/www/otn/linux下载glibcpatch.tgz,在某一目录(如~/patch)下展开
cd ~/patch
glibcpatch.sh
经过一段时间后,看到“Applied glibc patch for Oracle 8.0.5.x successfully”,表明补丁成功。此时就能成功创建instance。
1.4.2.2 Oracle 8i
推荐使用典型安装,否则会产生难以预料的错误。
1.4.3 kernel 2.4 & glibc 2.2
代表产品为Red Hat Linux 7.3,SuSE Linux 7.3。
1.4.3.1 Oracle 8i
与Oracle8在RedHat Linux 6.2上安装所遇到的问题一样,Oracle 8i使用的glibc 2.1与操作系统自带的glibc 2.2不能兼容,解决的方法也一样,要安装glibc 2.1的兼容库,并重新连接Oracle各组件。
除非万不得已,不建议使用兼容方式,因此省略安装步骤,可参阅网上有关文档。
1.4.3.2 Oracle 9i
RedHat 7.3
修改共享内存最大尺寸限制:
在系统初始化脚本/etc/rc.d/rc.sysinit中加入:
echo 2147483648 >/proc/sys/kernel/shmmax。
修改信号量参数:
在系统初始化脚本/etc/rc.d/rc.sysinit中加入:
echo 250 32000 100 128 >/proc/sys/kernel/sem。
这4个参数依次为SEMMSL(每个用户拥有信号量最大数量),SEMMNS(系统信号量最大数量),SEMOPM(每次semop系统调用操作数),SEMMNI(系统信号量集最大数量),事实上只有SEMOP是需要调整的。
重启计算机。
在连接可执行档过程中,会发生中断,打开$ORACLE_HOME/ctx/lib/env_ctx.mk,找到INSO_LINK,在-L$(CTXLIB) -L$(LDLIBFLAG)m后加入-L$(LDLIBFLAG)dl,重试。
SuSE 7.3
与RedHat类似,但SuSE没有/etc/rc.d/rc.sysinit,笔者选择/etc/rc.d/rc,将核心参数修改添加到最后exit语句之前。
安装过程中没有发生任何问题。
1.5 Solaris
Oracle 8i在Solaris 7,8 Intel Platform上均能顺利安装,未测试Solaris Sparc Platform。
Oracle 9i目前无Solaris Intel Platform上的版本,由于条件所限,未测试在Solaris Sparc Platform上的Oracle 9i。
修改下列核心参数:
核心参数 参考值 解释
shmmax 物理内存/2 共享内存段最大尺寸
shmmin 1 共享内存段最小尺寸
shmmni 100 系统共享内存段标识最大数目
shmseg 10 每个进程所能使用最大共享内存段数目
semmni 100 系统信号量标识最大数目
semmsl init.ora.processes+10 每个信号量标识包含的信号量数目
semmns sum(init.ora.processes)*10+max(init.ora.processes)+count(init.ora)*10 系统信号量最大数目
semopm 100 每个semop调用最大操作数目
rlim_fd_max 4096 系统文件句柄最大数目
rlim_fd_cur 1024 每个进程档句柄最大数目
修改/etc/system,并重启使核心参数生效
例:
set shmsys:shminfo_shmmax=2147483648
set shmsys:shminfo_shmmin=1
set shmsys:shminfo_shmmni=100
set shmsys:shminfo_shmseg=10

set semsys:seminfo_semmni=200
set semsys:seminfo_semmsl=200
set semsys:seminfo_semmns=1000
set semsys:seminfo_semopm=100
set semsys:seminfo_semmap=200
set semsys:seminfo_semmnu=250
set semsys:seminfo_semvmx=32767

set msgsys:msginfo_msgmni=200
set msgsys:msginfo_msgmap=200
set msgsys:msginfo_msgmax=65536
set msgsys:msginfo_msgmnb=655360
set msgsys:msginfo_msgssz=64
set msgsys:msginfo_msgtql=1000
set msgsys:msginfo_msgseg=16384

set rlim_fd_max=4096
set rlim_fd_cur=1024
参见solaris_7_8/system
注意:
一定要先重建好kernel后再安装,因为oracle安装时根据kernel动态连接程序,如果先安装oracle,即使随后正确调整kernel,也会带来许多问题,如oracle进程不能拉起,instance创建失败等。
在kernel参数中,对数据库运行影响最大的主要是SHMMAX,SEMMNS,SEMMNI,SEMMSL,SHMMAX取内存一半即可,SEMMNS理论上应等于SEMMNI*SEMMSL,实际取一个较大值即可。
SEMMNS: 信号量最大个数,有些系统可忽略,因为他与SEMMNI,SEMMSL有关。


2 创建
所有参见内容都在附件01_install_02_create_03_init/下。
以oracle用户进行操作,设定数据库实例名为oradb(长度建议不要超过8个字符)。
2.1 Oracle 8 & 8i
2.1.1 工具创建
Oracle 8
运行$ORACLE_HOME/bin/orainst(安装数据库时必须选中oracle installer),选择create database object,安装接口中选Oracle Enterprise Server(RDBMS)
mount point暂为$ORACLE_BASE,字符集为ZHS16CGB231280或ZHS16GBK,调整system,tools,users,rbs,temp,redolog等尺寸。
创建过程中会提示输入osdba,osoper的UNIX组,这是向instance表明此组的成员享有角色sysdba或sysoper的权限,从而用connect / as sysdba替换掉connect internal
Oracle 8i
进入X WINDOW,运行dbassist
2.1.2 手工创建
任何工具都有其局限性,熟练的数据库管理员可采用手工方法创建数据库,以增加对系统的灵活控制。
对于手工建库Oracle 8与Oracle 8i的区别主要是建立的资料字典和存储过程有些不同,Oracle8i的dbassistant可以生成建库脚本供以后使用。
取得/8i/initoradb.ora,编辑如db_name,control_file,dump_dest等参数,以符合实际情况。如不需要生成remote_login_passwordfile,可在initoradb.ora中设remote_login_passwordfile=none;如需要,在initoradb.ora中设remote_login_passwordfile=exclusive,运行orapwd file=<file> password=<password>
必须创建新生成档所要用到的目录,如在配置文件中指定的bdump,cdump,udump等目录,以及数据文件存储目录。
将initoradb.ora转移到$ORACLE_BASE/admin/oradb/pfile/,并连接到$ORACLE_HOME/dbs/initoradb.ora。
ln –s $ORACLE_BASE/admin/oradb/pfile/initoradb.ora $ORACLE_HOME/dbs/initoradb.ora
取得8i/createdb.sh,编辑如pfile,数据文件目录等参数,以符合实际情况,并转移到$ORACLE_BASE/admin/oradb/create/下,执行。
相关系统表:
v$database
v$datafile(file#,ts#,name)
v$tablespace(ts#,name)
v$parameter(SQL>show parameter)
v$sga(SQL>show sga)
2.1.3 MTS(multi-threaded server)
Oracle8使用两种配置模式:dedicated server(专用模式)和shared server(即multi-threaded server共享模式),缺省使用专用模式。在连接数不很大且保持长期连接的情况下,专用模式为每个连接设立一个专用oracle服务进程,以保持较高的性能和稳定性。而当连接数上升到非常高的数目且不保持长期连接时,数据库管理开销增大,并且占用大量系统资源,给操作系统形成带来极大的压力。在这种情况下,共享模式更为有利,它通过缓冲池和预先设定数目的server提供服务,每个连接不再有专用的oracle服务进程,每次SQL操作由分配器(dispatcher)确定oracle服务进程。
multi-thread仅表示分配器展开的多个服务流程,并非操作系统意义上的多线程
配置:
 initoradb.ora
加入
mts_dispatchers = “(address=(protocol=TCP))(dispatchers=10)” #初始分配器数量
mts_max_dispatchers = 15 #最大分配器数量
mts_servers = 50 #初始服务进程数量
mts_max_servers = 80 #最大服务进程数量
mts_service = oradb3 #MTS方式下对外提供的数据库服务,非service_name
表明instance能够提供MTS服务,不意味着取消dedicated方式
 listener.ora
应删除所有SID_LIST,SID_LIST的存在决定LISTENER以dedicated还是shared方式激活oracle连接。如SID_LIST存在,LISTENER不再接受instance的登记,以dedicated方式激活oracle连接; 如SID_LIST不存在,LISTENER激活时不为任何instance服务,由instance来登记MTS service,以shared方式激活oracle连接
 client
MTS在client端配置颇为怪诞,在tnsnames.ora中的host一定要写数据库server的名字,而且必须作全名解析,似乎server端接收到client端请求后会将主机字符串返回,应此client端必须能够解析,否则会报出诸如“database service not exist”的错误
tnsnames.ora
dbserver.soar.com =
(DESCRIPTION =
(ADDRESS_LIST =
(ADDRESS=(PROTOCOL=TCP)(HOST= dbserver)(PORT = 1521))
)
(CONNECT_DATA =(SERVICE_NAME = oradb))
)
/etc/hosts
10.0.0.1 dbserver.soar.com dbserver
激活:先起LISTENER,后起instance
以下步骤均在数据库open状态下,由system用户完成
2.1.4 调整临时表空间
alter tablespace temp temporary; #Oracle8的orainst没有将temp的缺省值permanent改为temporary,这样用户在temp上暂存的资料均为永久对象,很快将temp空间耗完。Oracle8i已修正。
SQL>alter tablespace temp default storage (initial 128k next 128k maxextents 5000 pctincrease 0);
SQL查询操作如group by,order by,distinct,join等需要在临时段上展开资料,须充分考虑临时段的大小。
如果实例激活参数指定hash_join_enabled=true(缺省为true),当oracle选择以hash join方式进行表与表的联接,oracle根据查询操作的实际情况计算出hash_multiblock_io_count,此参数从属于session,平时显示为0,即hash join一次I/O读写需要的连续资料空间。这样当此参数大于临时段的next扩展块时,hash join操作会中断。如果预知联接表的规模比较巨大,可使用alter tablespace temp default storage(next …)将next值设为较大值,待全部操作完成后,再恢复正常。
2.1.5 调整回滚表空间
先将建库工具缺省设定的若干个回滚段删除
SQL>alter rollback segment r01 offline;
SQL>drop rollback segment r01;
根据实际需要创建回滚段(如r01-r10),供联机处理和批处理使用
SQL>create rollback segment r01 storage(initial 128k next 128k maxextents 5000 optimal 5M) tablespace rbs;
SQL>alter rollback segment r01 online;
注意修改$ORACLE_HOME/dbs/initoradb.ora中的激活回滚段段名
另创建一个尺寸无限制的回滚段(r99),供特殊用途
SQL>create rollback segment r99 storage(initial 128k next 128k maxextents 5000) tablespace rbs;
如果在创建回滚段时使用create public rollback segment,则不需要在$ORACLE_HOME/dbs/initoradb.ora中用rollback_segment=(…)选项激活,推荐使用public方式
相关系统表:
SQL>select segment_name, initial_extent, next_extent, max_extents, extents,bytes from dba_segments where segment_type=’ROLLBACK’; #回滚段占用空间状况
SQL>select segment_name, status from dba_rollback_segs; #回滚段状态
2.1.6 调整日志
建立日志组
SQL>alter database add logfile group x(‘log1a’,’log1b’) size 10M;
增加日志组成员
SQL>alter database add logfile member ‘log1c’ to group x;
删除日志
数据库实例至少需要2个日志组,只有状态为inactive的日志组才能被删除,而当前日志组状态为current,上一个切换的日志组状态为active,这就意味着至少存在3个日志组才能删除其中的一个,如果要更新全部日志组,只能删除一个,再创建一个,直至全部被更新。
SQL>alter database drop logfile group x;
如果要删除的日志组是当前日志组,必须先将其切换至状态为inactive,再删除。
SQL>alter system switch logfile;
删除日志组成员
SQL>alter database drop logfile member ‘log1c’;
相关系统表
v$log #日志组状态、占用空间、顺序号等
v$logfile #日志组文件
2.1.7 调整用户表空间
创建表空间
假定表数据在ts_data,索引在ts_index
SQL>create tablespace ts_data default storage(initial 10M next 10M maxextents 5000 pctincrease 0) datafile ‘path/data_01.dbf’ size 500M;
SQL>create tablespace ts_index default storage(initial 5M next 5M maxextents 5000 pctincrease 0) datafile ‘path/index_01.dbf’ size 500M;
参考命令:删除表空间
SQL>drop tablespace data including contents; #删除表空间及其包含的所有资料对象
相关系统表:
user(dba)_tablespaces
增加表空间尺寸
假定表空间ts_data由path/data_01.dbf和path/data_02.dbf(500M)组成
增加一个数据文件:
SQL>alter tablespace ts_data add datafile ‘path/data_03.dbf’ size 500M;
扩大原有档大小:
SQL>alter database datafile ‘path/data_01.dbf’ resize 1000M;
移动表空间数据文件
假如要求为:将path1下data_01.dbf移至path2下,并把文件名改为data01.dbf
实例处于关闭状态
sqlplus “/ as sysdba”
SQL>startup mount
回到shell环境下
$ mv path1/data_01.dbf path2/data01.dbf
$ mv path1/data_02.dbf path2/data02.dbf
再到sqlplus环境中
SQL>alter database rename file ‘path1/data_01.dbf’ to ‘path2/data01.dbf’;

SQL>alter tablespace tbsdata rename datafile ‘path/data_01.dbf’ to ‘path2/data01.dbf’;
SQL>alter database open;
查看剩余空间
SQL>select tablespace_name,sum(bytes),max(bytes) from dba_free_space group by tablespace_name;
注意:空闲数据块总和sum(bytes)够用并不意味每个空闲块都满足分配需要,所以当表空间不够分配扩展块的时候,还要查看最大空闲数据块max(bytes)的大小。
合并空闲块
如果表空间上的资料对象经常发生类似drop-create的变动,加之未采用统一的扩展块尺寸,使那些采用较大扩展块的资料对象不能利用较小的空间碎片,造成空间浪费。可通过将较小的空闲块合并成较大的空闲块的方法,减少空间浪费。
SQL>alter tablespace tbsdata coalesce;
2.1.8 创建用户
SQL>create user dbuser identified by oracle default tablespace data temporary tablespace temp quota unlimited on data quota 0 on system quota 0 on tools quota 0 on users;
SQL>grant connect to dbuser;
SQL>grant create procedure to dbuser; #这些权限足够用于开发及生产环境
SQL>grant select on dba_pending_transactions to dbuser; #二阶段提交过程中类似Tuxedo的软件需要检索挂起交易的状态,所以必须得到对此视图的select权限,以sys用户身份赋予
修改用户可使用alter user dbuser ...
参考命令:
drop user dbuser cascade; #删除用户及其所有的资料对象
revoke connect from dbuser; #取消用户角色权限
相关系统表:
user(dba)_users
user(dba)_role_privs 角色权限
user(dba)_sys_privs 系统权限
user(dba)_tab_privs 对其他用户表操作的权限
user_ts_quotas 表空间限额
2.1.9 创建资料对象
相关系统表:
user_catalog(cat)
user_objects(obj)

表和索引建立在表空间上,如果不指定表空间,使用本用户的缺省表空间(default tablespace);如果不指定本对象的存储参数,使用建于其上的表空间的缺省存储参数(default storage)。
表(table)
建表脚本通常是以下形式:
create table emp (no number(12), name char(20), …,constraint emp_x00 primary key(no)) storage(initial 100M next 100M pctincrease 0 maxextents 5000) pctused 70 pctfree 10 tablespace tbs_data enable primary key using index tablespace tbs_index;
然而从简化资料对象配置、减少表空间碎片的角度考虑,不推荐为每张表单独指定storage选项,存储参数使用建于其上的表空间的缺省存储参数。不同表对扩展块大小的要求,可以通过分析归类,建立相应具有不同缺省存储参数的表空间的方法解决。这样数据库设计就能变得简洁明了。
命令简化为:
create table emp (no number(12), name char(20), …, constraint emp_x00 primary key(no))pctused 70 pctfree 10 tablespace tbs_data enable primary key using index tablespace tbs_index;
primary key关键词建立同名的primary key constraint和unique index,表的每个域都有自身的constraint。
相关系统表:
user_tables(tabs),dba_tables #表属性
user_tab_columns(cols),dba_tab_columns #表各列属性
索引(index)
create index emp_x01 on emp(name) storage(initial 10M next 10M pctincrease 0 maxextents 5000) pctfree 10 tablespace tbs_index;
可参照表对storage的处理方式。
create index emp_x01 on emp(name) pctfree 10 tablespace tbs_index;
相关系统表:
user_indexes(ind),dba_indexes #索引属性
user_ind_columns,dba_ind_columns #索引各列属性,以index_position为顺序
序列(sequence)
create sequence emp_seq increment by 1 start with 1 nomaxvalue nocycle;
相关系统表:
user(dba)_sequences(seq) 序列属性
视图(view)
create emp_depart_view as select emp.name,emp_duty.name from emp,emp_duty where emp.duty=emp_duty.duty;
相关系统表:
user(dba)_views 视图属性
Oracle将view,sequence,用户参数等定义均存放于系统表空间,而用户创建的表空间仅存放table,index实体,因此可以大胆删除用户表空间,再用备份重新恢复,不必担心view,sequence等会被一并删去。
2.1.10 创建只读用户
假定数据库用户dbbrsr需要对dbuser的表emp拥有select权力
connect dbuser
grant select on emp to dbbrsr
connect dbbrsr
create synonym emp for dbuser.emp;
这样,dbbrsr就能象使用自己的表一样对dbuser的表执行select操作
2.1.11 激活及关闭数据库实例
oracle用户,dbstart和dbshut激活及关闭/var/opt/oracle/oratab或/etc/oratab中设定的数据库实例,dbstart采用normal方式,dbshut采用immediate方式。
或者使用手工方式
sqlplus “/ as sysdba”
激活
normal
SQL>startup
mount
SQL>startup mount; #激活实例进程,加载数据库文件,允许DBA权限的某些操作,但禁止对数据库文件的一般性操作
SQL>完成某些操作
SQL>alter database open;
nomount
SQL>startup nomount; #激活实例进程,但不允许访问数据库,常用于创建数据库、介质恢复或创建controlfile
SQL>完成某些操作
SQL>alter database open;
关闭
normal
SQL>shutdown或SQL>shutdown transactional; #等待每个连接交易完成后,切断连接,再关闭数据库
immediate
SQL>shutdown immediate; #立刻中止每个连接,交易回滚
abort
SQL>shutdown abort; #立刻关闭数据库,不保证交易完整性,在下一次激活打开数据库文件时会进行介质恢复
2.1.12 网络配置
假定某一台机器为client,ORACLE_SID为oraclient,数据库用户为dbclient;另一台机器为server,ORACLE_SID为oraserver,数据库用户为dbserver在server上$ORACLE_HOME/dbs/initoraserver.ora中有以下设定:
db_name = oraserver
instance_name = oraserver
Oracle 8i
service_names=oraserver
2.1.12.1 TNS
Client端配置
修改$ORACLE_HOME/network/admin/tnsnames.ora,增加一条PROTOCOL=TCP的记录。
Oracle8
db_server
(DESCRIPTION =
(ADDRESS = (PROTOCOL= TCP)(Host= server)(Port= 1521))
(CONNECT_DATA = (SID = oraserver))
)
Oracle8i
db_server
(DESCRIPTION =
(ADDRESS = (PROTOCOL= TCP)(HOST= server)(PORT= 1521))
(CONNECT_DATA = (SERVICE_NAME=oraserver
)
HOST可在/etc/hosts或DNS中配置,或直接写上IP地址
sqlplus
dbserver/passwd@db_server
Server端配置
修改$ORACLE_HOME/network/admin/listener.ora
在LISTENER中增加ADDRESS的记录
LISTENER =
(DESCRIPTION_LIST =
(DESCRIPTION =
(ADDRESS_LIST =
(ADDRESS = (PROTOCOL = IPC)(KEY = EXTPROC0))
(ADDRESS = (PROTOCOL = TCP)(HOST = server)(PORT = 1521))
)
)
)
在SID_LIST_LISTENER中增加SID_DESC记录
SID_LIST_LISTENER =
(SID_LIST =
(SID_DESC =
(SID_NAME = PLSExtProc)
(ORACLE_HOME = /opt/oracle/app/oracle/product/8.1.5)
(PROGRAM = extproc)
)
(SID_DESC =
(GLOBAL_DBNAME = oraserver)
(ORACLE_HOME = /opt/oracle/app/oracle/product/8.1.7)
(SID_NAME = oraserver)
)
)
HOST可在/etc/hosts或DNS中配置,或直接写上IP地址
注意:LISTENER和SID_LIST_LISTENER是成对出现的,可配置多个监听服务进程和相应的SID_LIST,如LISTENER_1和SID_LIST_LISTENER_1
2.1.12.2 DB Link
如果client的instance需要在访问本地资料对象同时访问server中的资料对象,可在instance中创建对server的数据库连接,实现间接访问
在tnsnames.ora中建立“db_server”配置
sqlplus dbclient/passwd1
SQL>create database link server_link connect to dbserver identified by passwd using ‘db_server’;
使用
emp@server_link访问server上的emp,如同访问本地instance中的资料对象一样。为了更方便的使用,可建立synonym
2.2 Oracle 9i
Oracle 9i相较于Oracle 8&8i,在兼容Oracle 8&8i的基础上,回滚和临时表空间配置发生比较大的变化,导致建库操作出现一些不同。在数据库配置文件initoradb.ora中有关于回滚表空间的选项,详细情况在“数据库配置”中解释。而且Oracle 9i简化了表空间的创建。所以此小节主要描述Oracle 9i相对于Oracle 8i的差异,其它相同的操作可参考Oracle 8i。
2.2.1 手工创建
由于在Oracle 9i中工具dbassist的使用方法与在Oracle 8i中类似,因此工具建库过程省略,只记录手工建库过程
Oracle 9i中的建库过程已经变得极为简洁,大致如下:
create database ${ORACLE_SID}
user sys identified by sys
user system identified by system
logfile group 1 (‘${ORACLE_BASE}/oradata/${ORACLE_SID}/redo01.log’) size 10M,
group 2 (‘${ORACLE_BASE}/oradata/${ORACLE_SID}/redo02.log’) size 10M,
group 3 (‘${ORACLE_BASE}/oradata/${ORACLE_SID}/redo03.log’) size 10M
maxlogfiles 5
maxlogmembers 5
maxloghistory 1
maxdatafiles 254
maxinstances 1
archivelog
character set ZHS32GB18030
national character set AL16UTF16
datafile ‘${ORACLE_BASE}/oradata/${ORACLE_SID}/system01.dbf’ size 300M
default temporary tablespace tbstemp tempfile ‘${ORACLE_BASE}/oradata/${ORACLE_SID}/temp01.dbf’ size 500M
undo tablespace tbsundo datafile ‘${ORACLE_BASE}/oradata/${ORACLE_SID}/undo01.dbf’ size 500M;
其特点为使用专用的回滚和临时表空间,而不象Oracle 8i中的那样,回滚和临时表空间与普通表空间没有差异,这样既简化了配置也有利于效能提高。要注意临时表空间的指定文件关键词是tempfile而不是通用的datafile,而且临时表空间的存储选项必须为uniform,由Oracle系统决定。同样回滚表空间也是由Oracle系统决定。不必人工干预。
Oracle 9i在$ORACLE_HOME/dbs下可使用二进制配置文件,缺省为spfile{实例名}.ora,如spfileoradb.ora,支持Oracle系统进程在不重启的情况下动态调整参数,这对要求不间断运行的系统是有利的。在建库阶段就可将此配置文件创建起来。
create spfile from pfile= ‘${ORACLE_BASE}/admin/${ORACLE_SID}/init${ORACLE_SID}.ora
完整步骤见/9i/createdb.sh,编辑如pfile,数据文件目录等参数,以符合实际情况,并转移到$ORACLE_BASE/admin/oradb/create/下,执行。
2.2.2 创建用户表空间
Oracle 9i对于表空间管理一个明显的变化是改数据字典管理(extent management dictionary)为表空间本地管理(extent management local),还可以根据建立的资料对象对空间的要求自动确定扩展块的大小(autoallocate),最小为64K,这两项都是创建表空间的缺省选项。
create tablespace tbsdata datafile ‘…’ [ extent management local ] [ autoallocate ];
而对于指定每个扩展块大小的创建策略,设立了新选项:统一扩展块大小(uniform [size xxx[K|M]]),可覆盖autoallocate选项,如果不加上具体的size xxx[K|M],缺省为1M,这样就不必考虑Oracle 8i中的如initial,next,pctincrease,maxextents等default storage参数应如何组合,事实上Oracle 8i的这些设置原本就没有什么意义。
不能够同时指定extent management local和default storage,换言之,default storage只能和extent management dictionary一起显式指定。
如果未指定extent management的类型,Oracle 9i缺省使用local方式,如果又同时使用default storage选项,就有以下的判断:
如果使用minimun extent,Oracle检查是否minumum extent=initial=next且pctincrease=0,如是,Oracle使用uniform选项,size=initial;如不是,Oracle忽略指定选项,使用autoallocate。
如果未指定minimum extent,Oracle检查是否initial=next且pctincrease=0,如是Oracle使用uniform选项,size=initial;如不是Oracle忽略指定选项,使用autoallocate。
为了避免与Oracle 8i的习惯做法混淆,建议只使用Oracle 9i较简洁的方法。
对于存储少量静态资料的表空间来说,如配置信息等,可简单地写为:
create tablespace tbsdata datafile ‘…’;
对于必须关心其扩展块大小的表空间,如大批量的记录或索引,可简单地写为:
create tablespace tbsdata datafile ‘…’ uniform size 10M;

 

3 初始化文件配置
所有参见内容都在附件01_install_02_create_03_init/下。
描述initoradb.ora中各选项。
3.1 Oracle 8 & 8i
具体参见8i/initoradb.ora。
db_block_size
数据库基本数据块尺寸,字节为单位。
当涉及到大量资料交换时,例如export/import操作时,此参数对数据库性能有非常大的影响,设定一个较大的值,有利于提高资料吞吐量,但由于db block是档和内存之间交换的基本单位,过大的值反而会交换不需要的记录,增加额外的I/O。
一般取8k就已能获得较满意效果。
db_block_buffers
资料缓冲区,db_block_size为单位,不超过1/4内存
计算查询缓冲命中率:
SELECT name, value FROM v$sysstat WHERE name IN (‘db block gets’, ‘consistent gets’, ‘physical reads’);
Hit Ratio = 1 – ( physical reads / (db block gets + consistent gets) )
SELECT name, phyrds, phywrts FROM v$datafile df, v$filestat fs WHERE df.file# = fs.file#
db block gets:在内存buffer中的命中次数
consistent gets:一致性命中次数,指在内存buffer中未命中,但从回滚段或数据文件中获得命中
physical reads:在数据文件中的读次数
注意:一般HitRatio达到90%以上就可以认为已达到优化,这个数值应在系统运行稳定后进行统计。
shared_pool_size
资料字典和SQL操作缓冲区,字节为单位,不超过1/4内存
select (sum(pins – reloads)) / sum(pins) “Lib Cache” from v$librarycache;
select (sum(gets – getmisses – usage – fixed)) / sum(gets) “Row Cache” from v$rowcache;
select * from v$sgastat where name = ‘free memory’
注意:Cache命中率达到95%以上就可以认为已达到优化,这个数值应在系统运行稳定后进行统计
log_checkpoint_interval
日志提交点数据量间隔
以操作系统block(通常512-byte)为单位,当日志累计至此参数,会使sga中dirty buffer被同步至数据文件,日志切换时也会引起此操作,如设为0,则相当于无限大,此参数失去作用,日志提交仅依靠日志文件的切换。
应选择适当大小的日志文件,同时使log_checkpoint_interval略大于日志文件或设为0。原则上应该避免过于频繁的checkpoint操作,控制在30分钟以上为好。
推荐此参数设为0。
log_buffer
线上日志缓冲,字节为单位,512K或128K*CPU数量,取较大值
processes和sessions
dedicated server模式下每一个连接都有一个Oracle服务进程(process)为之服务,这个连接本身也就是一个会话(session)。
shared server模式下所有连接共享一个Oracle服务进程池,这样process和session就不再是一一对应,sessions要大于processes。
sort_area_size和sort_area_retained_size
排序缓冲区,字节为单位。
当排序记录被全部取走后,缓冲区缩减到sort_area_retained_size,为减少缓冲区缩放的开销,可使sort_area_size和sort_area_retained_size取相同值。
hash_area_size
hash join缓冲区,字节为单位,缺省为2*sort_area_size。
db_file_multiblock_read_count
每次读取的db block数,对大规模查询性能有提高,特别是表扫描效率。线上系统应避免这种类型的查询。
db_writer_processes
同步数据进程数,与checkpoint的频率和数据量有关。
db_block_lru_latches
LRU锁集,一般设为CPU数目。RedHat Linux 6.x下的Oracle 8.1.6设此参数会导致系统挂起,疑对smp支持有问题
log_archive_start
系统激活时是否同时激活归档进程(archive)。
log_archive_dest_1
归档日志目录,最后的标号表明归档线程编号,一般只用1。
log_archive_format
归档日志名称,%t指归档线程编号, %s指归档日志序列号
rollback_segments
如果创建回滚段(rollback segment)时不使用public选项,那就是使用私有的回滚段,这样就必须在系统激活时激活。
推荐使用public rollback segment的做法,这个选项可以废弃。
background_dump_dest
Oracle系统进程记录log和trc目录。
alert_{实例名}.log以文本方式记录系统激活、关闭、出错、存储变化、日志切换等log信息。
系统进程以各自名称和进程号记录错误信息,文件以trc为后缀,文本格式。
core_dump_dest
Oracle服务进程的core dump目录。
user_dump_dest
Oracle服务进程以各自名称和进程号记录错误信息,文件以trc为后缀,文本格式。
3.2 Oracle 9i
参见9i/initoradb.ora。
pga_aggregate_target
以K、M、G为单位
sort, group-by, hash-join, bitmap merge, bitmap create等对内存有一定需求的SQL操作,都由此选项统一动态分配内存区域大小,因此Oracle 8i中如sort_area_size,sort_area_retained_size,hash_area_size,bitmap_merge_area_size等选项可以废弃。
db_cache_size
资料缓冲区,以K、M、G为单位,自动对齐到粒度单位。
取代Oracle 8i的db_block_buffers选项。
undo_management
回滚空间管理模式,缺省为manual,使用回滚段(rollback segment),如设为auto,则使用Oracle 9i的回滚表空间。此选项决定了以下关于undo的其它选项。
undo_retention
已提交资料在回滚表空间中保留时间,以秒为单位,缺省900。
当某些较长时间的查询需要通过回滚数据重构老数据块的时候,此选项可使新事务尽可能使用空闲的回滚表空间,这样就减少了查询过程因snapshot too old而失败的几率。
然而当空闲回滚表空间不足以应付新事务时,系统仍然会重用此选项保留的空间,因此不能保证长查询一定能成功执行完毕。
undo_tablespace
指定系统激活时的回滚表空间。


4 工具
所有参见内容都在附件04_tool/下。
在《优化》一节中讨论以下工具使用的效率。
4.1 sqlldr
参见sqlldr/。
用于将格式化的文本资料上载到表中去
以表emp为例
首先编写一个控制命令的脚本档,通常以ctl结尾,内容如下:
emp.ctl
load data
append
into table emp
fields terminated by ‘|’
(
no float external,
name char(20),
age integer external,
duty char(1),
salary float external,
upd_ts date(14) ‘YYYYMMDDHH24MISS’
)
括号里对数据文件里每个数据域进行解释,以此在上载时与目标表进行比对。
除了append外,还有insert、replace、truncate等方式,与append大同小异,不作更多的解释。
再将上载资料组织成数据文件,通常以dat结尾,内容如下:
emp.dat
100000000001|Tom|000020|1|000000005000|20020101000000
100000000002|Jerry|000025|2|000000008000|20020101235959
分隔符要与ctl檔中fields terminated by指定的一致,这个例子中为“|”
ctl和dat档就绪后可以执行上载,命令为:
sqlldr dbuser/oracle control=emp.ctl data=emp.dat
也可以将dat档合并在ctl檔中,ctl档改写为:
emp2.ctl
load data
infile *
append
into table emp
fields terminated by ‘|’
(
no float external,
name char(20),
age integer external,
duty char(1),
salary float external,
upd_ts date(14) ‘YYYYMMDDHH24MISS’
)
begindata
100000000003|Mulder|000020|1|000000005000|20020101000000
100000000004|Scully|000025|2|000000008000|20020101235959
控制文件中infile选项跟sqlldr命令行中data选项含义相同,如使用infile *则表明资料在本控制文件以begin data开头的区域内。
这样命令变成:
sqlldr dbuser/oracle control=emp2.ctl
conventional path
通过常规信道方式上载。
rows:每次提交的记录数
bindsize:每次提交记录的缓冲区
readsize:与bindsize成对使用,其中较小者会自动调整到较大者
sqlldr先计算单条记录长度,乘以rows,如小于bindsize,不会试图扩张rows以填充bindsize;如超出,则以bindsize为准。
命令为:
sqlldr dbuser/oracle control=emp.ctl log=emp.log rows=10000 bindsize=8192000
direct path
通过直通方式上载,不进行SQL解析。
命令为:
sqlldr dbuser/oracle control=emp.ctl log=emp.log direct=true
4.2 exp
参见dmp/exp_demo.sh。
将数据库内的各对象以二进制方式下载成dmp文件,方便资料迁移。
buffer:下载资料缓冲区,以字节为单位,缺省依赖操作系统
consistent:下载期间所涉及的资料保持read only,缺省为n
direct:使用直通方式 ,缺省为n
feeback:显示处理记录条数,缺省为0,即不显示
file:输出档,缺省为expdat.dmp
filesize:输出文件大小,缺省为操作系统最大值
indexes:是否下载索引,缺省为n,这是指索引的定义而非数据,exp不下载索引数据
log:log档,缺省为无,在标准输出显示
owner:指明下载的用户名
query:选择记录的一个子集
rows:是否下载表记录
tables:输出的表名列表
下载整个实例
exp dbuser/oracle file=oradb.dmp log=oradb.log full=y consistent=y direct=y
user应具有dba权限
下载某个用户所有对象
exp dbuser/oracle file=dbuser.dmp log=dbuser.log owner=dbuser buffer=4096000 feedback=10000
下载一张或几张表
exp dbuser/oracle file=dbuser.dmp log=dbuser.log tables=table1,table2 buffer=4096000 feedback=10000
下载某张表的部分资料
exp dbuser/oracle file=dbuser.dmp log=dbuser.log tables=table1 buffer=4096000 feedback=10000 query=\”where col1=\’…\’ and col2 \<…\”
不可用于嵌套表
以多个固定大小档方式下载某张表
exp dbuser/oracle file=1.dmp,2.dmp,3.dmp,… filesize=1000m tables=emp buffer=4096000 feedback=10000
这种做法通常用在:表资料量较大,单个dump档可能会超出文件系统的限制
直通路径方式
direct=y,取代buffer选项,query选项不可用
有利于提高下载速度
consistent选项
自export激活后,consistent=y冻结来自其它会话的对export操作的资料对象的更新,这样可以保证dump结果的一致性。但这个过程不能太长,以免回滚段和联机日志消耗完
4.3 imp
参见dmp/imp_demo.sh。
将exp下载的dmp文件上载到数据库内。
buffer:上载资料缓冲区,以字节为单位,缺省依赖操作系统
commit:上载资料缓冲区中的记录上载后是否执行提交
feeback:显示处理记录条数,缺省为0,即不显示
file:输入档,缺省为expdat.dmp
filesize:输入文件大小,缺省为操作系统最大值
fromuser:指明来源用户方
ignore:是否忽略对象创建错误,缺省为n,在上载前对象已被建立往往是一个正常现象,所以此选项建议设为y
indexes:是否上载索引,缺省为n,这是指索引的定义而非数据,如果上载时索引已建立,此选项即使为n也无效,imp自动更新索引数据
log:log档,缺省为无,在标准输出显示
rows:是否上载表记录
tables:输入的表名列表
touser:指明目的用户方
上载整个实例
imp dbuser/oracle file=oradb.dmp log=oradb.log full=y buffer=4096000 commit=y ignore=y feedback=10000
上载某个用户所有对象
imp dbuser/oracle file=dbuser.dmp log=dbuser.log fromuser=dbuser touser=dbuser2 buffer=2048000 commit=y ignore=y feedback=10000
上载一张或几张表
imp dbuser2/oracle file=user.dmp log=user.log tables=table1,table2 fromuser=dbuser touser=dbuser2 buffer=2048000 commit=y ignore=y feedback=10000
以多个固定大小档方式上载某张表
imp dbuser/oracle file=\(1.dmp,2.dmp,3.dmp,…\) filesize=1000m tables=emp fromuser=dbuser touser=dbuser2 buffer=4096000 commit=y ignore=y feedback=10000
4.4 sqlplus
参见sqlplus/download.sh。
仅列出常用的选项,对复杂的应用不作深究
4.4.1 命令行参数
/ as {sysdba|sysopr}:使用操作系统用户验证,以osdba或osopr一员的身份登录,如验证通过,被赋予sysdba或sysopr的权限
使用格式:sqlplus “/ as sysdba”
/nolog:不执行connect操作,直接进入sqlplus操作接口
-s:silent模式,不显示sqlplus激活信息和提示符
<:接受sql脚本从标准输入复位向
<<:立即文檔
4.4.2 提示符命令
accept variable [number|char|date] [format format] [default default] [prompt text] [hide]:接受输入变量
例子:accept pwd char format a8 prompt ‘Password:’ hide
column column [format format] [heading heading]:设定对某个域的显示格式
如果要同时改变某域的输出长度和标题,必须使用column命令
见emp的定义,name本为char(20),输出缩为10位,duty本为 char(1),扩张为6位,以便有足够的空间显示中文标题。
SQL>column name format a10 heading ‘姓名’;
SQL>column duty format a6 heading ‘职位’;
SQL>column age format 999999 heading ‘年龄’;
SQL>column upd_ts format a14 heading ‘更新时间’;
SQL>select name,duty,age,upd_ts from emp;
show option:显示SET的选项
spool [filename|off]:输出复位向档
timing [start text|show|stop]:定时器
4.4.3 SET选项
autocommit:自动提交insert、update、delete带来的记录改变,缺省为off
colsep:域输出分隔符
define:识别命令中的变量前缀符,缺省为on,也就是’&’,碰到变量前缀符,后面的字符串作为变量处理
如果待更新内容包含’&’(在URL中很常见),而define非设为off,sqlplus会把’&’后面紧跟的字符串当成变量,提示输入,这里必须重新输入’&’和那个字符串,才能实现正常更新。将define设为off,就不再进行变量判断。
SQL>set define off;
SQL>update bbs_forum set url=’http://www.xxx.com/bbs/show.php&forum_id=1’ where forum_id=1;
echo:显示start激活的脚本中的每个sql命令,缺省为on
feedback:回显本次sql命令处理的记录条数,缺省为on
heading:输出域标题,缺省为on
linesize:输出一行字符个数,缺省为80
如果一行输出超过linesize,会回车到第二行,这样格式就会混乱。
markup html:html格式输出,缺省为off
通常需要与spool配合,否则html输出就没有意义。
numwidth:输出number类型域长度,缺省为10
长number类型的域常常因为输出长度的问题,引起误会。
pagesize:输出每页行数,缺省为24
为了避免分页,可设定为0。
termout:显示脚本中的命令的执行结果,缺省为on
timing:显示每条sql命令的耗时,缺省为off
trimout:去除标准输出每行的拖尾空格,缺省为off
trimspool:去除复位向(spool)输出每行的拖尾空格,缺省为off

4.4.4 例子
以文本形式下载表资料
oracle缺乏将表中资料输出至文本文件的工具,因此只能利用sqlplus和unix工具做变通的处理
sqlplus –s dbuser/oracle <<EOF >/dev/null
set colsep |;
set echo off;
set feedback off;
set heading off;
set pagesize 0;
set linesize 1000;
set numwidth 12;
set termout off;
set trimout on;
set trimspool on;
spool tmp.txt;
select * from emp;
spool off;
exit
EOF
tr –d ‘ ‘ < tmp.txt >emp.txt 删除空格,可选
注意:一定要用spool,如果在命令行中直接用>tmp.txt可能会造成资料缺失,至少在Unixware7上如此
假定某域是char(n),如中间出现回车\n,则下载出的这条记录的格式将会错乱,不宜采用此方法

 

5 备份及恢复
所有参见内容都在附件05_backup/下。
5.1 export与import方式
参见dmp/backup.sh。
见《工具》对exp和imp的描述
数据库中的对象是比较多的,但除了表以外占用的空间不大,所以当表中记录数量达到一定规模后,以用户的方式一下子把资料exp出来就显得不够灵活。考虑以下的策略,先exp出除表资料以外的所有对象,再分别exp出每张表的资料。
exp dbuser所有的资料对象
exp dbuser/oracle file=dbuser.dmp log=user.log owner=user buffer=2048000 rows=n
exp单张表的数据
sqlplus -s dbuser/oracle <<EOF >/dev/null
set colsep |;
set echo off;
set feedback off;
set heading off;
set pagesize 0;
set linesize 1000;
set termout off;
set trimout on;
set trimspool on;
spool tables.txt;
select table_name from user_tables;
spool off;
exit;
EOF
for table in $(cat tables.txt)
do
exp dbuser/oracle file=${table}_$(date ‘+%Y%m%d’).dmp tables=$table direct=y
done
5.2 冷备份
shutdown数据库,将所有和本实例有关的文件,包括datafile,controlfile,redolog,archived redolog,initora.ora等全部备份。恢复时只要将这些文件放回从前的目录,startup数据库即可。
5.3 联机全备份+日志备份
5.3.1 设置
如果数据库实例原来没有使用归档日志功能,则必须进行配置修改
initoradb.ora:
log_archive_start = true #实例激活时同时激活归档进程。
log_archive_dest_1= “location=/appl/oracle/oradata/orafe/arch/arch” #归档日志目录。
打开归档日志功能:
shutdown数据库
sqlplus “/ as sysdba”
SQL>startup mount
SQL>alter database archivelog;
SQL>alter database open;
可用archive log list查看状态,去除归档日志功能的命令为alter database noarchivelog。
5.3.2 步骤
参见online/full.sh、daily.sh,以osdba组的用户执行
联机全备份:
数据库处于open状态,依次对各个表空间备份
sqlplus “/ as sysdba”
SQL>alter tablespace system begin backup;
复制此tablespace各个datafile
SQL>alter tablespace system end backup;
注意:据推测,begin backup是对tablespace冻结写入,end backup是解除冻结,因此复制datafile的过程不宜过长
备份controlfile
SQL>alter database backup controlfile to ‘…….’;
日志备份:
sqlplus “/ as sysdba”
SQL>alter system archive log stop;
移去日志目录下的所有archived redolog
SQL>alter system archive log start;
5.3.3 恢复
数据库处于shutdown状态
最差情况:磁盘全部损坏,仅保存上次联机全备份和每天日志备份
解决硬件故障,配置系统软件及环境
oracle用户,将全备份和日志备份转移至相应目录,根据initoradb.ora中controlfile的配置,将备份控制文件复制到响应目录下
sqlplus “/ as sysdba”
SQL>startup mount
SQL>recover database until cancel using backup controlfile;
逐个确认待恢复的archived redolog,待最后一个完成后,键入cancel,使恢复结束
SQL>alter database open resetlogs;
注意:由于日志已经重置,所以应尽快做一次联机全备份
丢失某数据文件
只要将此档从上次联机全备份中复制至其目录,并将自上次联机全备份以来所有日志备份移至归档目录
sqlplus “/ as sysdba”
SQL>startup mount
SQL>alter database recover datafile ‘path/file’;或者简单些recover database;
SQL>alter database open;
如果此档损坏或丢失,又无备份,则只能将此文件脱机,将资料exp出来,重建表空间,再imp进去
sqlplus “/ as sysdba”
SQL>connect internal
SQL>startup mount
SQL>alter database datafile ‘path/file’ offline;
SQL>alter database open;
5.4 注意要点
无论有多少把握,恢复前先做冷备份,此为第一原则
不这样做,便是无路可退,一旦失误,后果不必多说。
rollback段损坏
这是非常严重的问题,可在initora.ora中写入_corrupted_rollback_segments=(rxx),激活时避开损坏的rollback段,这只是权宜之计。如数据库处于archivelog,应从上一次全备份起利用备份的日志进行恢复;如数据库处于noarchivelog,应尽快将全部资料export出来,重建数据库,再import进去。所有操作之前,应做冷备份。
数据库异常中止处理
通过手工shutdown abort操作中止数据库,不会产生大的问题,通常直接startup无需使用介质恢复命令
如果由于机器崩溃引起的中止,则情况严重得多,有可能要使用到上面提到的恢复方法,不过这种现象并不多见。一般需要显式使用介质恢复命令,如下:
sqlplus “/ as sysdba”
SQL>startup mount;
SQL>recover database;
SQL>alter database open;


6 数据库优化
所有参见内容都在附件05_optimize下。
一个以数据库为核心的应用系统,其80%以上的效率决定于应用软件架构是否合理、简洁、高效,支撑软件和硬件终究是放在第二位考虑的问题,这是系统分析员和程序员们的价值所在和使命所系。
6.1 通用设置
对于每个数据库系统,以下设置是固定的,企图在此仅通过某种设置优化实现神奇的效果,不是解决问题的正确途径,效果极为有限。
6.1.1 硬件配置
I/0负载均衡
按照一般要求,在没有RAID的情况下,将I/O频繁的数据文件分配在不同磁盘上,使磁盘负载均衡。
临时表空间、回滚表空间、线上日志的I/O操作都比较密集,同时应用资料对象在表空间上的分布也决定I/O操作的分布。
RAID
关于RAID 5的写效率一直存在争论,在实际应用中表现并不突出。如果有条件,可使用RAID 0+1。RAID 5适用于磁盘空间有限,又要求保证一定容错功能的中小型应用。
增加RAID卡缓存,并将Cache选项置为WriteBack而非WriteThrough。此两项对系统I/0影响之大,令人印象极其深刻。
6.1.2 应用配置
表与索引分在不同表空间中,分配适宜的数据块尺寸
为表和索引建立不同的表空间,并在创建表空间时指定于此建立的表或索引的缺省存储参数,这样此表空间上的所有对象使用统一的数据块尺寸、扩展率和最大可用数据块数量等参数,简化了配置过程,减少了存储空间的碎片
根据应用确定索引
检查应用程序SQL语句,尽可能在where的查询条件中使用整个索引,如不能满足,至少用到索引首列。
如在emp中建立索引:create index emp_x01 on emp(name,age)。
如果查询条件包含索引首列name:
select salary from emp where name like ‘Tom%’
这样的查询能够利用索引emp_x01。
如果查询条件不包含索引首列name,即使使用了索引的某个域,也不能利用到索引emp_x01:
select salary form emp where age=25;
索引首列的选择应综合考虑查询条件的组合情况,同时为使索引B+树尽可能产生多的分叉,应使用值变化较多的域,否则可考虑建立位图索引(bitmap index)
查询条件中对列的函数运算,列与列之间的比较会使执行效率大大降低,原因还是在于不能充分利用索引:
select salary from emp where substr(name,2,1)=’o’; #名字第二个字母是’o’
慎用order by,group by,它们会选出所有符合条件的记录,在temp表空间上进行处理,再输出。
评估应用程序中SQL语句的合理性
explain可以获得SQL语句的执行策略,从而提供改进的思路,但由于执行环境的不同而无法准确推断执行效率。
执行$ORACLE_HOME/rdbms/admin/utlxplan.sql建立plan_table
SQL>explain plan select salary from emp where age>25;
SQL>start $ORACLE_HOME/rdbms/admin/utlxpls.sql或utlxplp.sql
查看分析结果,主要看是否出现表扫描、涉及的记录条数和耗费时间
6.1.3 日常性能监控
utlbstat和utlestat
编写以下两个脚本:
run_utlbstat.sh
sqlplus “/ as sysdba” << EOF
@${ORACLE_HOME}/rdbms/admin/utlbstat.sql
exit
EOF
run_utlestat.sh
cd /export/oracle/tuning_report
sqlplus “/ as sysdba” << EOF
@$ORACLE_HOME/rdbms/admin/utlestat.sql
exit
EOF
选择适当时间,如4:00运行run_utlbstat.sh,22:00运行run_utlestat.sh,可通过crontab方式执行。在/export/oracle/tuning_report下生成report.txt,并分析:
stats$lib PINHITRATIO应高
stats$waitstat 如undo header较高,则应加入更多回滚空间
如segment header较高,则应加入更多freelist(待查)
stats$roll 如TRANS_TBL_WAITS较高,则应加入更多回滚空间
stats$dc GET_MISS, SCAN_MISS应较低
stats$files I/O应平均分布于各磁盘
READS和BLKS_READ相差较大表明表扫描,相差较小表明index充分被利用
6.2 实战分析
当应用系统出现联机处理或批处理程序执行时间变长、反应缓慢的现象,就应该积极寻找减少消耗增加效率的方法。硬件升级是最后的终极的手段,也是最不能体现人的能力的手段,矛盾的暂时平息不意味未来不会再次爆发。
6.2.1 总体分析
分析一个高负荷、低效率的数据库系统先从分析操作系统的表现开始。
cpu利用率
使用sar 2 10发现:
a) %wio保持在50以上,%usr和%sys数值偏低
b) 或者%usr异常高,保持80以上,%wio几乎为0
而%idle总是接近0。
情形a)说明资料的检索量极大,无法从缓冲区中及时得到,oracle系统进程被迫从数据文件上将资料读入缓冲区替换掉一些陈旧的资料,从而使oracle服务进程处于等待状态。这是缓冲区不足的表现,可以通过适当增加缓冲区大小来缓解矛盾,但不能根本上解决问题,首先内存区域有限,不可能一直增加下去;其次即使缓冲区足够容纳下所需资料,矛盾会向b)转化。
情形b)说明oracle服务进程已能从缓冲区中得到几乎所有需要的资料,但由于冗余数据多,分析时间非常漫长,使cpu计算能力过多地被分配到oracle服务进程上。
两者的发生多为检索策略失当,特别在对索引的设计和利用上,从而导致表扫描。
必须结合应用程序的设计来进行改进,仅在数据库层面上很难有所作为。
曾经发生过一种情形类似a),只是%wio不算太高,而%idle很高。无法用常理分析,后更换存储设备后解决,推测是存储设备的问题。
内存和交换空间
每个oracle服务进程大约占用5M左右内存(mem),内存不足时,容易引起物理页的频繁换入换出,使系统I/O活动增加;还会占用20M左右交换空间(swap),当交换空间不足时,就不能增加新的oracle连接。
vmstat 2 10观察内存和交换空间的空闲情况,注意pi(kilobytes page in),po(kilobytes page out),结合sar –d 2 10观察磁盘的繁忙程度,及时调整硬件。
top也能对内存和交换空间进行监控。
改进措施无非就是增加内存和交换空间,以及控制oracle服务进程的数目。
联机日志
sar –d 2 10观察磁盘I/0,注意read和write的比例
如write比例过高,打开$ORACLE_BASE/admin/oradb/bdump/alert.log,检查日志文件切换间隔,如小于15分钟,说明日志文件太小,导致切换频率过高,引起缓冲区和数据文件的同步(checkpoint)发生过于频繁。也可能由于数据库同步写进程(db_writer_processes)数量太少。
改进措施是创建新的日志文件组,适当扩大日志文件的尺寸,使同步间隔保持在30分钟以上为宜。
参见《配置》中的log_checkpoint_interval和db_writer_processes,作综合考虑。
6.2.2 详细分析
排除了上述效率问题,就要开始对数据库本身进行考察。
6.2.2.1 察看session当前执行的SQL语句
使用top观察oracle服务进程cpu占用情况,通常情况下单个进程不应超过5%,如果超过10%,一定发生了严重的检索策略失当
在此情况下,可认为有问题的oracle服务进程代表的session当前执行的SQL语句耗费了大量的时间,通过分析此SQL语句,能获得改进效率的线索
记录下待分析的oracle服务进程的进程号PID
获得oracle服务进程的session id,对应的应用进程信息,如进程号、主机名、程序名,以及正执行的SQL语句在缓冲池中的编号
sqlplus “/ as sysdba”
SQL>select s.sid,s.serial#,s.process,s.machine,s.program,s.sql_hash_value from v$session s, v$process p where p.spid=’PID’ and s.paddr=p.addr;
获得正执行的SQL语句的文本
SQL>select q.sql_text from v$session s, v$process p,v$sqlarea q where p.spid=’PID’ and s.paddr=p.addr and s.sql_hash_value=q.hash_value;
这个方法显示此oracle服务进程的会话当前使用的sql命令,并不一定是导致效率低下的sql命令,但低效率的命令往往在会话中停留较长的时间,所以大部分情况还是能够找出来的。
6.2.2.2 某段间隔session SQL语句执行情况
接上节,为更精确地分析此session中SQL语句的执行情况,需要获得某段间隔各SQL语句所占的比重,从而可以针对耗时较长的语句进行改进
记录下待分析的oracle服务进程的进程号PID
sqlplus “/ as sysdba”
SQL>select s.sid, s.serial# from v$session s, v$process p where p.spid=’PID’ and s.paddr=p.addr;
SQL>alter system set timed_statistics=true;
SQL>execute dbms_system.set_sql_trace_in_session(sid,serial#, TRUE);
或execute dbms_session.set_sql_trace(TRUE)或alter session set sql_trace=true #对当前session做trace分析,分析档生成于initoradb.ora中user_dump_dest指定的目录下
一段时间后……
SQL>alter system set timed_statistics=false;
SQL> execute dbms_system.set_sql_trace_in_session(sid, serial#, FALSE);
利用工具tkprof将report.trc档转化为可读形式
tkprof report.trc report.txt sort=EXECPU explain=system/manager #选择CPU占用时间进行排序
举例:
call count cpu elapsed
parse 5 0.15 2.08
execute 12 6.30 41.04
fetch 0 0.00 0.00
update work_user_skill set work_level=:b0,skill_value=:b1 where (mb_loginname=:b2 and work_type=:b3) #mb_loginname和work_type恰好为主键
Rows Execution Plan
------- ---------------------------------------------------
0 UPDATE STATEMENT GOAL: CHOOSE
0 UPDATE OF ‘WORK_USER_SKILL’
0 TABLE ACCESS GOAL: ANALYZED (FULL) OF ‘WORK_USER_SKILL’
分析:
cpu与elapse相差很大说明I/O繁忙,请求等待时间长,有可能进行了表扫描
TABLE ACCESS出现FULL,即表扫描,说明:
可能一:未使用index。
可能二:使用了index,而未用首列。
可能三:使用了index,而由于其检索信息(主要是B+树)过于陈旧,使oracle在决定检索策略时,错误地选择了表扫描。
解决:
对策一:根据应用的实际需要酌情建立索引。
对策二:修改查询条件,或者修改索引的组成域和顺序,确保索引首列被使用。
对策三:更新相关索引的陈旧检索信息
sqlplus dbuser/oracle
SQL>analyze index emp_x01 validate structure;
或者简单些
SQL>analyze table emp validate structure cascade; #不仅重新检查了table的存储情况,还更新了它的所有index的检索信息
另外可重新组织index
SQL>alter index emp_x01 rebuild [online]; #建议使用online选项,可以与更新此索引的其它操作同时进行
参考命令:
生成table的统计信息至dba_tables,user_tables
analyze table emp compute|estimate statistics for table [ all columns | columns col1,col2 | all indexed columns ]
生成index的统计信息至dba_indexes,user_indexes
analyze index emp_x01 compute|estimate statistics
6.2.2.3 检查被锁的对象
由于某种原因操作的对象被加锁,而又不能在短时间内解锁,会在此对象上形成sql操作等待队列,导致部分操作不得不超时退出,系统效率下降到难以接受的程度。这种现象可能是死锁,也可能因为某些事务耗时太长,影响操作同一对象的短事务。通常是应用程序组织不当的结果。
检查被长时间锁的对象:
sqlplus “/ as sysdba”
SQL>select a.session_id,a.process,a.locked_mode,b.object_name,b.object_type,b.status from v$locked_object a,dba_objects b where a.object_id=b.object_id;
6.3 专题分析
6.3.1 巨表查询
参见hugh,脚本都在script下,程序都在program下。。
问题的提出
在数据库应用的开发中常常需要记录用户历史、流水等这样的资料,开发者的一般思路是仅建立一张表,以一个不重复的递增的序列号作为主键,配合查询的需要建立若干索引。
然而在资料条数积累到相当多的时候,比如几千万这样的级别,查询的效率问题就会成为令人头痛的瓶颈,因为查询凭借的索引本身也达到了相当复杂庞大的程度,任何一次查询都会带来很高的开销。由此还给批处理、资料备份、资料清理带来相当大的困扰。
尽管数据库系统在提高查询效率上已经提供了相当强劲的功能,但单纯依赖数据库往往不能应对复杂多变的现实情况。不得不采用一些专用设计,但需要跟通用做法进行权衡。
试图寻找解决巨表查询的方法,同时考虑巨表备份、清理。为形象地说明,建立user_log表,这张表储存典型的用户历史,包括序列号、日期、用户名、历史信息等。
步骤:
在某数据库实例中建立用户dbuser,口令为oracle
进入script目录
根据create_tablespace.sql建立各表空间
根据create_table.sql建立表和索引
运行genlog生成测试用资料
运行loadlog将资料上载到数据库中
进入program目录
运行make
资料组织方面,设想有一万个用户访问,每天留下20万条记录,延续15天,总共300万条记录,平均每人300条,每天20条,访问的资料随机生成
硬设备为PIII800EB+512M+Quantum FireBall 10代
分割建表
由于user_log中log_dt(记录日期)是一个划分资料范围的天然标志,所以很自然地想到把日期作为表名的一部分,从而将巨大的表分割成较小的表,期望从较小的表和索引中获得较高的查询效率。能否实现这个想法?于是有以下测试。
program目录下有user_log_static.c和user_log_dyna.c,前者对整个user_log查询,后者对已分割成user_log_yyyymmdd的表查询,随机生成某个用户名,选出在log中这个用户的全部记录,共100次。运行7次,前2-3次由于资料缓冲的原因与后面的相差较大,可以忽略掉。
选出全部记录 (以秒为单位)
未分割 198 122 118 71 53 46 46
分割 255 129 79 58 50 48 48

从结果上看,分割几乎没有任何效果。根据理论分析,表分割后,应用不得不使用动态SQL对每张表分别操作,原先的一次查询被分成多次串行,尽管每次查询的资料量大为减少,但叠加上去也很可观。查询的日期范围越大,叠加的效应越强。所以在这种情况下,分割表的做法不能带来效率上的提高,甚至可能更糟。
但在通常的应用中,不需要一下子选出全部的查询所得,更多的是分批提供,比如显示用户历史记录,一屏可能就只有10条,向前或向后翻页时再次向服务器提交请求。试想在分割表的情况下,有可能在取到足够记录时,只需要查询数目很少的表,这样效率提高就很明显。修改user_log_static.c和user_log_dyna.c,将Process函数中关于变量count的两行注释去掉,只选出100条记录就中止查询,大致估计访问5张分割表。
100条记录 (以秒为单位)
未分割 221 111 58 41 41 36 35
分割 96 51 30 25 18 15 14
可以作出这样的结论:只要将访问的表的数目控制在较小的范围,分割表的查询效率就能得到明显的提升。
分区建表
在oracle8中可以使用partition选项将表或索引存放在不同的区域中,这样的做法与上面的分割表方法似乎是殊途同归。
program目录下有user_log_partition.c,对user_log_partition进行查询,user_log_partition的数据域和user_log完全一致,资料也是使用同样的规则随产生,可以认为user_log_partition比起user_log差别仅在于partition选项。
索引的分区是否能带来性能上的提升?先测试资料、查询使用的索引都分区配置的情况,第一行选出全部记录,第二行选出100条记录
(以秒为单位)
全部 236 121 73 48 46 42 40
100条 47 45 44 40 38 38 37
资料分区配置,而查询使用的索引非分区配置,第一行选出全部记录,第二行选出100条记录
(以秒为单位)
全部 238 120 69 48 45 42 41
100条 37 37 39 37 35 35 33
无论资料还是索引使用或不使用分区,都没能带来预期中的效率提升,也许是测试案例不够全面,测试用机器不够专业的原因吧。
总结
应用层次上的表分割,还是数据库层次上的表分区,是值得考虑的选择。前者以缩小单张表的规模为目标,企图在较小的资料范围内以较高的效率完成工作,同时资料备份、清理也能以表为单位进行处理,代价是应用必须围绕着设计调整,通用化的程度弱,编程方面考虑得多,特别在应用某些成型软件时,几乎不能作这样的调整。而表分区能在不改动应用的前提下,透明地提高查询效率(见Oracle文档,尽管在本次有限测试中未能体现),缺点在于配置过于繁琐,数据库管理员需要对应用的非常了解,根本上讲只是在巨表内部作了有限的优化。
6.3.2 对比测试
参见benchmark,脚本都在script下,程序都在program下。
这组测试的目的是为了搞清楚对表的不同处理方式会导致效率上怎样的差异,同时希望以数字代替长久以来的猜测。
结合笔者曾经参与过的一个项目,为测试设立了3张表,参见script/create_table.sql:
charge_fee:费用
charge_fee_dtl:费用明细
charge_fee_cfg:费用配置
charge_fee仿真了某种费用,如水、电、煤、电话等每月的缴付记录,包括缴费状态、费用月份、用户名、缴费日期等信息。生成1,000,000条记录,分布在10,000个用户名上,平均每个用户100条记录。
charge_fee_dtl进一步说明某笔费用的具体情况,如电话费常常细分为固定费用、市话、长话、漫游、国际等。对应charge_fee,每条费用记录拥有5个分项(假定用户不会在每个分项上都产生费用,所以从10个分项中随机选择了5个),共有5,000,000条记录。它采用charge_fee的序列号,也就是主键,作为分项和费用多对一关系的凭据。
charge_fee_cfg对charge_fee_dtl中每个分项进行文字说明,是一张配置表,共有10条记录,代表10个分项。
这3张表大致反映了大(charge_fee)-大(charge_fee_dtl)-小(charge_fee_cfg)的模式,下面分析在它们上面使用嵌入式SQL进行查询的效率。
测试服务器硬件配置:PII400,512M SDRAM,昆腾火球10代10G。
软件配置:Solaris 8 Intel Platform Edition 10/01,Oracle 8iR3
Join vs Not Join
在开发程序的时候,表与表间的连接是经常的选择,这样做可以很简洁地写出代码。然而,将涉及的表连接起来和顺序选出之间的效率差异,哪些场合可以使用或者不适合使用连接,等等诸如此类的问题往往容易为开发者忽略。
大(charge_fee)-大(charge_fee_dtl)连接:
仿真需求:选取某个用户的费用记录,并选出每笔费用的分项记录(常用于查询、缴纳费用的场合)。
这个需求将2张记录都很多的表charge_fee和charg_fee_dtl联系起来,以比较采用连接与否的效率差异。
引入程序bb_join.c和bb_nojoin.c(bb—big table & big table),前者使用一个连接2张表的光标,直接选出费用和分项记录,后者仅使用对charge_fee的光标,选出费用记录后,再根据费用序列号,从charge_fee_dtl中选出分项记录。两者都使用了order by选项。
为更好地显示查询效果,每次程序运行随机选取100个用户,记录总耗时。同种测试进行7次。
上面说过平均每个用户拥有100条费用记录,而每条费用记录拥有5个分项。
测试一:选出用户全部100条费用记录
(以秒为单位)
连接(bb_join) 96 78 77 76 77 76 77
不连接(bb_nojoin) 92 96 93 97 95 95 95
结果有点出乎笔者的意料,因为笔者长久以来认为2张记录都很多的表的连接会带来很大的系统开销,然而事实证明,连接和不连接(顺序查询)的效率近似,而且连接的表现更好一些!
联系到上一节《巨表查询》的结果,笔者很快就想到:不连接方式由于对每笔费用记录(charge_fee)都要重新展开一个对分项记录(charge_fee_dtl)的光标,总计大约100(每个用户费用记录条数)*100(用户数)=10,000次之多,耗费很大,而实际应用中很难有一次选出某用户上百条记录的情况,如果减少一点,比如每个用户只选出20条,光标开启次数降为约2,000次,结果会怎样?
基于这个想法,在2个程序中加进了对费用记录条数的控制,见注释部分。
测试二:选出用户前20条费用记录
(以秒为单位)
连接(bb_join) 82 75 67 67 66 68 72
不连接(bb_nojoin) 24 17 13 10 9 8 8
结果同样令笔者吃惊!性能提高得很明显,由此可以得出与《巨表查询》相似的结论:在涉及2张记录都很多的表操作中,如果采用不连接的方式,只要将顺序完成的查询控制在一定数量内,一定能取得比连接方式高的效率。
大(charge_fee_dtl)-小(charge_fee_cfg)连接:
仿真需求:选取某笔费用的分项记录,并显示每笔分项的文字说明(常用于打印单据的场合)。
这个需求将1张记录都很多的表charge_fee_dtl和另1张记录极少的表charg_fee_cfg联系起来,以比较采用连接与否的效率差异。
引入程序bs_join.c和bs_nojoin.c(bs—big table & small table),前者使用一个连接2张表的光标,直接选出分项和配置记录,后者事先将charge_fee_cfg全部读取到内存中,仅使用对charge_fee_dtl的光标,选出分项记录后,再根据分项类型,从内存中选出分项的文字说明。两者都使用了order by选项。
为更好地显示查询效果,每次程序运行随机选取30,000笔费用记录,记录总耗时。同种测试进行7次。
(以秒为单位)
连接(bs_join) 77 75 76 74 76 74 75
不连接(bs_nojoin) 67 66 66 65 67 65 66
结果差不多,可以得出结论:在涉及1张记录很多的表和另1张记录很少的表操作中,采用连接与否,效率相差不大。从灵活的角度考虑,建议对记录很少的表(往往是静态配置)多利用内存缓冲。
Static vs Dynamic
这里比较静态嵌入式SQL和动态嵌入式SQL语句的效率差异,动态方式多了一个对SQL语句的prepare过程。
引入程序bs_nojoin_dyna.c,其实就在bs_nojoin.c的基础上,把静态嵌入式SQL语句的部分代码改成动态嵌入式SQ。

转载于:https://www.cnblogs.com/fhj2050/archive/2008/01/20/1046079.html

  • 0
    点赞
  • 0
    评论
  • 0
    收藏
  • 扫一扫,分享海报

参与评论 您还未登录,请先 登录 后发表或查看评论
©️2022 CSDN 皮肤主题:编程工作室 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值