故障诊断：SLES12平台数据库启动失败ORA-27300

点击▲关注 “数据和云”   给公众号标星置顶

更多精彩 第一时间直达

作者 | 张维照，云和恩墨技术专家，Oracle ACEA，2006年起从事数据库管理工作，2009年转 Oracle，从事过多套 TB 级省级工商、医疗、交通、人社、电信运营等数据库维护优化工作，擅长Oracle 数据库性能问题的分析与解决，Oracle数据库故障分析，Oracle数据库升级迁移。

近日新装的一套ORACLE 12.2  RAC on SLES 12在使用srvctl start database 有时失败， alert log 中出现ORA-27300、ORA-27301、ORA-27302错误， 从错误不难看出是OS资源资源限制， 这可能以后使用SUSE的用户会是个常见问题， 因为这是SLES 12的默认参数限制，而且ORACLE的安装文档和最佳实践中也未提到该参数（至少当前没有找到）。

警告日志：

2018-11-19 09:29:03.940000 +08:00
Process P01E died, see its trace file
Process startup failed, error stack:
Errors in file /oracle/app/oracle/diag/rdbms/anbob/anbob1/trace/anbob1_psp0_32198.trc:
ORA-27300: OS system dependent operation:fork failed with status: 11
ORA-27301: OS failure message: Resource temporarily unavailable
ORA-27302: failure occurred at: skgpspawn3
2018-11-19 09:29:04.940000 +08:00
Process P01F died, see its trace file
Process startup failed, error stack:
Errors in file /oracle/app/oracle/diag/rdbms/anbob/anbob1/trace/anbob1_psp0_32198.trc:
ORA-27300: OS system dependent operation:fork failed with status: 11
ORA-27301: OS failure message: Resource temporarily unavailable
ORA-27302: failure occurred at: skgpspawn3

注意：
从当前的错误fork failed with status: 11可以大概猜测是最大进程数限制导致fork()进程时失败， 另外一处是psp0进程fork() Pnnn的进程。

PSP 追踪文件

oracle@kdanbob01:/home/oracle> vi /oracle/app/oracle/diag/rdbms/anbob/anbob1/trace/anbob1_psp0_32198.trcTrace file /oracle/app/oracle/diag/rdbms/anbob/anbob1/trace/anbob1_psp0_32198.trcOracle Database 12c Enterprise Edition Release 12.2.0.1.0 - 64bit ProductionBuild label:    RDBMS_12.2.0.1.0_LINUX.X64_170125ORACLE_HOME:    /oracle/app/oracle/product/12.2.0/db_1System name:    LinuxNode name:      kdanbob01Release:        4.4.21-69-defaultVersion:        #1 SMP Tue Oct 25 10:58:20 UTC 2016 (9464f67)Machine:        x86_64Instance name: anbob1Redo thread mounted by this instance: 0 Oracle process number: 4Unix process pid: 32198, image: oracle@kdanbob01 (PSP0)
*** 2018-11-19T09:15:26.133868+08:00Process startup failed, error stack:ORA-27300: OS system dependent operation:fork failed with status: 11ORA-27301: OS failure message: Resource temporarily unavailableORA-27302: failure occurred at: skgpspawn3OS - DIAGNOSTICS----------------loadavg : 42.40 27.56 11.09Memory (Avail / Total) = 176425.47M / 515676.77MSwap (Avail / Total) = 32768.00M /  32768.00MMax user processes limits(s / h) =  65536 / 65536
oracle@kdanbob01:/home/oracle> ulimit -acore file size (blocks, -c) 0data seg size (kbytes, -d) unlimitedscheduling priority (-e) 0file size (blocks, -f) unlimitedpending signals (-i) 2062629max locked memory (kbytes, -l) unlimitedmax memory size (kbytes, -m) unlimitedopen files (-n) 65536pipe size (512 bytes, -p) 8POSIX message queues (bytes, -q) 819200real-time priority (-r) 0stack size (kbytes, -s) 10240cpu time (seconds, -t) unlimitedmax user processes (-u) 16384virtual memory (kbytes, -v) unlimitedfile locks (-x) unlimited

什么是PSP流程？

The first process that will be started when we start instance is PSP process. This is called PROCESS SPAWNER. This process is introduced in 10g and is responsible for creating and managing other oracle backgroung processes.

Pnnn进程都知道是并行进程，查看并行相关的参数

SQL> show parameter parallel

PARAMETER_NAME                                               TYPE        VALUE
------------------------------------------------------------ ----------- ---------------------------------
containers_parallel_degree                                   integer     65535
fast_start_parallel_rollback                                 string      LOW
parallel_adaptive_multi_user                                 boolean     FALSE
parallel_degree_limit                                        string      CPU
parallel_degree_policy                                       string      MANUAL
parallel_execution_message_size                              integer     16384
parallel_force_local                                         boolean     TRUE
parallel_instance_group                                      string
parallel_max_servers                                         integer     60
parallel_min_percent                                         integer     0
parallel_min_servers                                         integer     60
parallel_min_time_threshold                                  string      AUTO
parallel_servers_target                                      integer     60
parallel_threads_per_cpu                                     integer     2
recovery_parallelism                                         integer     8
SQL> @pd containers_parallel_degree
Show all parameters and session values from x$ksppi/x$ksppcv...

      INDX I_HEX NAME                            VALUE                          DESCRIPTION
---------- ----- ------------------------------ ------------------------------ ---------------------------------------
      4749  128D containers_parallel_degree     65535                          Parallel degree for a CONTAINERS() query

提示:
开始我以为是12cR2 新特性导致的该问题，containers_parallel_degree 当使用containers()查询或打开PDB时并行度的上限值， 当前环境是个非CDB模式的数据库， 不过我个人还是建议在12.2 中使用多租户，哪怕是1PDBs, 在19c NO-CDB都是NO supperted。 如果只是因为是不想用CDB而多SCHEMA模式，我认为CDB优点更多: 言归正传回到刚才的问题，trace文件中提示系统max user process是65536， oracle用户限制是16384, 这些参数配置可以通过/etc/security/limits.conf修改，通过ulimit -a命令验证， 手动ps了一下oracle和grid用户进程根本没有那么（少于400）， 在MOS中找到一篇符合这个问题的NOTE ,  SLES 12: Database Startup Error with ORA-27300 ORA-27301 ORA-27303 While Starting using Srvctl (文档 ID 2340986.1)

From SLES12 onwards, systemd is used instead of initd and the OHASD server is only allowed to open a maximum of 512 tasks.

SYSTEMD从SLES12后用Systemd 取代 SysV的Init， 有SYSTEMD init程序管理 OHASD服务，SYSTEMD也就是PID=1的那个程序，有它来统一管理启动，也是为了标准化系统启动和管理，可以并行启动等优点加快了启动速度，但是SYSTEMD是一个很受争议的东西，因为很多过去系统命令不得不放弃重新学习，有些人反对为了那一点启动上的提升而引入了这个一个体积庞大的强耦合程序，违背了”keep simple, keep stupid”的Unix 哲学，知乎上有篇吐槽Systemd的贴子，但是在新版LINUX上是主推Systemd。同样LINUX 7以后同样默认也是使用Systemd init启动程序。

在LINUX 6及以前的版本查’max user processes’ 使用 ‘ulimit -a’ ，但是以LINUX7(SLES12) 后引入了Systemd, Systemd可以管理所有系统资源，不同的资源统称为Unit,  以后就可能需要查DefaultTasksMax （default value is 512）.

DefaultTasksMax   ==>systemd limited maximum number of tasks that may be created in the unit.This setting also effect maxpid value on OS.

 

$  >  systemctl status ohasd
â— ohasd.service – LSB: Start and Stop Oracle High Availability Service
Loaded: loaded (/etc/init.d/ohasd; bad; vendor preset: disabled)
Active: active (exited) since Mon 2018-11-19 11:36:59 CST; 23h ago
Docs: man:systemd-sysv-generator(8)
Process: 12385 ExecStart=/etc/init.d/ohasd start (code=exited, status=0/SUCCESS)
Tasks: 726 (limit: 65535) — 这个值在修改前应该是512

解决办法

Configure the value of DefaultTasksMax to 65535 in the file /etc/systemd/system.conf or or set the TasksMax value properly for the ohasd systemd service.

这里我们使用的解决方法是修改/etc/systemd/system.conf  把DefaultTasksMax改成 了65535，当然也可以直接改成’infinity’ 无限。修改参数需要重启操作系统生效。

建议在SLSE 12或以后的版本，或LINUX 7等以后的版本时，先了解一下系统变化，对于过去版本中资源限制如：nproc  、nofile、memlock 在以后OS版本中有DefaultTasksMax、DefaultLimitNOFILE、DefaultLimitMEMLOCK替代， 可能Oracle 在以后的安装文档或最佳实践中会增加该内容。

原创：张维照

---

资源下载

关注公众号：数据和云（OraNews）回复关键字获取

2018DTCC , 数据库大会PPT

2018DTC，2018 DTC 大会 PPT

ENMOBK，《Oracle性能优化与诊断案例》

DBALIFE ，“DBA 的一天”海报

DBA04 ，DBA 手记4 电子书

122ARCH ，Oracle 12.2体系结构图

2018OOW ，Oracle OpenWorld 资料

产品推荐

云和恩墨Bethune Pro企业版，集监控，巡检，安全于一身，你的专属数据库实时监控和智能巡检平台，漂亮的不像实力派，你值得拥有！

云和恩墨zData一体机现已发布超融合版本和精简版，支持各种简化场景部署，零数据丢失备份一体机ZDBM也已发布,欢迎关注。