【oracle 11G Grid 】Crsctl start cluster 和 crsctl start crs 有区别么？
q：Crsctl start cluster 是 11.2新特性和 crsctl start crs 有啥区别呢？
Crsctl start/stop crs管理本地节点的clusterware stack的启停，包含启动ohasd进程，这个命令只能用来管理本地节点
。[root@vmrac2 ~]# crsctl start crs -h
Usage:
crsctl start crs[-excl [-nocrs]|-nowait]
Start OHAS onthis server
where
-excl Start Oracle Clusterware in exclusivemode
-nocrs Start Oracle Clusterware in exclusivemode without starting CRS
-nowait Do not wait for OHAS to start
crsctl start/stop cluster - Manage start/stop the Oracle Clusterware stack onlocal node if you do not specify either -all or -n and nodes remote if option-n or -all be specified ,NOT includingthe OHASD process. You can't start/stop clusterware stack without OHASD processrunning.
crsctl strat/stop cluster既可以管理本地 clusterware stack，也可以管理整个集群
指定–all 启动集群中所有节点的集群件，即启动整个集群。
-n 启动指定节点的集群件
但是不包含OHASD进程。You can't start/stop clusterware stack without OHASDprocess running.
[root@vmrac2 ~]# crsctl start cluster -h
Usage:
crsctl startcluster [[-all]|[-n <server>[...]]]
Start CRS stack
where
Default Start local server
-all Start all servers
-n Start named servers
server [...] One or more blank-separated server names
Despite crsctl start/stop crs manage entire Oracle Clusterware stack on localnode crsctl start/stop crs not allow you to manage remote nodes, unlike crsctlstart/stop cluster that allows you to manage all the nodes, but if the processOASH is runing.
crsctl start/stop crs 只能管理本地节点的clusterware stack，并不允许我们管理远程节点。
但是当远程或者本地节点OHASD process运行时（Oracle High AvailabilityServices服务必须可用），才能使用crsctl start/stop crs管理所有节点
我们来做一个实验验证下
我们先把节点2的crs停掉，确保本地已经没有OHASD进程。
[root@vmrac2 ~]# crsctl stop crs
CRS-2791: Starting shutdown of Oracle High AvailabilityServices-managed resources on 'vmrac2'
CRS-2673: Attempting to stop 'ora.crsd' on 'vmrac2'
。。。。。
CRS-2673: Attempting to stop 'ora.DATANEW.dg' on 'vmrac2'
。。。。。
CRS-2677: Stop of 'ora.gipcd' on 'vmrac2' succeeded
。。。。。
CRS-2793: Shutdown of Oracle High AvailabilityServices-managed resources on 'vmrac2' has completed
CRS-4133: Oracle High Availability Services has beenstopped.
这里可以看到使用 crsctl stop crs已经本地的集群件全部停了下来。
但是为了去确保万无一失，建议在os层面查看下 cluster的进程是否存在
[root@vmrac2 ~]# ps -ef|grep ohasd
root 3747 1 0Jun19 ? 00:00:00 /bin/sh/etc/init.d/init.ohasd run
[root@vmrac2 ~]# ps -ef|grep d.bin
root 3064427369 0 13:08 pts/2 00:00:00 grep d.bin
------到这里可以确认集群已经全宕下来了
[root@vmrac2 ~]# ps -ef|grep ohasd
root 3747 1 0Jun19 ? 00:00:00 /bin/sh/etc/init.d/init.ohasd run
------当然这个脚本存在没有什么关系，如果没有这个sh进程，则 ohasd.bin就无法启动，
这时需要去调查下Snncommd –S96ohasd脚本为什么不能执行
这个后台脚本直接用kill去杀是无法杀掉的，会自动再生一个进程。
[root@vmrac2 ~]# ps -ef|grep ohasd
root 3747 1 0Jun19 ? 00:00:00 /bin/sh/etc/init.d/init.ohasd run
root 4888 4812 013:39 pts/1 00:00:00 grep ohasd
[root@vmrac2 ~]# kill -9 3747
[root@vmrac2 ~]# ps -ef|grep ohasd
root 4895 1 013:39 ? 00:00:00 /bin/sh/etc/init.d/init.ohasd run
root 4920 4812 013:39 pts/1 00:00:00 grep ohasd
[root@vmrac2 ~]# kill -9 4895
[root@vmrac2 ~]# ps -ef|grep ohasd
root 4933 1 013:40 ? 00:00:00 /bin/sh/etc/init.d/init.ohasd run
root 4958 4812 013:40 pts/1 00:00:00 grep ohasd
具体测试如下：
节点二的集群已经关闭，节点一的还在
节点一操作：
使用crsctl start cluster启动节点2的集群
[root@vmrac1 ~]# crsctl start cluster -n vmrac2
CRS-4405: The following nodes are unknown to Oracle HighAvailability Services:vmrac2
------报错很明显啊，vmrac2节点上ohasd进程不存在，所以节点1无法启动节点2上的集群
[root@vmrac1 ~]# crsctl start cluster -all
CRS-4690: Oracle Clusterware is already running on 'vmrac1'
CRS-4000: Command Start failed, or completed with errors.
--------------还是因为vmrac2节点上ohasd进程不存在，所以节点1无法启动节点2上的集群
[root@vmrac1 ~]#
节点二操作：
[root@vmrac2 ~]# crsctl start cluster
CRS-4639: Could not contact Oracle High AvailabilityServices
CRS-4000: Command Start failed, or completed with errors.
------crsctl start cluster缺省代表启动本地节点，还是因为vmrac2节点上ohasd进程不存在，所以无法启动节点2上的集群
[root@vmrac2 ~]# crsctl start cluster -n vmrac1
CRS-4639: Could not contact Oracle High AvailabilityServices
CRS-4000: Command Start failed, or completed with errors.
------还是因为vmrac2节点上ohasd进程不存在，集群节点间无法通信，所以无法启动节点1上的集群（这里只是测试下，实际节点1集群是已经启动的）
[root@vmrac2 ~]# crsctl start cluster -all
CRS-4639: Could not contact Oracle High AvailabilityServices
CRS-4000: Command Start failed, or completed with errors.
------还是因为vmrac2节点上ohasd进程不存在，集群节点间无法通信，所以无法启动节点1上的集群（这里只是测试下，实际节点1集群是已经启动的）
通过上面的测试可以发现要想通过crsctl start cluster来管理远程集群节点，则ohasd (Oracle High AvailabilityServices Daemon)必须在所有集群节点上运行。如果没有运行，则会报出：
CRS-4639: Could not contact Oracle High AvailabilityServices
CRS-4000: Command Start failed, or completed with errors.
类似的错误。
这里我们再稍微讨论下为什么必须要求ohasd进程，crsctl start cluster才能管理各个远程节点
int socket(int domain, inttype,int protocol)
domain:说明我们网络程序所在的主机采用的通讯协族(AF_UNIX和AF_INET等). AF_UNIX只能够用于单一的Unix系统进程间通信,而AF_INET是针对Internet的,因而可以允许在远程主机之间通信
type:我们网络程序所采用的通讯协议(SOCK_STREAM,SOCK_DGRAM等) SOCK_STREAM表明我们用的是TCP协议,这样会提供按顺序的,可靠,双向,面向连接的比特流. SOCK_DGRAM 表明我们用的是UDP协议,这样只会提供定长的,不可靠,无连接的通信.
socket()系统调用，带有三个参数：
1、参数domain指明通信域，如PF_UNIX(unix域)，PF_INET(IPv4)，
PF_INET6(IPv6)等
2、type指明通信类型，最常用的如SOCK_STREAM(面向连接可靠方式，
比如TCP)、SOCK_DGRAM(非面向连接的非可靠方式，比如UDP)等。
3、参数protocol指定需要使用的协议。虽然可以对同一个协议
家族(protocol family)(或者说通信域(domain))指定不同的协议
参数，但是通常只有一个。对于TCP参数可指定为IPPROTO_TCP,对于
UDP可以用IPPROTO_UDP。你不必显式制定这个参数，使用0则根据前
两个参数使用默认的协议。
这里对 crsctl startcluster启动跟踪下，trace文件如下：
。。。。。
6009 socket(PF_INET6,SOCK_DGRAM, IPPROTO_IP) = 3
6009 bind(3, {sa_family=AF_INET6, sin6_port=htons(0), inet_pton(AF_INET6,"::1", &sin6_addr), sin6_flowinfo=0, sin6_scope_id=0}, 28) = 0
6009 getsockname(3, {sa_family=AF_INET6, sin6_port=htons(19527),inet_pton(AF_INET6, "::1", &sin6_addr), sin6_flowinfo=0,sin6_scope_id=0}, [15812988179826343964]) = 0
6009 getpeername(3, 0x7fff0257b028, [15812988179826343964]) = -1 ENOTCONN(Transport endpoint is not connected)
6009 getsockopt(3, SOL_SOCKET, SO_SNDBUF, [168803484727246848], [4]) = 0
6009 getsockopt(3, SOL_SOCKET, SO_RCVBUF, [168803484727246848], [4]) = 0
6009 fcntl(3, F_SETFD, FD_CLOEXEC) = 0
6009 fcntl(3, F_SETFL, O_RDONLY|O_NONBLOCK) = 0
6009 times({tms_utime=2, tms_stime=2, tms_cutime=0, tms_cstime=0}) =465828655
6009 access("/var/tmp/.oracle", F_OK) = 0
6009 chmod("/var/tmp/.oracle", 01777) = 0
6009 socket(PF_FILE, SOCK_STREAM, 0) = 4
6009 access("/var/tmp/.oracle/sOHASD_UI_SOCKET", F_OK) = 0
6009 connect(4, {sa_family=AF_FILE, path="/var/tmp/.oracle/sOHASD_UI_SOCKET"...}, 110)= -1 ECONNREFUSED (Connection refused)
6009 access("/var/tmp/.oracle/sOHASD_UI_SOCKET", F_OK) = 0
6009 nanosleep({0, 100000000}, {16, 140733232680592}) = 0
6009 close(4) = 0
6009 socket(PF_FILE, SOCK_STREAM, 0) = 4
。。。。。。。
------这里我们再节点以上观察下是谁会使用这个socket文件
root@vmrac1 ~]# lsof/var/tmp/.oracle/sOHASD_UI_SOCKET
COMMAND PID USER FD TYPE DEVICE SIZE NODE NAME
ohasd.bin 29191 root 634u unix 0xffff81005b939700 9176933 /var/tmp/.oracle/sOHASD_UI_SOCKET
[root@vmrac1 ~]# ls -l/var/tmp/.oracle/sOHASD_UI_SOCKET
srwxrwxrwx 1 root root 0 Jun 19 13:27/var/tmp/.oracle/sOHASD_UI_SOCKET
那节点二上的状况如呢？
[root@vmrac2 ~]# ls -l/var/tmp/.oracle/sOHASD_UI_SOCKET
srwxrwxrwx 1 root root 0 Jun 19 13:27/var/tmp/.oracle/sOHASD_UI_SOCKET
[root@vmrac2 ~]# lsof/var/tmp/.oracle/sOHASD_UI_SOCKET
这时我使用crsctl start crs继续观察：
[root@vmrac2 ~]# crsctl start crs
lsof/var/tmp/.oracle/sOHASD_UI_SOCKETCRS-4123: Oracle High Availability Serviceshas been started.
[root@vmrac2 ~]# ps -ef|grep 6560
root 6560 1 214:53 ? 00:00:01/u02/app/11.2.0.3/grid/bin/ohasd.bin reboot
root 6877 4812 0 14:54 pts/1 00:00:00 grep 6560
此时迅速在节点2的另一个窗口观察/var/tmp/.oracle/sOHASD_UI_SOCKET这个socket
[root@vmrac2 ~]# lsof/var/tmp/.oracle/sOHASD_UI_SOCKET
[root@vmrac2 ~]# lsof/var/tmp/.oracle/sOHASD_UI_SOCKET
[root@vmrac2 ~]# lsof/var/tmp/.oracle/sOHASD_UI_SOCKET
COMMAND PID USER FD TYPE DEVICE SIZE NODE NAME
ohasd.bin 6560 root 631u unix 0xffff8100792f71c0 151906805 /var/tmp/.oracle/sOHASD_UI_SOCKET
这里可以观察到 ohasd进程会使用/var/tmp/.oracle/sOHASD_UI_SOCKET这个socket文件来建立集群间节点通信，这也就解释了，为什么没有ohasd进程，我就不能使用 crsctl start cluster 命令来管理集群中远程节点。
704
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
