2010-02-05

Oracle RAC 11gR1 erfahren (Teil 4)

4 Installation Oracle Clusterware

Nun wird die Oracle Clusterware installiert. Dies erfolgt unter dem Benutzer crs nur von einem Knoten, vom ersten Knoten vmrac1, aus.

4.1 Vorarbeiten und mit cvu prüfen

1) Am ersten Knoten am Anmeldebildschirm von Linux mit dem Benutzer root anmelden und ein Terminalfenster öffnen.

2) Die Clusterware Installationsdateien sollten als ZIP Datei auf dem VMware Host liegen (siehe Abschnitt 1.4). Die ZIP Datei ist nun in die virtuelle Linux Maschine in das Softwareverzeichnis /u01/software zu kopieren (z.B. über Linux Desktop/Netzwerk/Windows-Netzwerk/<Arbeitsgruppe>/<Rechnername>).
Dann die Datei entpacken:
cd /u01/software
unzip linux_x86_11gR1_clusterware.zip

3) Für das Cluster Verification Utility muss das CVUQDISK Paket auf allen Knoten installiert werden, um die Shared-Storage Verfügbarkeit prüfen zu können.
Als Betriebssystembenutzer root auf dem ersten Knoten CVUQDISK installieren.
cd /u01/software/clusterware/rpm
rpm -iv cvuqdisk-1.0.1-1.rpm

Ausgabe:
[root@vmrac1 software]# cd /u01/software/clusterware/rpm
[root@vmrac1 rpm]# rpm -iv cvuqdisk-1.0.1-1.rpm
Vorbereiten der Pakete fr die Installation...
cvuqdisk-1.0.1-1
[root@vmrac1 rpm]#

4) Das CVUQDISK Paket als Betriebssystembenutzer root auch auf dem zweiten Knoten installieren.
scp cvuqdisk-1.0.1-1.rpm vmrac2:/tmp
ssh vmrac2 "rpm -iv /tmp/cvuqdisk-1.0.1-1.rpm"
ssh vmrac2 "rm /tmp/cvuqdisk-1.0.1-1.rpm"
Die Nachfrage dabei mit yes und die Passwortabfragen immer mit dem root Passwort beantworten.

Ausgabe:
[root@vmrac1 rpm]# scp cvuqdisk-1.0.1-1.rpm vmrac2:/tmp
The authenticity of host 'vmrac2 (139.2.162.173)' can't be established.
RSA key fingerprint is 77:1e:e6:bb:e6:66:0c:84:5e:a5:bb:0f:9d:f8:84:b1.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added 'vmrac2' (RSA) to the list of known hosts.
root@vmrac2's password:
cvuqdisk-1.0.1-1.rpm 100% 5339 5.2KB/s 00:00
[root@vmrac1 rpm]# ssh vmrac2 "rpm -iv /tmp/cvuqdisk-1.0.1-1.rpm"
root@vmrac2's password:
Vorbereiten der Pakete fr die Installation...
cvuqdisk-1.0.1-1
[root@vmrac1 rpm]# ssh vmrac2 "rm /tmp/cvuqdisk-1.0.1-1.rpm"
root@vmrac2's password:
[root@vmrac1 rpm]#

5) Vom ersten Knoten aus (vmrac1) als root auf dem OCFS2 Device ein Verzeichnis für Oracle Cluster Registry und Voting Disk anlegen und dem Betriebssystembenutzer crs zuordnen.
mkdir /u02/crs
chown crs:oinstall /u02/crs

6) Das X-Terminal für alle Benutzer freigeben.
xhost +

Ausgabe:
[root@vmrac1 ~]# xhost +
access control disabled, clients can connect from any host
[root@vmrac1 ~]#

7) Alle weiteren Installationsaktionen erfolgen nun mit dem Clusterware Benutzer crs. Dazu in die Umgebung des Betriebssystembenutzers crs wechseln.
su - crs

8) Zunächst als Betriebssystembenutzer crs mit dem Clusterverification Utility (CVU) auf allen Knoten prüfen, ob das Shared-Storage für Cluster Registry und Voting Disk korrekt konfiguriert ist.
cd /u01/software/clusterware
./runcluvfy.sh comp ssa -n vmrac1,vmrac2 -verbose

Ausgabe:
[oracle@vmrac1]~% cd /u01/software/clusterware
[oracle@vmrac1]/u01/software/clusterware% ./runcluvfy.sh comp ssa -n vmrac1,vmrac2 -verbose

Zugänglichkeit von Shared Storage wird überprüft

Zugänglichkeit von Shared Storage wird geprüft...

WARNING:
Gemeinsame Verwendbarkeit von /dev/sda auf folgenden Knoten kann nicht ermittelt werden:
vmrac1,vmrac2

WARNING:
Gemeinsame Verwendbarkeit von /dev/sdb auf folgenden Knoten kann nicht ermittelt werden:
vmrac1,vmrac2

WARNING:
Gemeinsame Verwendbarkeit von /dev/sdc auf folgenden Knoten kann nicht ermittelt werden:
vmrac1,vmrac2

WARNING:
Gemeinsame Verwendbarkeit von /dev/sdd auf folgenden Knoten kann nicht ermittelt werden:
vmrac1,vmrac2

WARNING:
Gemeinsame Verwendbarkeit von /dev/sde auf folgenden Knoten kann nicht ermittelt werden:
vmrac1,vmrac2

ocfs2 Knoten werden gemeinsam benutzt (2 in Anzahl)
------------------------------------ ------------------------
/u02 vmrac1 vmrac2


Shared Storage-Prüfung war auf Knoten "vmrac1,vmrac2" erfolgreich.

Überprfung von Zugänglichkeit von Shared Storage war erfolgreich.
[oracle@vmrac1]/u01/software/clusterware%

9) Des Weiteren als Betriebssystembenutzer crs mit dem Clusterverification Utility auf allen Knoten prüfen, ob alle Installationsvoraussetzungen für die Clusterware gegeben sind.
cd /u01/software/clusterware
./runcluvfy.sh stage -pre crsinst -n vmrac1,vmrac2 -verbose

Ausgabe:
[oracle@vmrac1]/u01/software/clusterware% ./runcluvfy.sh stage -pre crsinst -n vmrac1,vmrac2 –verbose

Vorprüfungen für Cluster-Services-Setup werden ausgeführt.

Knotenzugänglichkeit wird geprüft...

Prüfung: Knotenzugänglichkeit von Knoten "vmrac1"
Zielknoten Zugänglich?
------------------------------------ ------------------------
vmrac1 ja
vmrac2 ja
Ergebnis: Prüfung auf Knotenzugänglichkeit von Knoten "vmrac1" erfolgreich.


Benutzeräquivalenz wird überprüft...

Prüfung: Benutzeräquivalenz für Benutzer "oracle"
Knotenname Kommentar
------------------------------------ ------------------------
vmrac1 erfolgreich
vmrac2 erfolgreich
Ergebnis: Prüfung auf Benutzeräquivalenz erfolgreich für Benutzer "oracle".

Administrative Berechtigungen werden überprüft...

Prüfung: Vorhandensein von Benutzer "oracle"
Knotenname Benutzer ist vorhanden Kommentar
------------ ------------------------ ------------------------
vmrac1 ja erfolgreich
vmrac2 ja erfolgreich
Ergebnis: Prüfung auf Vorhandensein von Benutzer erfolgreich für "oracle".

Prüfung: Vorhandensein von Gruppe "oinstall"
Knotenname Status Gruppen-ID
------------ ------------------------ ------------------------
vmrac1 ist vorhanden 501
vmrac2 ist vorhanden 501
Ergebnis: Prüfung auf Vorhandensein von Gruppe erfolgreich für "oinstall".

Prüfung: Zugehörigkeit von Benutzer "oracle" in Gruppe "oinstall" [als Primär]
Knotenname Benutzer ist vorhanden Gruppe ist vorhanden Benutzer in Gruppe Primär Kommentar
---------------- ------------ ------------ ------------ ------------ ------------
vmrac1 ja ja ja ja erfolgreich
vmrac2 ja ja ja ja erfolgreich
Ergebnis: Zugehörigkeitsprüfung für Benutzer "oracle" in Gruppe "oinstall" [als Primär] erfolgreich.

Prüfung auf administrative Berechtigungen erfolgreich.

Knotenkonnektivität wird geprüft...


Schnittstelleninformationen für Knoten "vmrac1"
Schnittstellenname IP-Adresse Subnet Subnet Gateway Standard-Gateway Hardware-Adresse
---------------- ------------ ------------ ------------ ------------ ------------
eth0 139.2.162.171 139.2.160.0 0.0.0.0 UNKNOWN 00:0C:29:D4:59:4A
eth1 10.10.10.50 10.10.10.0 0.0.0.0 UNKNOWN 00:0C:29:D4:59:54


Schnittstelleninformationen für Knoten "vmrac2"
Schnittstellenname IP-Adresse Subnet Subnet Gateway Standard-Gateway Hardware-Adresse
---------------- ------------ ------------ ------------ ------------ ------------
eth0 139.2.162.173 139.2.160.0 0.0.0.0 139.2.160.40 00:0C:29:39:90:F4
eth1 10.10.10.51 10.10.10.0 0.0.0.0 139.2.160.40 00:0C:29:39:90:FE


Prüfung: Knotenkonnektivität von Subnet "139.2.160.0"
Quelle Ziel Angemeldet?
------------------------------ ------------------------------ ----------------
vmrac1:eth0 vmrac2:eth0 ja
Ergebnis: Prüfung auf Knotenkonnektivität für Subnet "139.2.160.0" mit Knoten vmrac1,vmrac2 erfolgreich.

Prüfung: Knotenkonnektivität von Subnet "10.10.10.0"
Quelle Ziel Angemeldet?
------------------------------ ------------------------------ ----------------
vmrac1:eth1 vmrac2:eth1 ja
Ergebnis: Prüfung auf Knotenkonnektivität für Subnet "10.10.10.0" mit Knoten vmrac1,vmrac2 erfolgreich.

Schnittstellen auf Subnet "139.2.160.0" gefunden, die wahrscheinlich für VIP in Frage kommen:
vmrac1 eth0:139.2.162.171
vmrac2 eth0:139.2.162.173

Schnittstellen auf Subnet "10.10.10.0" gefunden, die wahrscheinlich für Private Interconnect in Frage kommen:
vmrac1 eth1:10.10.10.50
vmrac2 eth1:10.10.10.51

Ergebnis: Prüfung auf Knotenkonnektivität erfolgreich


Prüfung der Systemanforderungen für 'crs'...

Prüfen: Gesamter Speicher
Knotenname Verfügbar Erforderlich Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 1,01GB (1059708KB) 1GB (1048576KB) erfolgreich
vmrac2 1,01GB (1059708KB) 1GB (1048576KB) erfolgreich
Ergebnis: Gesamter Speicher Überprüfung erfolgreich.

Prüfung: Freier Plattenspeicher in "/tmp" Verzeichnis
Knotenname Verfügbar Erforderlich Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 797,41MB (816544KB) 400MB (409600KB) erfolgreich
vmrac2 905,84MB (927584KB) 400MB (409600KB) erfolgreich
Ergebnis: Freier Plattenspeicher Überprüfung erfolgreich.

Prüfen: Swap-Bereich
Knotenname Verfügbar Erforderlich Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 2GB (2097144KB) 1,5GB (1572864KB) erfolgreich
vmrac2 2GB (2097144KB) 1,5GB (1572864KB) erfolgreich
Ergebnis: Swap-Bereich Überprüfung erfolgreich.

Prüfen: Systemarchitektur
Knotenname Verfügbar Erforderlich Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 i686 i686 erfolgreich
vmrac2 i686 i686 erfolgreich
Ergebnis: Systemarchitektur Überprüfung erfolgreich.

Prüfen: Kernel-Version
Knotenname Verfügbar Erforderlich Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 2.6.18-53.el5 2.6.9 erfolgreich
vmrac2 2.6.18-53.el5 2.6.9 erfolgreich
Ergebnis: Kernel-Version Überprüfung erfolgreich.

Prüfen: Package-Existenz für "make-3.81"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 make-3.81-1.1 erfolgreich
vmrac2 make-3.81-1.1 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "make-3.81".

Prüfen: Package-Existenz für "binutils-2.17.50.0.6"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 binutils-2.17.50.0.6-5.el5 erfolgreich
vmrac2 binutils-2.17.50.0.6-5.el5 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "binutils-2.17.50.0.6".

Prüfen: Package-Existenz für "gcc-4.1.1"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 gcc-4.1.2-14.el5 erfolgreich
vmrac2 gcc-4.1.2-14.el5 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "gcc-4.1.1".

Prüfen: Package-Existenz für "libaio-0.3.106"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 libaio-0.3.106-3.2 erfolgreich
vmrac2 libaio-0.3.106-3.2 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "libaio-0.3.106".

Prüfen: Package-Existenz für "libaio-devel-0.3.106"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 libaio-devel-0.3.106-3.2 erfolgreich
vmrac2 libaio-devel-0.3.106-3.2 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "libaio-devel-0.3.106".

Prüfen: Package-Existenz für "libstdc++-4.1.1"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 libstdc++-4.1.2-14.el5 erfolgreich
vmrac2 libstdc++-4.1.2-14.el5 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "libstdc++-4.1.1".

Prüfen: Package-Existenz für "elfutils-libelf-devel-0.125"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 elfutils-libelf-devel-0.125-3.el5 erfolgreich
vmrac2 elfutils-libelf-devel-0.125-3.el5 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "elfutils-libelf-devel-0.125".

Prüfen: Package-Existenz für "sysstat-7.0.0"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 sysstat-7.0.0-3.el5 erfolgreich
vmrac2 sysstat-7.0.0-3.el5 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "sysstat-7.0.0".

Prüfen: Package-Existenz für "compat-libstdc++-33-3.2.3"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 compat-libstdc++-33-3.2.3-61 erfolgreich
vmrac2 compat-libstdc++-33-3.2.3-61 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "compat-libstdc++-33-3.2.3".

Prüfen: Package-Existenz für "libgcc-4.1.1"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 libgcc-4.1.2-14.el5 erfolgreich
vmrac2 libgcc-4.1.2-14.el5 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "libgcc-4.1.1".

Prüfen: Package-Existenz für "libstdc++-devel-4.1.1"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 libstdc++-devel-4.1.2-14.el5 erfolgreich
vmrac2 libstdc++-devel-4.1.2-14.el5 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "libstdc++-devel-4.1.1".

Prüfen: Package-Existenz für "unixODBC-2.2.11"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 unixODBC-2.2.11-7.1 erfolgreich
vmrac2 unixODBC-2.2.11-7.1 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "unixODBC-2.2.11".

Prüfen: Package-Existenz für "unixODBC-devel-2.2.11"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 unixODBC-devel-2.2.11-7.1 erfolgreich
vmrac2 unixODBC-devel-2.2.11-7.1 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "unixODBC-devel-2.2.11".

Prüfen: Package-Existenz für "glibc-2.5-12"
Knotenname Status Kommentar
------------------------------ ------------------------------ ----------------
vmrac1 glibc-2.5-18 erfolgreich
vmrac2 glibc-2.5-18 erfolgreich
Ergebnis: Package-Existenz Überprüfung erfolgreich für "glibc-2.5-12".

Prüfen: Gruppenexistenz für "dba"
Knotenname Status Kommentar
------------ ------------------------ ------------------------
vmrac1 ist vorhanden erfolgreich
vmrac2 ist vorhanden erfolgreich
Ergebnis: Gruppenexistenz Überprüfung erfolgreich für "dba".

Prüfen: Gruppenexistenz für "oinstall"
Knotenname Status Kommentar
------------ ------------------------ ------------------------
vmrac1 ist vorhanden erfolgreich
vmrac2 ist vorhanden erfolgreich
Ergebnis: Gruppenexistenz Überprüfung erfolgreich für "oinstall".

Prüfen: Benutzerexistenz für "nobody"
Knotenname Status Kommentar
------------ ------------------------ ------------------------
vmrac1 ist vorhanden erfolgreich
vmrac2 ist vorhanden erfolgreich
Ergebnis: Benutzerexistenz Überprüfung erfolgreich für "nobody".

Systemanforderung erfüllt für 'crs'

Vorprüfung für Cluster-Services-Setup war erfolgreich.
[oracle@vmrac1]/u01/software/clusterware%

4.2 Clusterware installieren

1) Den Oracle Universal Installer als Betriebssystembenutzer crs vom ersten Knoten (vmrac1) aus zur Installation der Cluster Software starten.
cd /u01/software/clusterware
./runInstaller

2) Den Willkommen Dialog mit Weiter bestätigen.
clip_image002

3) Das Verzeichnis für das Oracle Inventory (/u01/app/oraInventory) und die Betriebssystemgruppe (oinstall) kontrollieren. Mit Weiter bestätigen.
clip_image004

4) Den Namen für die Installation (OraCrs11g_home) und das Verzeichnis zur Installation der Clusterware (/u01/app/crs) angeben und mit Weiter bestätigen.
clip_image006

5) Der Prüfdialog sollte keine Probleme ermitteln (0 Anforderungen, die überprüft werden müssen). Mit Weiter bestätigen.
clip_image008

6) Hier nun dem Cluster einen Namen geben (vmrac_cluster) und den zweiten Knoten mit „Hinzufüg…“ ergänzen.
clip_image010

7) Im Dialog „Cluster-Konfiguration angeben“ alle Knoten durch Bearbeiten bzw. Hinzufügen korrekt eintragen. Im Detaildialog dazu die Hostnamen für die IPs des öffentlichen Netzes, des Interconnects und die virtuelle IP angeben (siehe Abschnitt 3.3 Punkt 26)) und mit OK bestätigen.
clip_image012

8) Dann die Konfiguration im Dialog „Cluster-Konfiguration angeben“ mit Weiter bestätigen.
clip_image014

9) Durch Bearbeiten die korrekte Zuordnung der Netzwerk Devices zum öffentlichen bzw. privaten Netzwerk festlegen (siehe Abschnitt 3.3 Punkt 26)).
clip_image016

10) Das private Netzwerk ist der Interconnect, die übrigen IPs gehören zum öffentlichen Netz. Die Konfiguration mit OK bzw. Weiter bestätigen.
clip_image018

11) Die Redundanz für die Oracle Cluster Registry auf „Externe Redundanz“ festlegen und den Speicherort mit Pfad und Dateinamen angeben (/u02/crs/OCRFile). Die Datei wird auf dem OCFS2 Device abgelegt. Mit Weiter bestätigen.
clip_image020

12) Die Redundanz für die Voting Disk auf „Externe Redundanz“ festlegen und den Speicherort mit Pfad und Dateinamen angeben (/u02/crs/VotingFile). Die Datei wird auf dem OCFS2 Device abgelegt. Mit Weiter bestätigen.
clip_image022

13) Nun aus dem abschließenden Überblick Dialog die Installation mit Installieren starten.
clip_image024

14) Der Installationsverlauf wird angezeigt.
clip_image026

15) Im Verlauf der Remote-Vorgänge kann es zu einer Warnung kommen. Das Problem tritt auf, weil durch die Auslastung mit der Installation die Knoten temporär unterschiedliche Uhrzeiten aufweisen. Dies wird durch die VMware Tools aber im laufenden Betrieb nach kurzer Zeit wieder behoben. Daher mit der Installation durch Auswahl von Ja fortfahren.
clip_image028

16) Wenn dieser Dialog erschein die Skripte wie angegeben ausführen (siehe folgende Punkte). Danach mit OK bestätigen.
clip_image030

17) Als Betriebssystembenutzer root das erste Script (z.B. per Copy und Paste) nacheinander auf den Cluster Knoten ausführen.
/u01/app/oraInventory/orainstRoot.sh

Ausgabe (z.B. auf Knoten 1):
[root@vmrac1]# /u01/app/oraInventory/orainstRoot.sh
Berechtigungen ändern von/u01/app/oraInventory in 770.
Ändern des Gruppennamen von /u01/app/oraInventory in oinstall.
Die Ausführung des Skripts ist abgeschlossen
[root@vmrac1]#

18) Als Betriebssystembenutzer root das zweite Script (z.B. per Copy und Paste) zunächst auf dem ersten Cluster Knoten (vmrac1) ausführen.
/u01/app/crs/root.sh

Ausgabe:
[root@vmrac1]# /u01/app/crs/root.sh
WARNING: directory '/u01/app' is not owned by root
Checking to see if Oracle CRS stack is already configured
/etc/oracle does not exist. Creating it now.

Setting the permissions on OCR backup directory
Setting up Network socket directories
Oracle Cluster Registry configuration upgraded successfully
The directory '/u01/app' is not owned by root. Changing owner to root
Successfully accumulated necessary OCR keys.
Using ports: CSS=49895 CRS=49896 EVMC=49898 and EVMR=49897.
node <nodenumber>: <nodename> <private interconnect name> <hostname>
node 1: vmrac1 vmrac1-priv vmrac1
node 2: vmrac2 vmrac2-priv vmrac2
Creating OCR keys for user 'root', privgrp 'root'..
Operation successful.
Now formatting voting device: /u02/crs/VotingFile
Format of 1 voting devices complete.
Startup will be queued to init within 30 seconds.
Adding daemons to inittab
Expecting the CRS daemons to be up within 600 seconds.
Cluster Synchronization Services is active on these nodes.
vmrac1
Cluster Synchronization Services is inactive on these nodes.
vmrac2
Local node checking complete. Run root.sh on remaining nodes to start CRS daemons.
[root@vmrac1]#

19) Als Betriebssystembenutzer root das zweite Script (z.B. per Copy und Paste) auf den zweiten Cluster Knoten (vmrac2) ausführen.
/u01/app/crs/root.sh

Ausgabe:
[root@vmrac2 ~]# /u01/app/crs/root.sh
WARNING: directory '/u01/app' is not owned by root
Checking to see if Oracle CRS stack is already configured
/etc/oracle does not exist. Creating it now.

Setting the permissions on OCR backup directory
Setting up Network socket directories
Oracle Cluster Registry configuration upgraded successfully
The directory '/u01/app' is not owned by root. Changing owner to root
clscfg: EXISTING configuration version 4 detected.
clscfg: version 4 is 11 Release 1.
Successfully accumulated necessary OCR keys.
Using ports: CSS=49895 CRS=49896 EVMC=49898 and EVMR=49897.
node <nodenumber>: <nodename> <private interconnect name> <hostname>
node 1: vmrac1 vmrac1-priv vmrac1
node 2: vmrac2 vmrac2-priv vmrac2
clscfg: Arguments check out successfully.

NO KEYS WERE WRITTEN. Supply -force parameter to override.
-force is destructive and will destroy any previous cluster
configuration.
Oracle Cluster Registry for cluster has already been initialized
Startup will be queued to init within 30 seconds.
Adding daemons to inittab
Expecting the CRS daemons to be up within 600 seconds.
Cluster Synchronization Services is active on these nodes.
vmrac1
vmrac2
Cluster Synchronization Services is active on all the nodes.
Waiting for the Oracle CRSD and EVMD to start
Oracle CRS stack installed and running under init(1M)
Running vipca(silent) for configuring nodeapps

VIP-Anwendungsressource wird auf (2) Knoten erstellt...
GSD-Anwendungsressource wird auf (2) Knoten erstellt...
ONS-Anwendungsressource wird auf (2) Knoten erstellt...
VIP-Anwendungsressource wird auf (2) Knoten gestartet...
GSD-Anwendungsressource wird auf (2) Knoten gestartet...
ONS-Anwendungsressource wird auf (2) Knoten gestartet.1:CRS-0215: Could not start resource 'ora.vmrac2.ons'.
Prüfen Sie die Log-Datei "/u01/app/crs/log/vmrac2/racg/ora.vmrac2.ons.log" auf weitere Einzelheiten
..


Done.
[root@vmrac2 ~]#

20) Nach Bestätigen, dass die Scripte ausgeführt worden sind, werden automatisch drei Konfigurationsassistenten ausgeführt. Dies sollte fehlerfrei verlaufen.
clip_image032

21) Den abschließenden Dialog beenden.
clip_image034

22) Die Nachfrage zum Beenden mit Ja bestätigen.
clip_image036

23) Nach der Installation kann man als Betriebssystembenutzer crs mit dem Clusterverification Utility auf allen Knoten prüfen, ob die Installation der Clusterware erfolgreich und korrekt verlaufen ist.
cd /u01/software/clusterware
./runcluvfy.sh stage -post crsinst -n vmrac1,vmrac2 -verbose

Ausgabe:
[crs@vmrac1]/u01/software/clusterware% ./runcluvfy.sh stage -post crsinst -n vmrac1,vmrac2 -verbose

Nachprüfungen für Cluster-Services-Setup werden ausgeführt.

Knotenzugänglichkeit wird geprüft...

Prüfung: Knotenzugänglichkeit von Knoten "vmrac1"
Zielknoten Zugänglich?
------------------------------------ ------------------------
vmrac1 ja
vmrac2 ja
Ergebnis: Prüfung auf Knotenzugänglichkeit von Knoten "vmrac1" erfolgreich.


Benutzeräquivalenz wird überprüft...

Prüfung: Benutzeräquivalenz für Benutzer "crs"
Knotenname Kommentar
------------------------------------ ------------------------
vmrac1 erfolgreich
vmrac2 erfolgreich
Ergebnis: Prüfung auf Benutzeräquivalenz erfolgreich für Benutzer "crs".

Cluster-Manager-Integrität wird geprüft...


CSS Daemon wird geprüft...
Knotenname Status
------------------------------------ ------------------------
vmrac1 wird ausgeführt
vmrac2 wird ausgeführt
Ergebnis: Daemon-Status berPrüfung erfolgreich für "CSS daemon".

Prüfung der Cluster-Manager-Integrität erfolgreich.

Cluster-Integrität wird geprüft...

Knotenname
------------------------------------
vmrac1
vmrac2

Cluster-IntegritätsPrüfung erfolgreich


OCR-Integrität wird überprüft...

Auf Fehlen einer nicht-geclusterten Konfiguration wird geprüft...
Alle Knoten sind frei von nicht-geclusterten nur lokalen Konfigurationen.

Eindeutigkeitsprüfung von OCR Device erfolgreich.

Version von OCR wird geprüft...
OCR mit korrekter Version "2" ist vorhanden.

Datenintegrität von OCR wird geprüft...
Datenintegritätsprüfung für OCR erfolgreich.

OCR-Integritätsprüfung erfolgreich

CRS-Integrität wird überprüft...

Es wird geprüft, ob Daemon aktiv ist...

Prüfung: Aktiv für "CRS daemon"
Knotenname Gestartet
------------------------------------ ------------------------
vmrac1 ja
vmrac2 ja
Ergebnis: Aktivitätsprüfung erfolgreich für "CRS daemon".

Es wird geprüft, ob Daemon aktiv ist...

Prüfung: Aktiv für "CSS daemon"
Knotenname Gestartet
------------------------------------ ------------------------
vmrac1 ja
vmrac2 ja
Ergebnis: Aktivitätsprüfung erfolgreich für "CSS daemon".

Es wird geprüft, ob Daemon aktiv ist...

Prüfung: Aktiv für "EVM daemon"
Knotenname Gestartet
------------------------------------ ------------------------
vmrac1 ja
vmrac2 ja
Ergebnis: Aktivitätsprüfung erfolgreich für "EVM daemon".

Aktivität aller Daemons
Knotenname CRS daemon CSS daemon EVM daemon
------------ ------------------------ ------------------------ ----------
vmrac1 ja ja ja
vmrac2 ja ja ja

CRS-Integrität wird überprüft...

Prüfung: CRS-Integrität
Knotenname CRS OK?
------------------------------------ ------------------------
vmrac1 ja
vmrac2 ja
Ergebnis: CRS-Integritätsprüfung erfolgreich.

CRS-IntegritätsPrüfung erfolgreich

Vorhandensein von Knotenanwendung wird geprüft...

Vorhandensein von VIP Knotenanwendung wird geprüft
Knotenname Erforderlich Status Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 ja ist vorhanden erfolgreich
vmrac2 ja ist vorhanden erfolgreich
Ergebnis: Prüfung erfolgreich.

Vorhandensein von ONS Knotenanwendung wird geprüft
Knotenname Erforderlich Status Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 nein ist vorhanden erfolgreich
vmrac2 nein ist vorhanden erfolgreich
Ergebnis: Prüfung erfolgreich.

Vorhandensein von GSD Knotenanwendung wird geprüft
Knotenname Erforderlich Status Kommentar
------------ ------------------------ ------------------------ ----------
vmrac1 nein ist vorhanden erfolgreich
vmrac2 nein ist vorhanden erfolgreich
Ergebnis: Prüfung erfolgreich.


Nachprüfung für Cluster-Services-Setup war erfolgreich.
[crs@vmrac1]/u01/software/clusterware%

24) Prüfen der Clusterinstallation mit
/u01/app/crs/bin/crs_stat –t

Ausgabe:
[crs@vmrac1]~% /u01/app/crs/bin/crs_stat –t
Name Type Target State Host
------------------------------------------------------------
ora.vmrac1.gsd application ONLINE ONLINE vmrac1
ora.vmrac1.ons application ONLINE ONLINE vmrac1
ora.vmrac1.vip application ONLINE ONLINE vmrac2
ora.vmrac2.gsd application ONLINE ONLINE vmrac2
ora.vmrac2.ons application ONLINE ONLINE vmrac2
ora.vmrac2.vip application ONLINE ONLINE vmrac2
[crs@vmrac1]~%

25) Reboot aller Knoten als root durchführen, um zu testen, dass die Clusterware sauber startet.
init 6

26) Danach wieder auf allen Knoten mit crs anmelden, ein Terminalfenster öffnen und Test aus Punkt 24) wiederholen.

4.3 SSH-Schüssel für VIPs akzeptieren

Auch für die nun eingerichteten virtuellen IP-Adressen müssen noch die SSH-Schüssel akzeptiert werden.

1) Für den crs Benutzer zunächst auf Knoten 1 und dann auf Knoten 2 die ausgetauschten SSH-Schüssel für den Hostnamen der virtuellen IP akzeptieren.
ssh vmrac1-vip date
ssh vmrac2-vip date
ssh vmrac1-vip.team-pb.de date
ssh vmrac2-vip.team-pb.de date
Jeweils die Abfrage mit yes beantworten und mit [enter] bestätigen.

Ausgabe:
[crs@vmrac1]~% ssh vmrac1-vip.team-pb.de date
The authenticity of host 'vmrac1-vip.team-pb.de (139.2.162.172)' can't be established.
RSA key fingerprint is 77:1e:e6:bb:e6:66:0c:84:5e:a5:bb:0f:9d:f8:84:b1.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added 'vmrac1-vip.team-pb.de' (RSA) to the list of known hosts.
Sa 13. Sep 00:00:48 CEST 2008
[crs@vmrac1]~%

2) Werden die SSH Befehle aus Schritt 1) erneut ausgeführt, so sollten sie ohne weitere Eingabeaufforderung durchlaufen.

3) Danach auf beiden Knoten als crs Benutzer ausloggen.
exit

4) Die SSH-Konfiguration der vorhergehenden Schritte 1) bis 2) nun für den Benutzer oracle wiederholen.

Keine Kommentare:

Kommentar veröffentlichen