La versione in lingua italiana fornita proviene da una traduzione automatica. Per eventuali incoerenze, fare riferimento alla versione in lingua inglese.

TR-4965: Implementazione e protezione del database Oracle in AWS FSX/EC2 con iSCSI/ASM

10/10/2024 Collaboratori

PDF

Allen Cao, Niyaz Mohamed, NetApp

Questa soluzione offre una panoramica e dettagli sull'implementazione e la protezione dei database Oracle nello storage AWS FSX ONTAP e nell'istanza di calcolo EC2 con protocollo iSCSI e nel database Oracle configurati in modalità di riavvio standalone utilizzando asm come volume manager.

Scopo

ASM (Automatic Storage Management) è un noto gestore del volume di storage Oracle impiegato in molte installazioni Oracle. È anche la soluzione di gestione dello storage consigliata da Oracle. Offre un'alternativa ai tradizionali file system e ai volumi manager. A partire dalla versione 11g di Oracle, ASM si è impacchettato su un'infrastruttura basata su griglie piuttosto che su un database. Di conseguenza, per utilizzare Oracle ASM per la gestione dello storage senza RAC, è necessario installare l'infrastruttura Oracle Grid in un server standalone, noto anche come Oracle Restart. Questo fatto aggiunge sicuramente una maggiore complessità all'implementazione del database Oracle. Tuttavia, come implica il nome, quando Oracle viene distribuito in modalità Restart, i servizi Oracle in errore venivano riavviati automaticamente dall'infrastruttura basata su griglia o dopo un riavvio dell'host senza l'intervento dell'utente, il che fornisce un certo livello di disponibilità elevata o funzionalità ha.

In questa documentazione, dimostriamo come distribuire un database Oracle con protocollo iSCSI e Oracle ASM in un ambiente di storage Amazon FSX ONTAP con EC2 istanze di calcolo. Inoltre, dimostreremo come utilizzare il servizio NetApp SnapCenter attraverso la console NetApp BlueXP per eseguire il backup, il ripristino e la clonazione del database Oracle per lo sviluppo/test o altri casi di utilizzo per un funzionamento efficiente dello storage del database nel cloud pubblico AWS.

Questa soluzione risolve i seguenti casi di utilizzo:

Implementazione del database Oracle nello storage Amazon FSX ONTAP e in EC2 istanze di calcolo con iSCSI/ASM
Test e convalida di un carico di lavoro Oracle nel cloud AWS pubblico con iSCSI/ASM
Test e convalida delle funzionalità di riavvio del database Oracle implementate in AWS

Pubblico

Questa soluzione è destinata alle seguenti persone:

Un DBA che desidera implementare Oracle in un cloud pubblico AWS con iSCSI/ASM.
Un architetto di soluzioni di database che desidera testare i carichi di lavoro Oracle nel cloud pubblico AWS.
L'amministratore dello storage che desidera implementare e gestire un database Oracle implementato nello storage AWS FSX.
Il proprietario dell'applicazione che desidera creare un database Oracle in AWS FSX/EC2.

Ambiente di test e convalida della soluzione

Il test e la convalida di questa soluzione sono stati eseguiti in un ambiente AWS FSX e EC2 che potrebbe non corrispondere all'ambiente di implementazione finale. Per ulteriori informazioni, vedere la sezione Fattori chiave per l'implementazione.

Architettura

Questa immagine fornisce un quadro dettagliato della configurazione di implementazione di Oracle nel cloud pubblico AWS con iSCSI e ASM.

Componenti hardware e software

Hardware

Storage FSX ONTAP

Versione corrente offerta da AWS

Un cluster FSX ha nello stesso VPC e nella stessa zona di disponibilità

Istanza EC2 per il calcolo

t2.xlarge/4vCPU/16G

Due istanze EC2 T2 xlarge EC2, una come server DB primario e l'altra come server DB clone

Software

RedHat Linux

RHEL-8.6.0_HVM-20220503-x86_64-2-Hourly2-GP2

Implementazione dell'abbonamento a RedHat per il test

Oracle Grid Infrastructure

Versione 19.18

Patch RU applicata p34762026_190000_Linux-x86-64.zip

Database Oracle

Versione 19.18

Patch RU applicata p34765931_190000_Linux-x86-64.zip

Oracle OPatch

Versione 12.2.0.1.36

Ultima patch p6880880_190000_Linux-x86-64.zip

Servizio SnapCenter

Versione

v2.3.1.2324

Fattori chiave per l'implementazione

Istanze di calcolo EC2. in questi test e convalide, abbiamo utilizzato un tipo di istanza AWS EC2 t2.xlarge per l'istanza di calcolo del database Oracle. NetApp consiglia di utilizzare un'istanza EC2 di tipo M5 come istanza di calcolo per Oracle nell'implementazione in produzione, poiché è ottimizzata per i carichi di lavoro del database. È necessario dimensionare l'istanza EC2 in modo appropriato in base al numero di vCPU e alla quantità di RAM in base ai requisiti effettivi del carico di lavoro.
Implementazione di cluster ha storage FSX a singola o multi-zona. in questi test e convalide, abbiamo implementato un cluster ha FSX in una singola zona di disponibilità AWS. Per l'implementazione in produzione, NetApp consiglia di implementare una coppia FSX ha in due diverse zone di disponibilità. Un cluster FSX ha viene fornito in maniera ininterrotta in una coppia ha con mirroring sincronizzato in una coppia di file system Active-passive per fornire ridondanza a livello di storage. L'implementazione multi-zona migliora ulteriormente l'alta disponibilità in caso di guasto in una singola zona AWS.
Dimensionamento del cluster di storage FSX. Un file system storage Amazon FSX ONTAP offre fino a 160.000 IOPS SSD raw, throughput fino a 4Gbps Gbps e una capacità massima di 192TiB PB. Tuttavia, è possibile dimensionare il cluster in termini di IOPS con provisioning, throughput e limite di storage (minimo 1,024 GiB) in base ai requisiti effettivi al momento dell'implementazione. La capacità può essere regolata dinamicamente in tempo reale senza influire sulla disponibilità delle applicazioni.
Formato dati e registri Oracle. Nei nostri test e convalide, abbiamo distribuito due gruppi di dischi ASM rispettivamente per i dati e i registri. All'interno del gruppo di dischi +DATA asm, abbiamo eseguito il provisioning di quattro LUN in un volume di dati. All'interno del gruppo di dischi asm +LOGS, sono stati forniti due LUN in un volume di log. In generale, le LUN multiple distribuite in un volume Amazon FSX ONTAP offrono performance migliori.
Configurazione iSCSI. il server del database dell'istanza EC2 si connette allo storage FSX con il protocollo iSCSI. Le istanze EC2 vengono generalmente implementate con una singola interfaccia di rete o ENI. La singola interfaccia NIC trasporta traffico sia iSCSI che applicativo. È importante valutare i requisiti di throughput di picco dell'i/o dei database Oracle analizzando attentamente il report Oracle AWR per scegliere un'istanza di calcolo EC2 adatta ai requisiti di throughput di applicazioni e iSCSI. NetApp consiglia inoltre di allocare quattro connessioni iSCSI a entrambi gli endpoint iSCSI FSX con multipath correttamente configurato.
Livello di ridondanza Oracle ASM da utilizzare per ciascun gruppo di dischi Oracle ASM creato. poiché FSX esegue già il mirroring dello storage a livello di cluster FSX, è necessario utilizzare la ridondanza esterna, il che significa che l'opzione non consente a Oracle ASM di eseguire il mirroring del contenuto del gruppo di dischi.
Backup del database. NetApp fornisce una versione SaaS del servizio software SnapCenter per il backup, il ripristino e il cloning del database nel cloud, disponibile tramite l'interfaccia utente della console NetApp BlueXP. NetApp consiglia di implementare un servizio di questo tipo per ottenere backup snapshot rapidi (in meno di un minuto), ripristino rapido (in pochi minuti) del database e cloning del database.

Implementazione della soluzione

La sezione seguente fornisce le procedure di implementazione passo-passo.

Prerequisiti per l'implementazione

Details

L'implementazione richiede i seguenti prerequisiti.

È stato impostato un account AWS e sono stati creati i segmenti VPC e di rete necessari all'interno dell'account AWS.
Dalla console AWS EC2, è necessario implementare due istanze EC2 Linux, una come server Oracle DB primario e un server DB di destinazione clone alternativo opzionale. Per ulteriori informazioni sulla configurazione dell'ambiente, vedere il diagramma dell'architettura nella sezione precedente. Esaminare anche il "Guida utente per istanze Linux" per ulteriori informazioni.
Dalla console AWS EC2, implementa i cluster ha di storage Amazon FSX ONTAP per ospitare i volumi del database Oracle. Se non hai dimestichezza con l'implementazione dello storage FSX, consulta la documentazione "Creazione di file system FSX ONTAP" per istruzioni dettagliate.
I passaggi 2 e 3 possono essere eseguiti utilizzando il seguente toolkit di automazione Terraform, che crea un'istanza EC2 denominata ora_01 E un file system FSX denominato fsx_01. Prima dell'esecuzione, rivedere attentamente le istruzioni e modificare le variabili in base all'ambiente in uso.
```
git clone https://github.com/NetApp-Automation/na_aws_fsx_ec2_deploy.git
```

Assicurarsi di aver allocato almeno 50 G nel volume root dell'istanza EC2 per avere spazio sufficiente per la fase dei file di installazione Oracle.

Configurazione del kernel dell'istanza EC2

Details

Con i prerequisiti forniti, accedere all'istanza EC2 come ec2-user e sudo to root user per configurare il kernel Linux per l'installazione di Oracle.

Creare una directory di staging /tmp/archive e impostare 777 permesso.
```
mkdir /tmp/archive

chmod 777 /tmp/archive
```

Scaricare e preparare i file di installazione binari Oracle e gli altri file rpm richiesti su /tmp/archive directory.

Consultare il seguente elenco di file di installazione da indicare in /tmp/archive Sull'istanza EC2.

[ec2-user@ip-172-30-15-58 ~]$ ls -l /tmp/archive
total 10537316
-rw-rw-r--. 1 ec2-user ec2-user      19112 Mar 21 15:57 compat-libcap1-1.10-7.el7.x86_64.rpm
-rw-rw-r--  1 ec2-user ec2-user 3059705302 Mar 21 22:01 LINUX.X64_193000_db_home.zip
-rw-rw-r--  1 ec2-user ec2-user 2889184573 Mar 21 21:09 LINUX.X64_193000_grid_home.zip
-rw-rw-r--. 1 ec2-user ec2-user     589145 Mar 21 15:56 netapp_linux_unified_host_utilities-7-1.x86_64.rpm
-rw-rw-r--. 1 ec2-user ec2-user      31828 Mar 21 15:55 oracle-database-preinstall-19c-1.0-2.el8.x86_64.rpm
-rw-rw-r--  1 ec2-user ec2-user 2872741741 Mar 21 22:31 p34762026_190000_Linux-x86-64.zip
-rw-rw-r--  1 ec2-user ec2-user 1843577895 Mar 21 22:32 p34765931_190000_Linux-x86-64.zip
-rw-rw-r--  1 ec2-user ec2-user  124347218 Mar 21 22:33 p6880880_190000_Linux-x86-64.zip
-rw-r--r--  1 ec2-user ec2-user     257136 Mar 22 16:25 policycoreutils-python-utils-2.9-9.el8.noarch.rpm

Installare Oracle 19c preinstallare RPM, che soddisfa la maggior parte dei requisiti di configurazione del kernel.
```
yum install /tmp/archive/oracle-database-preinstall-19c-1.0-2.el8.x86_64.rpm
```
Scaricare e installare il file mancante compat-libcap1 In Linux 8.
```
yum install /tmp/archive/compat-libcap1-1.10-7.el7.x86_64.rpm
```

Da NetApp, scaricare e installare le utility host di NetApp.

yum install /tmp/archive/netapp_linux_unified_host_utilities-7-1.x86_64.rpm

Installare policycoreutils-python-utils, Non disponibile nell'istanza EC2.

yum install /tmp/archive/policycoreutils-python-utils-2.9-9.el8.noarch.rpm

Installare la versione 1.8 di JDK aperta.
```
yum install java-1.8.0-openjdk.x86_64
```
Installare gli utils iSCSI Initiator.
```
yum install iscsi-initiator-utils
```
Installare sg3_utils.
```
yum install sg3_utils
```
Installare device-mapper-multipath.
```
yum install device-mapper-multipath
```

Disattiva gli hugepage trasparenti nel sistema corrente.

echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

Aggiungere le seguenti righe in /etc/rc.local per disattivare transparent_hugepage dopo il riavvio:

  # Disable transparent hugepages
          if test -f /sys/kernel/mm/transparent_hugepage/enabled; then
            echo never > /sys/kernel/mm/transparent_hugepage/enabled
          fi
          if test -f /sys/kernel/mm/transparent_hugepage/defrag; then
            echo never > /sys/kernel/mm/transparent_hugepage/defrag
          fi

Disattiva selinux cambiando SELINUX=enforcing a. SELINUX=disabled. Per rendere effettiva la modifica, è necessario riavviare l'host.
```
vi /etc/sysconfig/selinux
```
Aggiungere le seguenti righe a. limit.conf per impostare il limite del descrittore di file e la dimensione dello stack senza virgolette " ".
```
vi /etc/security/limits.conf
  "*               hard    nofile          65536"
  "*               soft    stack           10240"
```
Aggiungere spazio di swap all'istanza EC2 seguendo questa istruzione: "Come si alloca la memoria per lavorare come spazio di swap in un'istanza Amazon EC2 utilizzando un file di swap?" La quantità esatta di spazio da aggiungere dipende dalle dimensioni della RAM fino a 16 G.
Cambiare node.session.timeo.replacement_timeout in iscsi.conf file di configurazione da 120 a 5 secondi.
```
vi /etc/iscsi/iscsid.conf
```
Attivare e avviare il servizio iSCSI sull'istanza EC2.
```
systemctl enable iscsid
systemctl start iscsid
```
Recuperare l'indirizzo iSCSI Initiator da utilizzare per la mappatura LUN del database.
```
cat /etc/iscsi/initiatorname.iscsi
```
Aggiungere il gruppo ASM da utilizzare per il gruppo asm sysasm di asm.
```
groupadd asm
```
Modificare l'utente oracle per aggiungere ASM come gruppo secondario (l'utente oracle dovrebbe essere stato creato dopo l'installazione di RPM preinstallata da Oracle).
```
usermod -a -G asm oracle
```
Arrestare e disattivare il firewall Linux se è attivo.
```
systemctl stop firewalld
systemctl disable firewalld
```
Riavviare l'istanza EC2.

Eseguire il provisioning e il mapping di volumi di database e LUN all'host dell'istanza EC2

Details

Provisioning di tre volumi dalla riga di comando tramite login al cluster FSX tramite ssh come utente fsxadmin con IP di gestione del cluster FSX per ospitare file binari, dati e log del database Oracle.

Accedere al cluster FSX tramite SSH come utente fsxadmin.
```
ssh fsxadmin@172.30.15.53
```

Eseguire il seguente comando per creare un volume per il binario Oracle.

vol create -volume ora_01_biny -aggregate aggr1 -size 50G -state online  -type RW -snapshot-policy none -tiering-policy snapshot-only

Eseguire il seguente comando per creare un volume per i dati Oracle.

vol create -volume ora_01_data -aggregate aggr1 -size 100G -state online  -type RW -snapshot-policy none -tiering-policy snapshot-only

Eseguire il seguente comando per creare un volume per i registri Oracle.

vol create -volume ora_01_logs -aggregate aggr1 -size 100G -state online  -type RW -snapshot-policy none -tiering-policy snapshot-only

Creare un LUN binario all'interno del volume binario del database.

lun create -path /vol/ora_01_biny/ora_01_biny_01 -size 40G -ostype linux

Creare LUN di dati all'interno del volume di dati del database.

lun create -path /vol/ora_01_data/ora_01_data_01 -size 20G -ostype linux

lun create -path /vol/ora_01_data/ora_01_data_02 -size 20G -ostype linux

lun create -path /vol/ora_01_data/ora_01_data_03 -size 20G -ostype linux

lun create -path /vol/ora_01_data/ora_01_data_04 -size 20G -ostype linux

Creare LUN di log all'interno del volume di log del database.

lun create -path /vol/ora_01_logs/ora_01_logs_01 -size 40G -ostype linux

lun create -path /vol/ora_01_logs/ora_01_logs_02 -size 40G -ostype linux

Creare un igroup per l'istanza EC2 con l'iniziatore recuperato dal passaggio 14 della configurazione del kernel EC2 di cui sopra.
```
igroup create -igroup ora_01 -protocol iscsi -ostype linux -initiator iqn.1994-05.com.redhat:f65fed7641c2
```

Mappare le LUN all'igroup creato in precedenza. Incrementare l'ID LUN in modo sequenziale per ogni LUN aggiuntivo all'interno di un volume.

lun map -path /vol/ora_01_biny/ora_01_biny_01 -igroup ora_01 -vserver svm_ora -lun-id 0
lun map -path /vol/ora_01_data/ora_01_data_01 -igroup ora_01 -vserver svm_ora -lun-id 1
lun map -path /vol/ora_01_data/ora_01_data_02 -igroup ora_01 -vserver svm_ora -lun-id 2
lun map -path /vol/ora_01_data/ora_01_data_03 -igroup ora_01 -vserver svm_ora -lun-id 3
lun map -path /vol/ora_01_data/ora_01_data_04 -igroup ora_01 -vserver svm_ora -lun-id 4
lun map -path /vol/ora_01_logs/ora_01_logs_01 -igroup ora_01 -vserver svm_ora -lun-id 5
lun map -path /vol/ora_01_logs/ora_01_logs_02 -igroup ora_01 -vserver svm_ora -lun-id 6

Convalidare la mappatura del LUN.

mapping show

Si prevede che ciò restituisca:

FsxId02ad7bf3476b741df::> mapping show
  (lun mapping show)
Vserver    Path                                      Igroup   LUN ID  Protocol
---------- ----------------------------------------  -------  ------  --------
svm_ora    /vol/ora_01_biny/ora_01_biny_01           ora_01        0  iscsi
svm_ora    /vol/ora_01_data/ora_01_data_01           ora_01        1  iscsi
svm_ora    /vol/ora_01_data/ora_01_data_02           ora_01        2  iscsi
svm_ora    /vol/ora_01_data/ora_01_data_03           ora_01        3  iscsi
svm_ora    /vol/ora_01_data/ora_01_data_04           ora_01        4  iscsi
svm_ora    /vol/ora_01_logs/ora_01_logs_01           ora_01        5  iscsi
svm_ora    /vol/ora_01_logs/ora_01_logs_02           ora_01        6  iscsi

Configurazione dello storage del database

Details

A questo punto, importare e configurare lo storage FSX per l'infrastruttura grid Oracle e l'installazione del database sull'host dell'istanza EC2.

Accedere all'istanza EC2 tramite SSH come ec2-user con la chiave SSH e l'indirizzo IP dell'istanza EC2.
```
ssh -i ora_01.pem ec2-user@172.30.15.58
```
Individuare gli endpoint iSCSI FSX utilizzando l'indirizzo IP iSCSI SVM. Quindi passare all'indirizzo del portale specifico dell'ambiente.
```
sudo iscsiadm iscsiadm --mode discovery --op update --type sendtargets --portal 172.30.15.51
```

Stabilire sessioni iSCSI accedendo a ciascuna destinazione.

sudo iscsiadm --mode node -l all

L'output previsto dal comando è:

[ec2-user@ip-172-30-15-58 ~]$ sudo iscsiadm --mode node -l all
Logging in to [iface: default, target: iqn.1992-08.com.netapp:sn.1f795e65c74911edb785affbf0a2b26e:vs.3, portal: 172.30.15.51,3260]
Logging in to [iface: default, target: iqn.1992-08.com.netapp:sn.1f795e65c74911edb785affbf0a2b26e:vs.3, portal: 172.30.15.13,3260]
Login to [iface: default, target: iqn.1992-08.com.netapp:sn.1f795e65c74911edb785affbf0a2b26e:vs.3, portal: 172.30.15.51,3260] successful.
Login to [iface: default, target: iqn.1992-08.com.netapp:sn.1f795e65c74911edb785affbf0a2b26e:vs.3, portal: 172.30.15.13,3260] successful.

Visualizzare e convalidare un elenco di sessioni iSCSI attive.

sudo iscsiadm --mode session

Restituire le sessioni iSCSI.

[ec2-user@ip-172-30-15-58 ~]$ sudo iscsiadm --mode session
tcp: [1] 172.30.15.51:3260,1028 iqn.1992-08.com.netapp:sn.1f795e65c74911edb785affbf0a2b26e:vs.3 (non-flash)
tcp: [2] 172.30.15.13:3260,1029 iqn.1992-08.com.netapp:sn.1f795e65c74911edb785affbf0a2b26e:vs.3 (non-flash)

Verificare che i LUN siano stati importati nell'host.

sudo sanlun lun show

In questo modo si otterrà un elenco di LUN Oracle da FSX.

[ec2-user@ip-172-30-15-58 ~]$ sudo sanlun lun show
controller(7mode/E-Series)/                                   device          host                  lun
vserver(cDOT/FlashRay)        lun-pathname                    filename        adapter    protocol   size    product

svm_ora                       /vol/ora_01_logs/ora_01_logs_02 /dev/sdn        host3      iSCSI      40g     cDOT
svm_ora                       /vol/ora_01_logs/ora_01_logs_01 /dev/sdm        host3      iSCSI      40g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_03 /dev/sdk        host3      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_04 /dev/sdl        host3      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_01 /dev/sdi        host3      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_02 /dev/sdj        host3      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_biny/ora_01_biny_01 /dev/sdh        host3      iSCSI      40g     cDOT
svm_ora                       /vol/ora_01_logs/ora_01_logs_02 /dev/sdg        host2      iSCSI      40g     cDOT
svm_ora                       /vol/ora_01_logs/ora_01_logs_01 /dev/sdf        host2      iSCSI      40g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_04 /dev/sde        host2      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_02 /dev/sdc        host2      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_03 /dev/sdd        host2      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_data/ora_01_data_01 /dev/sdb        host2      iSCSI      20g     cDOT
svm_ora                       /vol/ora_01_biny/ora_01_biny_01 /dev/sda        host2      iSCSI      40g     cDOT

Configurare multipath.conf file con le seguenti voci predefinite e blacklist.

sudo vi /etc/multipath.conf

defaults {
    find_multipaths yes
    user_friendly_names yes
}

blacklist {
    devnode "^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"
    devnode "^hd[a-z]"
    devnode "^cciss.*"
}

Avviare il servizio multipath.

sudo systemctl start multipathd

Ora i dispositivi multipath vengono visualizzati in /dev/mapper directory.

[ec2-user@ip-172-30-15-58 ~]$ ls -l /dev/mapper
total 0
lrwxrwxrwx 1 root root       7 Mar 21 20:13 3600a09806c574235472455534e68512d -> ../dm-0
lrwxrwxrwx 1 root root       7 Mar 21 20:13 3600a09806c574235472455534e685141 -> ../dm-1
lrwxrwxrwx 1 root root       7 Mar 21 20:13 3600a09806c574235472455534e685142 -> ../dm-2
lrwxrwxrwx 1 root root       7 Mar 21 20:13 3600a09806c574235472455534e685143 -> ../dm-3
lrwxrwxrwx 1 root root       7 Mar 21 20:13 3600a09806c574235472455534e685144 -> ../dm-4
lrwxrwxrwx 1 root root       7 Mar 21 20:13 3600a09806c574235472455534e685145 -> ../dm-5
lrwxrwxrwx 1 root root       7 Mar 21 20:13 3600a09806c574235472455534e685146 -> ../dm-6
crw------- 1 root root 10, 236 Mar 21 18:19 control

Accedere al cluster FSX come utente fsxadmin tramite SSH per recuperare il numero seriale-esadecimale per ogni LUN che inizia con 6c574xxx…, il numero ESADECIMALE inizia con 3600a0980, che è l'ID vendor AWS.

lun show -fields serial-hex

e tornare come segue:

FsxId02ad7bf3476b741df::> lun show -fields serial-hex
vserver path                            serial-hex
------- ------------------------------- ------------------------
svm_ora /vol/ora_01_biny/ora_01_biny_01 6c574235472455534e68512d
svm_ora /vol/ora_01_data/ora_01_data_01 6c574235472455534e685141
svm_ora /vol/ora_01_data/ora_01_data_02 6c574235472455534e685142
svm_ora /vol/ora_01_data/ora_01_data_03 6c574235472455534e685143
svm_ora /vol/ora_01_data/ora_01_data_04 6c574235472455534e685144
svm_ora /vol/ora_01_logs/ora_01_logs_01 6c574235472455534e685145
svm_ora /vol/ora_01_logs/ora_01_logs_02 6c574235472455534e685146
7 entries were displayed.

Aggiornare /dev/multipath.conf file per aggiungere un nome di facile utilizzo per la periferica multipath.

sudo vi /etc/multipath.conf

con le seguenti voci:

multipaths {
        multipath {
                wwid            3600a09806c574235472455534e68512d
                alias           ora_01_biny_01
        }
        multipath {
                wwid            3600a09806c574235472455534e685141
                alias           ora_01_data_01
        }
        multipath {
                wwid            3600a09806c574235472455534e685142
                alias           ora_01_data_02
        }
        multipath {
                wwid            3600a09806c574235472455534e685143
                alias           ora_01_data_03
        }
        multipath {
                wwid            3600a09806c574235472455534e685144
                alias           ora_01_data_04
        }
        multipath {
                wwid            3600a09806c574235472455534e685145
                alias           ora_01_logs_01
        }
        multipath {
                wwid            3600a09806c574235472455534e685146
                alias           ora_01_logs_02
        }
}

Riavviare il servizio multipath per verificare che i dispositivi siano presenti in /dev/mapper Sono stati modificati in nomi LUN rispetto agli ID seriali-esadecimali.

sudo systemctl restart multipathd

Controllare /dev/mapper per tornare come segue:

[ec2-user@ip-172-30-15-58 ~]$ ls -l /dev/mapper
total 0
crw------- 1 root root 10, 236 Mar 21 18:19 control
lrwxrwxrwx 1 root root       7 Mar 21 20:41 ora_01_biny_01 -> ../dm-0
lrwxrwxrwx 1 root root       7 Mar 21 20:41 ora_01_data_01 -> ../dm-1
lrwxrwxrwx 1 root root       7 Mar 21 20:41 ora_01_data_02 -> ../dm-2
lrwxrwxrwx 1 root root       7 Mar 21 20:41 ora_01_data_03 -> ../dm-3
lrwxrwxrwx 1 root root       7 Mar 21 20:41 ora_01_data_04 -> ../dm-4
lrwxrwxrwx 1 root root       7 Mar 21 20:41 ora_01_logs_01 -> ../dm-5
lrwxrwxrwx 1 root root       7 Mar 21 20:41 ora_01_logs_02 -> ../dm-6

Partizionare il LUN binario con una singola partizione primaria.
```
sudo fdisk /dev/mapper/ora_01_biny_01
```
Formattare il LUN binario partizionato con un file system XFS.
```
sudo mkfs.xfs /dev/mapper/ora_01_biny_01p1
```

Montare il LUN binario su /u01.

sudo mount -t xfs /dev/mapper/ora_01_biny_01p1 /u01

Cambiare /u01 Montare la proprietà dei punti all'utente Oracle e al gruppo primario associato.
```
sudo chown oracle:oinstall /u01
```
Individuare l'UUI del LUN binario.
```
sudo blkid /dev/mapper/ora_01_biny_01p1
```
Aggiungere un punto di montaggio a. /etc/fstab.
```
sudo vi /etc/fstab
```
Aggiungere la seguente riga.
```
UUID=d89fb1c9-4f89-4de4-b4d9-17754036d11d       /u01    xfs     defaults,nofail 0       2
```
È importante montare il binario solo con UUID e con l'opzione nofail per evitare possibili problemi di blocco root durante il riavvio dell'istanza EC2.

In qualità di utente root, aggiungere la regola udev per i dispositivi Oracle.

vi /etc/udev/rules.d/99-oracle-asmdevices.rules

Includere le seguenti voci:

ENV{DM_NAME}=="ora*", GROUP:="oinstall", OWNER:="oracle", MODE:="660"

Come utente root, ricaricare le regole udev.
```
udevadm control --reload-rules
```
Come utente root, attivare le regole udev.
```
udevadm trigger
```
Come utente root, ricaricare multipath.
```
systemctl restart multipathd
```
Riavviare l'host dell'istanza EC2.

Installazione dell'infrastruttura grid Oracle

Details

Accedere all'istanza EC2 come ec2-user tramite SSH e abilitare l'autenticazione della password senza commenti PasswordAuthentication yes e poi commentando PasswordAuthentication no.
```
sudo vi /etc/ssh/sshd_config
```
Riavviare il servizio sshd.
```
sudo systemctl restart sshd
```
Reimpostare la password utente Oracle.
```
sudo passwd oracle
```
Accedere come utente proprietario del software Oracle Restart (oracle). Creare una directory Oracle come segue:
```
mkdir -p /u01/app/oracle
mkdir -p /u01/app/oraInventory
```
Modificare l'impostazione delle autorizzazioni per la directory.
```
chmod -R 775 /u01/app
```

Creare una home directory grid e modificarla.

mkdir -p /u01/app/oracle/product/19.0.0/grid
cd /u01/app/oracle/product/19.0.0/grid

Decomprimere i file di installazione della griglia.

unzip -q /tmp/archive/LINUX.X64_193000_grid_home.zip

Dalla pagina iniziale della griglia, eliminare OPatch directory.
```
rm -rf OPatch
```
Dalla pagina iniziale della griglia, decomprimere p6880880_190000_Linux-x86-64.zip.
```
unzip -q /tmp/archive/p6880880_190000_Linux-x86-64.zip
```
Da Grid home, revisionare cv/admin/cvu_config, annullare il commento e sostituire CV_ASSUME_DISTID=OEL5 con CV_ASSUME_DISTID=OL7.
```
vi cv/admin/cvu_config
```

Preparare un gridsetup.rsp file per l'installazione automatica e inserire il file rsp in /tmp/archive directory. Il file rsp deve riguardare le sezioni A, B e G con le seguenti informazioni:

INVENTORY_LOCATION=/u01/app/oraInventory
oracle.install.option=HA_CONFIG
ORACLE_BASE=/u01/app/oracle
oracle.install.asm.OSDBA=dba
oracle.install.asm.OSOPER=oper
oracle.install.asm.OSASM=asm
oracle.install.asm.SYSASMPassword="SetPWD"
oracle.install.asm.diskGroup.name=DATA
oracle.install.asm.diskGroup.redundancy=EXTERNAL
oracle.install.asm.diskGroup.AUSize=4
oracle.install.asm.diskGroup.disks=/dev/mapper/ora_01_data_01,/dev/mapper/ora_01_data_02,/dev/mapper/ora_01_data_03,/dev/mapper/ora_01_data_04
oracle.install.asm.diskGroup.diskDiscoveryString=/dev/mapper/*
oracle.install.asm.monitorPassword="SetPWD"
oracle.install.asm.configureAFD=true

Accedere all'istanza EC2 come utente root e impostarla ORACLE_HOME e. ORACLE_BASE.

export ORACLE_HOME=/u01/app/oracle/product/19.0.0/grid
export ORACLE_BASE=/tmp
cd /u01/app/oracle/product/19.0.0/grid/bin

Eseguire il provisioning dei dispositivi disco per l'utilizzo con il driver di filtro ASM Oracle.

 ./asmcmd afd_label DATA01 /dev/mapper/ora_01_data_01 --init

 ./asmcmd afd_label DATA02 /dev/mapper/ora_01_data_02 --init

 ./asmcmd afd_label DATA03 /dev/mapper/ora_01_data_03 --init

 ./asmcmd afd_label DATA04 /dev/mapper/ora_01_data_04 --init

 ./asmcmd afd_label LOGS01 /dev/mapper/ora_01_logs_01 --init

 ./asmcmd afd_label LOGS02 /dev/mapper/ora_01_logs_02 --init

Installare cvuqdisk-1.0.10-1.rpm.

rpm -ivh /u01/app/oracle/product/19.0.0/grid/cv/rpm/cvuqdisk-1.0.10-1.rpm

Annulla impostazione $ORACLE_BASE.
```
unset ORACLE_BASE
```
Accedere all'istanza EC2 come utente Oracle ed estrarre la patch in /tmp/archive cartella.
```
unzip /tmp/archive/p34762026_190000_Linux-x86-64.zip -d /tmp/archive
```
Da Grid home /u01/app/oracle/product/19.0.0/grid e in qualità di utente oracle, avviare gridSetup.sh per l'installazione dell'infrastruttura grid.
```
 ./gridSetup.sh -applyRU /tmp/archive/34762026/ -silent -responseFile /tmp/archive/gridsetup.rsp
```
Ignorare gli avvisi relativi ai gruppi errati per l'infrastruttura grid. Stiamo utilizzando un singolo utente Oracle per gestire Oracle Restart, quindi questo è previsto.

Come utente root, eseguire i seguenti script:

/u01/app/oraInventory/orainstRoot.sh

/u01/app/oracle/product/19.0.0/grid/root.sh

Come utente root, ricaricare il multipath.
```
systemctl restart multipathd
```

In qualità di utente Oracle, eseguire il seguente comando per completare la configurazione:

/u01/app/oracle/product/19.0.0/grid/gridSetup.sh -executeConfigTools -responseFile /tmp/archive/gridsetup.rsp -silent

In qualità di utente Oracle, creare il gruppo di dischi DEI LOG.

bin/asmca -silent -sysAsmPassword 'yourPWD' -asmsnmpPassword 'yourPWD' -createDiskGroup -diskGroupName LOGS -disk 'AFD:LOGS*' -redundancy EXTERNAL -au_size 4

In qualità di utente Oracle, convalidare i servizi Grid dopo la configurazione dell'installazione.

bin/crsctl stat res -t
+
Name                Target  State        Server                   State details
Local Resources
ora.DATA.dg         ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.LISTENER.lsnr   ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.LOGS.dg         ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.asm             ONLINE  ONLINE       ip-172-30-15-58          Started,STABLE
ora.ons             OFFLINE OFFLINE      ip-172-30-15-58          STABLE
Cluster Resources
ora.cssd            ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.diskmon         OFFLINE OFFLINE                               STABLE
ora.driver.afd      ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.evmd            ONLINE  ONLINE       ip-172-30-15-58          STABLE

Convalidare lo stato del driver del filtro ASM.

[oracle@ip-172-30-15-58 grid]$ export ORACLE_HOME=/u01/app/oracle/product/19.0.0/grid
[oracle@ip-172-30-15-58 grid]$ export ORACLE_SID=+ASM
[oracle@ip-172-30-15-58 grid]$ export PATH=$PATH:$ORACLE_HOME/bin
[oracle@ip-172-30-15-58 grid]$ asmcmd
ASMCMD> lsdg
State    Type    Rebal  Sector  Logical_Sector  Block       AU  Total_MB  Free_MB  Req_mir_free_MB  Usable_file_MB  Offline_disks  Voting_files  Name
MOUNTED  EXTERN  N         512             512   4096  1048576     81920    81847                0           81847              0             N  DATA/
MOUNTED  EXTERN  N         512             512   4096  1048576     81920    81853                0           81853              0             N  LOGS/
ASMCMD> afd_state
ASMCMD-9526: The AFD state is 'LOADED' and filtering is 'ENABLED' on host 'ip-172-30-15-58.ec2.internal'

Installazione del database Oracle

Details

Accedere come utente Oracle e annullare l'impostazione $ORACLE_HOME e. $ORACLE_SID se è impostato.
```
unset ORACLE_HOME
unset ORACLE_SID
```

Creare la home directory Oracle DB e modificarla.

mkdir /u01/app/oracle/product/19.0.0/db1
cd /u01/app/oracle/product/19.0.0/db1

Decomprimere i file di installazione di Oracle DB.

unzip -q /tmp/archive/LINUX.X64_193000_db_home.zip

Dalla home page del database, eliminare OPatch directory.
```
rm -rf OPatch
```
Dalla DB home, decomprimere p6880880_190000_Linux-x86-64.zip.
```
unzip -q /tmp/archive/p6880880_190000_Linux-x86-64.zip
```
Da DB home, revisionare cv/admin/cvu_config, e rimuovere i commenti e sostituire CV_ASSUME_DISTID=OEL5 con CV_ASSUME_DISTID=OL7.
```
vi cv/admin/cvu_config
```
Dal /tmp/archive Decomprimere la patch DB 19.18 RU.
```
unzip p34765931_190000_Linux-x86-64.zip
```

Preparare il file rsp di installazione automatica del DB in /tmp/archive/dbinstall.rsp directory con i seguenti valori:

oracle.install.option=INSTALL_DB_SWONLY
UNIX_GROUP_NAME=oinstall
INVENTORY_LOCATION=/u01/app/oraInventory
ORACLE_HOME=/u01/app/oracle/product/19.0.0/db1
ORACLE_BASE=/u01/app/oracle
oracle.install.db.InstallEdition=EE
oracle.install.db.OSDBA_GROUP=dba
oracle.install.db.OSOPER_GROUP=oper
oracle.install.db.OSBACKUPDBA_GROUP=oper
oracle.install.db.OSDGDBA_GROUP=dba
oracle.install.db.OSKMDBA_GROUP=dba
oracle.install.db.OSRACDBA_GROUP=dba
oracle.install.db.rootconfig.executeRootScript=false

Da db1 home /u01/app/oracle/product/19.0.0/db1, eseguire l'installazione automatica del DB solo software.

 ./runInstaller -applyRU /tmp/archive/34765931/ -silent -ignorePrereqFailure -responseFile /tmp/archive/dbinstall.rsp

Come utente root, eseguire root.sh script dopo l'installazione solo software.
```
/u01/app/oracle/product/19.0.0/db1/root.sh
```

In qualità di utente Oracle, creare il dbca.rsp file con le seguenti voci:

gdbName=db1.demo.netapp.com
sid=db1
createAsContainerDatabase=true
numberOfPDBs=3
pdbName=db1_pdb
useLocalUndoForPDBs=true
pdbAdminPassword="yourPWD"
templateName=General_Purpose.dbc
sysPassword="yourPWD"
systemPassword="yourPWD"
dbsnmpPassword="yourPWD"
datafileDestination=+DATA
recoveryAreaDestination=+LOGS
storageType=ASM
diskGroupName=DATA
characterSet=AL32UTF8
nationalCharacterSet=AL16UTF16
listeners=LISTENER
databaseType=MULTIPURPOSE
automaticMemoryManagement=false
totalMemory=8192

In qualità di utente Oracle, Lauch DB Creation with dbca.

bin/dbca -silent -createDatabase -responseFile /tmp/archive/dbca.rsp

output:
Prepare for db operation
7% complete
Registering database with Oracle Restart
11% complete
Copying database files
33% complete
Creating and starting Oracle instance
35% complete
38% complete
42% complete
45% complete
48% complete
Completing Database Creation
53% complete
55% complete
56% complete
Creating Pluggable Databases
60% complete
64% complete
69% complete
78% complete
Executing Post Configuration Actions
100% complete
Database creation complete. For details check the logfiles at:
 /u01/app/oracle/cfgtoollogs/dbca/db1.
Database Information:
Global Database Name:db1.demo.netapp.com
System Identifier(SID):db1
Look at the log file "/u01/app/oracle/cfgtoollogs/dbca/db1/db1.log" for further details.

In qualità di utente Oracle, convalidare i servizi Oracle Restart ha dopo la creazione del DB.

[oracle@ip-172-30-15-58 db1]$ ../grid/bin/crsctl stat res -t

Name           	Target  State        Server                   State details

Local Resources

ora.DATA.dg		ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.LISTENER.lsnr	ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.LOGS.dg		ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.asm		ONLINE  ONLINE       ip-172-30-15-58          Started,STABLE
ora.ons		OFFLINE OFFLINE      ip-172-30-15-58          STABLE

Cluster Resources

ora.cssd        	ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.db1.db		ONLINE  ONLINE       ip-172-30-15-58          Open,HOME=/u01/app/oracle/product/19.0.0/db1,STABLE
ora.diskmon		OFFLINE OFFLINE                               STABLE
ora.driver.afd	ONLINE  ONLINE       ip-172-30-15-58          STABLE
ora.evmd		ONLINE  ONLINE       ip-172-30-15-58          STABLE

Impostare l'utente Oracle .bash_profile.
```
vi ~/.bash_profile
```

Aggiungere le seguenti voci:

export ORACLE_HOME=/u01/app/oracle/product/19.0.0/db1
export ORACLE_SID=db1
export PATH=$PATH:$ORACLE_HOME/bin
alias asm='export ORACLE_HOME=/u01/app/oracle/product/19.0.0/grid;export ORACLE_SID=+ASM;export PATH=$PATH:$ORACLE_HOME/bin'

Convalidare il CDB/PDB creato.

/home/oracle/.bash_profile

sqlplus / as sysdba

SQL> select name, open_mode from v$database;

NAME      OPEN_MODE

DB1       READ WRITE

SQL> select name from v$datafile;

NAME

+DATA/DB1/DATAFILE/system.256.1132176177
+DATA/DB1/DATAFILE/sysaux.257.1132176221
+DATA/DB1/DATAFILE/undotbs1.258.1132176247
+DATA/DB1/86B637B62FE07A65E053F706E80A27CA/DATAFILE/system.265.1132177009
+DATA/DB1/86B637B62FE07A65E053F706E80A27CA/DATAFILE/sysaux.266.1132177009
+DATA/DB1/DATAFILE/users.259.1132176247
+DATA/DB1/86B637B62FE07A65E053F706E80A27CA/DATAFILE/undotbs1.267.1132177009
+DATA/DB1/F7852758DCD6B800E0533A0F1EAC1DC6/DATAFILE/system.271.1132177853
+DATA/DB1/F7852758DCD6B800E0533A0F1EAC1DC6/DATAFILE/sysaux.272.1132177853
+DATA/DB1/F7852758DCD6B800E0533A0F1EAC1DC6/DATAFILE/undotbs1.270.1132177853
+DATA/DB1/F7852758DCD6B800E0533A0F1EAC1DC6/DATAFILE/users.274.1132177871

NAME

+DATA/DB1/F785288BBCD1BA78E0533A0F1EACCD6F/DATAFILE/system.276.1132177871
+DATA/DB1/F785288BBCD1BA78E0533A0F1EACCD6F/DATAFILE/sysaux.277.1132177871
+DATA/DB1/F785288BBCD1BA78E0533A0F1EACCD6F/DATAFILE/undotbs1.275.1132177871
+DATA/DB1/F785288BBCD1BA78E0533A0F1EACCD6F/DATAFILE/users.279.1132177889
+DATA/DB1/F78529A14DD8BB18E0533A0F1EACB8ED/DATAFILE/system.281.1132177889
+DATA/DB1/F78529A14DD8BB18E0533A0F1EACB8ED/DATAFILE/sysaux.282.1132177889
+DATA/DB1/F78529A14DD8BB18E0533A0F1EACB8ED/DATAFILE/undotbs1.280.1132177889
+DATA/DB1/F78529A14DD8BB18E0533A0F1EACB8ED/DATAFILE/users.284.1132177907

19 rows selected.

SQL> show pdbs

    CON_ID CON_NAME                       OPEN MODE  RESTRICTED

         2 PDB$SEED                       READ ONLY  NO
         3 DB1_PDB1                       READ WRITE NO
         4 DB1_PDB2                       READ WRITE NO
         5 DB1_PDB3                       READ WRITE NO
SQL>

Impostare la dimensione della destinazione di ripristino del database sulla dimensione del gruppo di dischi +LOGS.
```
alter system set db_recovery_file_dest_size = 80G scope=both;
```

Accedere al database con sqlplus e attivare la modalità di registrazione archivio.

sqlplus /as sysdba.

shutdown immediate;

startup mount;

alter database archivelog;

alter database open;

Ciò completa Oracle 19c versione 19,18 Riavvia la distribuzione su un'istanza di calcolo Amazon FSX ONTAP e EC2. Se lo si desidera, NetApp consiglia di spostare il file di controllo Oracle e i file di log online nel gruppo di dischi +LOGS.

Opzione di implementazione automatica

Fare riferimento a. "TR-4986: Implementazione di Oracle semplificata e automatizzata su Amazon FSX ONTAP con iSCSI" per ulteriori informazioni.

Backup, ripristino e clonazione del database Oracle con il servizio SnapCenter

Vedere "Servizi SnapCenter per Oracle" Per ulteriori informazioni su backup, ripristino e clonazione del database Oracle con la console NetApp BlueXP.

Dove trovare ulteriori informazioni

Per ulteriori informazioni sulle informazioni descritte in questo documento, consultare i seguenti documenti e/o siti Web:

Installazione di Oracle Grid Infrastructure per un server standalone con un'installazione di un nuovo database

"https://docs.oracle.com/en/database/oracle/oracle-database/19/ladbi/installing-oracle-grid-infrastructure-for-a-standalone-server-with-a-new-database-installation.html#GUID-0B1CEE8C-C893-46AA-8A6A-7B5FAAEC72B3"
Installazione e configurazione del database Oracle mediante i file di risposta

"https://docs.oracle.com/en/database/oracle/oracle-database/19/ladbi/installing-and-configuring-oracle-database-using-response-files.html#GUID-D53355E9-E901-4224-9A2A-B882070EDDF7"
Amazon FSX ONTAP

"https://aws.amazon.com/fsx/netapp-ontap/"
Amazon EC2

https://aws.amazon.com/pm/ec2/?trk=36c6da98-7b20-48fa-8225-4784bced9843&sc_channel=ps&s_kwcid=AL!4422!3!467723097970!e!!g!!aws%20ec2&ef_id=Cj0KCQiA54KfBhCKARIsAJzSrdqwQrghn6I71jiWzSeaT9Uh1-vY-VfhJixF-xnv5rWwn2S7RqZOTQ0aAh7eEALw_wcB:G:s&s_kwcid=AL!4422!3!467723097970!e!!g!!aws%20ec2

TR-4965: Implementazione e protezione del database Oracle in AWS FSX/EC2 con iSCSI/ASM

Creating your file...

Scopo

Pubblico

Ambiente di test e convalida della soluzione

Architettura

Componenti hardware e software

Fattori chiave per l'implementazione

Implementazione della soluzione

Prerequisiti per l'implementazione

Configurazione del kernel dell'istanza EC2

Eseguire il provisioning e il mapping di volumi di database e LUN all'host dell'istanza EC2

Configurazione dello storage del database

Installazione dell'infrastruttura grid Oracle

Installazione del database Oracle

Opzione di implementazione automatica

Backup, ripristino e clonazione del database Oracle con il servizio SnapCenter

Dove trovare ulteriori informazioni