本繁體中文版使用機器翻譯，譯文僅供參考，若與英文版本牴觸，應以英文版本為準。

配置 Oracle Linux 8x 和 NVMe-oF 用於ONTAP存儲

12/08/2025 貢獻者

Oracle Linux 主機支援基於光纖通道的 NVMe (NVMe/FC) 和基於 TCP 的 NVMe (NVMe/TCP) 協議，並支援非對稱命名空間存取 (ANA)。ANA 提供與 iSCSI 和 FCP 環境中的非對稱邏輯單元存取 (ALUA) 等效的多路徑功能。

了解如何為 Oracle Linux 8x 配置 NVMe over Fabrics (NVMe-oF) 主機。如需更多支援和功能信息，請參閱 "Oracle Linux ONTAP支援與功能"。

NVMe-oF 與 Oracle Linux 8x 有以下已知限制：

不支援使用 NVMe-oF 協定進行 SAN 啟動。
NetApp sanlun 主機公用程式不支援 Oracle Linux 8x 主機上的 NVMe-oF。相反，您可以依賴本機中包含的NetApp插件 `nvme-cli`適用於所有 NVMe-oF 傳輸的套件。
對於 Oracle Linux 8.2 及更早版本，nvme-cli 軟體套件中不提供原生 NVMe/FC 自動連線腳本。使用 HBA 供應商提供的外部自動連線腳本。
對於 Oracle Linux 8.2 及更早版本，預設不會為 NVMe 多路徑啟用輪詢負載平衡。若要啟用此功能，請前往下列步驟。編寫 udev 規則。

步驟 1：安裝 Oracle Linux 和 NVMe 軟體並驗證您的配置

使用以下步驟驗證支援的最低 Oracle Linux 8x 軟體版本。

步驟

在伺服器上安裝Oracle Linux 8x。安裝完成後，請確認您執行的是指定的 Oracle Linux 8x 核心。
```
uname -r
```
Oracle Linux 核心版本範例：
```
5.15.0-206.153.7.1.el8uek.x86_64
```
安裝「NVMe-CLI（NVMe - CLI）套件：
```
rpm -qa|grep nvme-cli
```
下面的例子展示了 `nvme-cli`軟體包版本：
```
nvme-cli-1.16-9.el8.x86_64
```

對於 Oracle Linux 8.2 及更早版本，請新增下列字串作為單獨的 udev 規則。 /lib/udev/rules.d/71-nvme-iopolicy-netapp-ONTAP.rules 。這樣就實現了 NVMe 多路徑的輪詢負載平衡。

cat /lib/udev/rules.d/71-nvme-iopolicy-netapp-ONTAP.rules
Enable round-robin for NetApp ONTAP
ACTION=="add", SUBSYSTEMS=="nvme-subsystem", ATTRS{model}=="NetApp ONTAP Controller", ATTR{iopolicy}="round-robin"

在 Oracle Linux 8x 主機上，檢查 hostnqn`字串 `/etc/nvme/hostnqn：
```
cat /etc/nvme/hostnqn
```
下面的例子展示了 `hostnqn`版本：
```
nqn.2014-08.org.nvmexpress:uuid:edd38060-00f7-47aa-a9dc-4d8ae0cd969a
```

在ONTAP系統中，驗證以下資訊： `hostnqn`字串匹配 `hostnqn`ONTAP儲存系統中對應子系統的字串：

vserver nvme subsystem host show -vserver vs_coexistence_LPE36002

顯示範例

Vserver Subsystem Priority  Host NQN
------- --------- --------  ------------------------------------------------
vs_coexistence_LPE36002
        nvme
                  regular   nqn.2014-08.org.nvmexpress:uuid:edd38060-00f7-47aa-a9dc-4d8ae0cd969a
        nvme1
                  regular   nqn.2014-08.org.nvmexpress:uuid:edd38060-00f7-47aa-a9dc-4d8ae0cd969a
        nvme2
                  regular   nqn.2014-08.org.nvmexpress:uuid:edd38060-00f7-47aa-a9dc-4d8ae0cd969a
        nvme3
                  regular   nqn.2014-08.org.nvmexpress:uuid:edd38060-00f7-47aa-a9dc-4d8ae0cd969a
4 entries were displayed.

如果 hostnqn`字串不相符，請使用 `vserver modify`命令更新 `hostnqn`對應 ONTAP 陣列子系統上的字串，以符合主機上的字 `/etc/nvme/hostnqn`串 `hostnqn。

此外，為了在同一台主機上同時執行 NVMe 和 SCSI 流量， NetApp建議對ONTAP命名空間使用核心 NVMe 多路徑。 `dm-multipath`分別對應ONTAP LUN。這樣應該可以將ONTAP命名空間排除在外。 `dm-multipath`並阻止 `dm-multipath`拒絕聲明ONTAP命名空間設備。
1. 添加 `enable_foreign`設定 `/etc/multipath.conf`文件。
  cat /etc/multipath.conf defaults { enable_foreign NONE }
2. 重新啟動 `multipathd`守護程式應用新設定。
  systemctl restart multipathd

步驟 2：設定 NVMe/FC 和 NVMe/TCP

使用 Broadcom/Emulex 或 Marvell/QLogic 適配器配置 NVMe/FC，或使用手動發現和連接操作來設定 NVMe/TCP。

FC——Broadcom/Emulex

為 Broadcom / Emulex 介面卡設定 NVMe / FC 。

確認您使用的是支援的介面卡機型：

顯示模型名稱：

cat /sys/class/scsi_host/host*/modelname

您應該會看到下列輸出：

LPe36002-M64
LPe36002-M64

顯示模型描述：
```
cat /sys/class/scsi_host/host*/modeldesc
```
您應該會看到類似以下範例的輸出：

Emulex LPe36002-M64 2-Port 64Gb Fibre Channel Adapter
Emulex LPe36002-M64 2-Port 64Gb Fibre Channel Adapter

驗證您使用的是建議的Broadcom lpfc 韌體與收件匣驅動程式：
1. 顯示韌體版本：
  cat /sys/class/scsi_host/host*/fwrev
  以下範例顯示韌體版本：
  14.4.317.10, sli-4:6:d 14.4.317.10, sli-4:6:d
2. 顯示收件匣驅動程式版本：
  cat /sys/module/lpfc/version
  以下範例顯示了驅動程式版本：
```
0:14.2.0.13
```
+
如需支援的介面卡驅動程式和韌體版本的最新清單，請參閱"互通性對照表工具"。
確認已 `lpfc_enable_fc4_type`設定為「 3 」：
```
cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type
```
確認您可以檢視啟動器連接埠：
```
cat /sys/class/fc_host/host*/<port_name>
```
以下範例顯示連接埠標識：
```
0x100000109bf0449c
0x100000109bf0449d
```
驗證啟動器連接埠是否在線上：
```
cat /sys/class/fc_host/host*/port_state
```
您應該會看到下列輸出：
```
Online
Online
```

確認已啟用 NVMe / FC 啟動器連接埠、且目標連接埠可見：

cat /sys/class/scsi_host/host*/nvme_info

顯示範例

NVME Initiator Enabled
XRI Dist lpfc0 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc0 WWPN x100000109bf0449c WWNN x200000109bf0449c DID x061500 ONLINE
NVME RPORT       WWPN x200bd039eab31e9c WWNN x2005d039eab31e9c DID x020e06 TARGET DISCSRVC ONLINE
NVME RPORT       WWPN x2006d039eab31e9c WWNN x2005d039eab31e9c DID x020a0a TARGET DISCSRVC ONLINE
NVME Statistics
LS: Xmt 000000002c Cmpl 000000002c Abort 00000000
LS XMIT: Err 00000000  CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 000000000008ffe8 Issue 000000000008ffb9 OutIO ffffffffffffffd1
        abort 0000000c noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 0000000c Err 0000000c
NVME Initiator Enabled
XRI Dist lpfc1 Total 6144 IO 5894 ELS 250
NVME LPORT lpfc1 WWPN x100000109bf0449d WWNN x200000109bf0449d DID x062d00 ONLINE
NVME RPORT       WWPN x201fd039eab31e9c WWNN x2005d039eab31e9c DID x02090a TARGET DISCSRVC ONLINE
NVME RPORT       WWPN x200cd039eab31e9c WWNN x2005d039eab31e9c DID x020d06 TARGET DISCSRVC ONLINE
NVME Statistics
LS: Xmt 0000000041 Cmpl 0000000041 Abort 00000000
LS XMIT: Err 00000000  CMPL: xb 00000000 Err 00000000
Total FCP Cmpl 00000000000936bf Issue 000000000009369a OutIO ffffffffffffffdb
        abort 00000016 noxri 00000000 nondlp 00000000 qdepth 00000000 wqerr 00000000 err 00000000
FCP CMPL: xb 00000016 Err 00000016

FC——Marvell/QLogic

為 Marvell/QLogic 介面卡設定 NVMe / FC 。

確認您執行的是支援的介面卡驅動程式和韌體版本：

cat /sys/class/fc_host/host*/symbolic_name

以下範例顯示了驅動程式和韌體版本：

QLE2772 FW:v9.15.00 DVR:v10.02.09.100-k
QLE2772 FW:v9.15.00 DVR:v10.02.09.100-k

請確認 ql2xnvmeenable 已設定。這可讓 Marvell 介面卡作為 NVMe / FC 啟動器運作：
```
cat /sys/module/qla2xxx/parameters/ql2xnvmeenable
```
預期輸出為 1 。

TCP

NVMe/TCP 協定不支援自動連線操作。相反，您可以透過執行 NVMe/TCP 來發現 NVMe/TCP 子系統和命名空間 `connect`或者 `connect-all`手動操作。

確認啟動器連接埠可在支援的NVMe/TCP LIF中擷取探索記錄頁面資料：

nvme discover -t tcp -w <host-traddr> -a <traddr>

顯示範例

nvme discover -t tcp -w 192.168.6.1 -a 192.168.6.24 Discovery Log Number of Records 20, Generation counter 45
=====Discovery Log Entry 0======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified
portid:  6
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.e6c438e66ac211ef9ab8d039eab31e9d:discovery
traddr:  192.168.6.25
sectype: none
=====Discovery Log Entry 1======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified
portid:  1
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.e6c438e66ac211ef9ab8d039eab31e9d:discovery
traddr:  192.168.5.24
sectype: none
=====Discovery Log Entry 2======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified
portid:  4
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.e6c438e66ac211ef9ab8d039eab31e9d:discovery
traddr:  192.168.6.24
sectype: none
=====Discovery Log Entry 3======
trtype:  tcp
adrfam:  ipv4
subtype: unrecognized
treq:    not specified
portid:  2
trsvcid: 8009
subnqn:  nqn.1992-08.com.netapp:sn.e6c438e66ac211ef9ab8d039eab31e9d:discovery
traddr:  192.168.5.25
sectype: none
=====Discovery Log Entry 4======
trtype:  tcp
adrfam:  ipv4
subtype: nvme subsystem
treq:    not specified
portid:  6
trsvcid: 4420
subnqn:  nqn.1992-08.com.netapp:sn.e6c438e66ac211ef9ab8d039eab31e9d:subsystem.nvme_tcp_4
traddr:  192.168.6.25
sectype: none
=====Discovery Log Entry 5======
trtype:  tcp
adrfam:  ipv4
subtype: nvme subsystem
treq:    not specified
portid:  1
trsvcid: 4420
subnqn:  nqn.1992-08.com.netapp:sn.e6c438e66ac211ef9ab8d039eab31e9d:subsystem.nvme_tcp_4
..........

確認所有其他的 NVMe / TCP 啟動器目標 LIF 組合都能成功擷取探索記錄頁面資料：

nvme discover -t tcp -w <host-traddr> -a <traddr>

顯示範例

nvme discover -t tcp -w 192.168.6.1 -a 192.168.6.24
nvme discover -t tcp -w 192.168.6.1 -a 192.168.6.25
nvme discover -t tcp -w 192.168.5.1 -a 192.168.5.24
nvme discover -t tcp -w 192.168.5.1 -a 192.168.5.25

執行 nvme connect-all 跨所有節點支援的 NVMe / TCP 啟動器目標生命體執行命令：

nvme connect-all -t tcp -w host-traddr -a traddr -l <ctrl_loss_timeout_in_seconds>

顯示範例

nvme	connect-all	-t	tcp	-w	192.168.5.1	-a	192.168.5.24	-l -1
nvme	connect-all	-t	tcp	-w	192.168.5.1	-a	192.168.5.25	-l -1
nvme	connect-all	-t	tcp	-w	192.168.6.1	-a	192.168.6.24	-l -1
nvme	connect-all	-t	tcp	-w	192.168.6.1	-a	192.168.6.25	-l -1

NetApp建議設定 `ctrl-loss-tmo option`到 `-1`這樣，當路徑遺失時，NVMe/TCP 發起程序會無限期地嘗試重新連線。

步驟 3：可選，啟用 NVMe/FC 的 1MB I/O。

ONTAP在識別控制器資料中報告最大資料傳輸大小 (MDTS) 為 8。這意味著最大 I/O 請求大小可達 1MB。若要向 Broadcom NVMe/FC 主機發出 1MB 大小的 I/O 要求，您應該會增加 `lpfc`的價值 `lpfc_sg_seg_cnt`參數從預設值 64 更改為 256。

這些步驟不適用於 Qlogic NVMe / FC 主機。

步驟

將 `lpfc_sg_seg_cnt`參數設定為 256 ：
```
cat /etc/modprobe.d/lpfc.conf
```
您應該會看到類似以下範例的輸出：
```
options lpfc lpfc_sg_seg_cnt=256
```
執行 `dracut -f`命令，然後重新啟動主機。

確認的值 `lpfc_sg_seg_cnt`為 256 ：

cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt

步驟 4：驗證多路徑配置

驗證核心內建 NVMe 多重路徑狀態， ANA 狀態和 ONTAP 命名空間是否適用於 NVMe 組態。

步驟

確認已啟用核心內建 NVMe 多重路徑：
```
cat /sys/module/nvme_core/parameters/multipath
```
您應該會看到下列輸出：
```
Y
```
驗證個別 ONTAP 命名空間的適當 NVMe 設定（例如、模型設定為 NetApp ONTAP 控制器、負載平衡 iopolicing 設定為循環）是否正確反映在主機上：
1. 顯示子系統：
  cat /sys/class/nvme-subsystem/nvme-subsys*/model
  您應該會看到下列輸出：
  NetApp ONTAP Controller NetApp ONTAP Controller
2. 顯示策略：
  cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy
  您應該會看到下列輸出：
```
round-robin
round-robin
```

確認已在主機上建立並正確探索命名空間：

nvme list

顯示範例

Node         SN                   Model
---------------------------------------------------------
/dev/nvme0n1 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller
/dev/nvme0n2 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller
/dev/nvme0n3 814vWBNRwf9HAAAAAAAB NetApp ONTAP Controller

Namespace Usage   Format               FW            Rev
-----------------------------------------------------------
1                 85.90 GB / 85.90 GB  4 KiB + 0 B   FFFFFFFF
2                 85.90 GB / 85.90 GB  24 KiB + 0 B  FFFFFFFF
3	                85.90 GB / 85.90 GB  4 KiB + 0 B   FFFFFFFF

確認每個路徑的控制器狀態均為有效、且具有正確的ANA狀態：

nvme list-subsys /dev/nvme0n1

展示 NVMe/FC 範例

nvme-subsys0 - NQN=nqn.1992- 08.com.netapp: 4b4d82566aab11ef9ab8d039eab31e9d:subsystem.nvme\
+-  nvme1 fc traddr=nn-0x2038d039eab31e9c:pn-0x203ad039eab31e9c host_traddr=nn-0x200034800d756a89:pn-0x210034800d756a89 live optimized
+-  nvme2 fc traddr=nn-0x2038d039eab31e9c:pn-0x203cd039eab31e9c host_traddr=nn-0x200034800d756a88:pn-0x210034800d756a88 live optimized
+- nvme3 fc traddr=nn-0x2038d039eab31e9c:pn-0x203ed039eab31e9c host_traddr=nn-0x200034800d756a89:pn-0x210034800d756a89 live non-optimized
+-  nvme7 fc traddr=nn-0x2038d039eab31e9c:pn-0x2039d039eab31e9c host_traddr=nn-0x200034800d756a88:pn-0x210034800d756a88 live non-optimized

展示 NVMe/TCP 範例

nvme-subsys0 - NQN=nqn.1992- 08.com.netapp: sn.e6c438e66ac211ef9ab8d039eab31e9d:subsystem.nvme_tcp_4
\
+- nvme1 tcp traddr=192.168.5.25 trsvcid=4420 host_traddr=192.168.5.1 src_addr=192.168.5.1 live optimized
+- nvme10 tcp traddr=192.168.6.24 trsvcid=4420 host_traddr=192.168.6.1 src_addr=192.168.6.1 live optimized
+- nvme2 tcp traddr=192.168.5.24 trsvcid=4420 host_traddr=192.168.5.1 src_addr=192.168.5.1 live non-optimized
+- nvme9 tcp traddr=192.168.6.25 trsvcid=4420 host_traddr=192.168.6.1 src_addr=192.168.6.1 live non-optimized

驗證NetApp外掛程式是否顯示每ONTAP 個版本名稱空間裝置的正確值：

欄位

nvme netapp ontapdevices -o column

顯示範例

Device         Vserver                  Namespace Path                NSID UUID                                  Size
-------------- ------------------------ ----------------------------- ---- ------------------------------------- ---------
/dev/nvme0n1   vs_coexistence_QLE2772   /vol/fcnvme_1_1_0/fcnvme_ns   1    159f9f88-be00-4828-aef6-197d289d4bd9  10.74GB
/dev/nvme0n2   vs_coexistence_QLE2772   /vol/fcnvme_1_1_1/fcnvme_ns   2    2c1ef769-10c0-497d-86d7-e84811ed2df6  10.74GB
/dev/nvme0n3   vs_coexistence_QLE2772   /vol/fcnvme_1_1_2/fcnvme_ns   3    9b49bf1a-8a08-4fa8-baf0-6ec6332ad5a4  10.74GB

JSON

nvme netapp ontapdevices -o json

顯示範例

{
  "ONTAPdevices" : [
    {
      "Device" : "/dev/nvme0n1",
      "Vserver" : "vs_coexistence_QLE2772",
      "Namespace_Path" : "/vol/fcnvme_1_1_0/fcnvme_ns",
      "NSID" : 1,
      "UUID" : "159f9f88-be00-4828-aef6-197d289d4bd9",
      "Size" : "10.74GB",
      "LBA_Data_Size" : 4096,
      "Namespace_Size" : 2621440
    },
    {
      "Device" : "/dev/nvme0n2",
      "Vserver" : "vs_coexistence_QLE2772",
      "Namespace_Path" : "/vol/fcnvme_1_1_1/fcnvme_ns",
      "NSID" : 2,
      "UUID" : "2c1ef769-10c0-497d-86d7-e84811ed2df6",
      "Size" : "10.74GB",
      "LBA_Data_Size" : 4096,
      "Namespace_Size" : 2621440
    },
    {
      "Device" : "/dev/nvme0n4",
      "Vserver" : "vs_coexistence_QLE2772",
      "Namespace_Path" : "/vol/fcnvme_1_1_3/fcnvme_ns",
      "NSID" : 4,
      "UUID" : "f3572189-2968-41bc-972a-9ee442dfaed7",
      "Size" : "10.74GB",
      "LBA_Data_Size" : 4096,
      "Namespace_Size" : 2621440
    },

步驟 5：可選，啟用 1MB I/O 大小

這些步驟不適用於 Qlogic NVMe / FC 主機。

步驟

將 `lpfc_sg_seg_cnt`參數設定為 256 ：
```
cat /etc/modprobe.d/lpfc.conf
```
您應該會看到類似以下範例的輸出：
```
options lpfc lpfc_sg_seg_cnt=256
```
執行 `dracut -f`命令，然後重新啟動主機。

確認的值 `lpfc_sg_seg_cnt`為 256 ：

cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt

步驟 6 ：檢閱已知問題

這些是已知問題：

NetApp錯誤ID 標題說明

NetApp錯誤ID	標題	說明
"1479047"	Oracle Linux 8x NVMe-oF 主機建立重複的持久發現控制器 (PDC)	On NVMe-oF hosts, you can use the `nvme discover -p` command to create PDCs. 使用此指令時，每個發起方-目標組合只能建立一個 PDC。但是，如果您在搭載 NVMe-oF 主機的 Oracle Linux 8x 上執行，則每次執行 `nvme discover -p` 時都會建立重複的 PDC。這會導致主機和目標裝置上的資源被不必要地消耗掉。

"1479047"

Oracle Linux 8x NVMe-oF 主機建立重複的持久發現控制器 (PDC)

On NVMe-oF hosts, you can use the nvme discover -p command to create PDCs. 使用此指令時，每個發起方-目標組合只能建立一個 PDC。但是，如果您在搭載 NVMe-oF 主機的 Oracle Linux 8x 上執行，則每次執行 nvme discover -p 時都會建立重複的 PDC。這會導致主機和目標裝置上的資源被不必要地消耗掉。

配置 Oracle Linux 8x 和 NVMe-oF 用於ONTAP存儲

Creating your file...

步驟 1：安裝 Oracle Linux 和 NVMe 軟體並驗證您的配置

步驟 2：設定 NVMe/FC 和 NVMe/TCP

步驟 3：可選，啟用 NVMe/FC 的 1MB I/O。

步驟 4：驗證多路徑配置

步驟 5：可選，啟用 1MB I/O 大小

步驟 6 ：檢閱已知問題