Skip to main content
SAN hosts and cloud clients
Se proporciona el idioma español mediante traducción automática para su comodidad. En caso de alguna inconsistencia, el inglés precede al español.

Configuración de host de NVMe/FC para Oracle Linux 7.7 con ONTAP

Colaboradores

Es posible configurar NVMe over Fibre Channel (NVMe/FC) en hosts de iniciador que ejecutan Oracle Linux 7,7 y ONTAP como destino.

Compatibilidad

NVMe/FC es compatible con ONTAP 9.6 o versiones posteriores para Oracle Linux 7.7. El host Oracle Linux 7,7 puede ejecutar tráfico NVMe y SCSI a través de los mismos puertos de adaptador de iniciador de Fibre Channel. Consulte la "Hardware Universe" para obtener una lista de los adaptadores y controladoras de FC compatibles. Para obtener la lista más actual de configuraciones compatibles, consulte la "Matriz de interoperabilidad de NetApp".

Nota Puede utilizar los ajustes de configuración que se proporcionan en este documento para configurar los clientes de cloud conectados a. "Cloud Volumes ONTAP" y.. "Amazon FSX para ONTAP".

Limitaciones conocidas

  • Las secuencias de comandos de conexión automática NVMe/FC nativas no están disponibles en el paquete nvme-cli. Puede utilizar el proveedor de HBA proporcionó secuencias de comandos de conexión automática externas.

  • De forma predeterminada, el equilibrio de carga por turnos no está habilitado. Debe escribir una regla udev para habilitar esta funcionalidad. Los pasos se proporcionan en la sección sobre la habilitación de NVMe/FC en OL 7.7.

  • Actualmente no se admite el arranque SAN mediante el protocolo NVMe-oF.

Habilitar NVMe en OL 7.7

  1. Asegúrese de que el kernel de Oracle Linux 7.7 predeterminado esté instalado.

  2. Reinicie el host y compruebe que arranca en el kernel OL 7.7 especificado.

    # uname -r
    4.14.35-1902.9.2.el7uek
  3. Actualice al paquete nvme-cli-1.8.1-3.el7.

    # rpm -qa|grep nvme-cli
    nvme-cli-1.8.1-3.el7.x86_64
  4. Agregue la cadena siguiente como regla udev separada en /lib/udev/rules.d/71-nvme-iopolicy-netapp-ONTAP.rules. Esto permite el equilibrio de carga por turnos para NVMe multivía.

    # Enable round-robin for NetApp ONTAP
    ACTION==”add”, SUBSYSTEM==”nvme-subsystem”, ATTR{model}==”NetApp ONTAP Controller”, ATTR{iopolicy}=”round-robin
  5. En el host OL 7.7, compruebe la cadena NQN del host en /etc/nvme/hostnqn Y verifique que coincida con la cadena del host NQN para el subsistema correspondiente en la cabina de ONTAP.

    # cat /etc/nvme/hostnqn
    nqn.2014-08.org.nvmexpress:uuid:75953f3b-77fe-4e03-bf3c-09d5a156fbcd
    *> vserver nvme subsystem host show -vserver vs_nvme_10
    Vserver Subsystem Host NQN
    ------- --------- -------------------------------------- -----------
    ol_157_nvme_ss_10_0
    nqn.2014-08.org.nvmexpress:uuid:75953f3b-77fe-4e03-bf3c-09d5a156fbcd
Nota Si las cadenas del NQN del host no coinciden, se debe usar el comando vserver modify para actualizar la cadena NQN del host en el subsistema de cabina de ONTAP correspondiente para que coincidan con la cadena de NQN del host /etc/nvme/hostnqn en el host.
  1. Reinicie el host.

Configurar el adaptador de FC de Broadcom para NVMe/FC

  1. Compruebe que está utilizando el adaptador compatible. Para obtener la lista más actual de adaptadores compatibles, consulte "Matriz de interoperabilidad de NetApp".

    # cat /sys/class/scsi_host/host*/modelname
    LPe32002-M2
    LPe32002-M2
    # cat /sys/class/scsi_host/host*/modeldesc
    Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
    Emulex LightPulse LPe32002-M2 2-Port 32Gb Fibre Channel Adapter
  2. Copie e instale el paquete de secuencias de comandos de conexión automática de Broadcom outbox.

    # rpm -ivh nvmefc-connect-12.4.65.0-1.noarch.rpm
  3. Reinicie el host.

  4. Compruebe que está utilizando el firmware lpfc de Broadcom recomendado, el controlador de bandeja de entrada nativo y las versiones del paquete de conexión automática de bandeja de salida. Para obtener una lista de las versiones compatibles, consulte "Matriz de interoperabilidad de NetApp".

    # cat /sys/class/scsi_host/host*/fwrev
    12.4.243.17, sil-4.2.c
    12.4.243.17, sil-4.2.c
    
    # cat /sys/module/lpfc/version
    0:12.0.0.10
    
    # rpm -qa | grep nvmefc
    nvmefc-connect-12.4.65.0-1.noarch
  5. Compruebe que lpfc_enable_fc4_TYPE está establecido en 3.

    # cat /sys/module/lpfc/parameters/lpfc_enable_fc4_type
    3
  6. Compruebe que los puertos del iniciador están en funcionamiento.

    # cat /sys/class/fc_host/host*/port_name
    0x10000090fae0ec61
    0x10000090fae0ec62
    # cat /sys/class/fc_host/host*/port_state
    Online
    Online
  7. Compruebe que los puertos iniciadores NVMe/FC están habilitados y se pueden ejecutar y ver las LIF de destino.

    # cat /sys/class/scsi_host/host*/nvme_info
    NVME Initiator Enabled
    XRI Dist lpfc0 Total 6144 NVME 2947 SCSI 2977 ELS 250
    NVME LPORT lpfc0 WWPN x10000090fae0ec61 WWNN x20000090fae0ec61 DID x012000 ONLINE
    NVME RPORT WWPN x202d00a098c80f09 WWNN x202c00a098c80f09 DID x010201 TARGET DISCSRVC ONLINE
    NVME RPORT WWPN x203100a098c80f09 WWNN x202c00a098c80f09 DID x010601 TARGET DISCSRVC ONLINE
    NVME Statistics
    …

Validación de NVMe/FC

  1. Verifique la siguiente configuración de NVMe/FC.

    # cat /sys/module/nvme_core/parameters/multipath
    Y
    
    # cat /sys/class/nvme-subsystem/nvme-subsys*/model
    NetApp ONTAP Controller
    NetApp ONTAP Controller
    
    # cat /sys/class/nvme-subsystem/nvme-subsys*/iopolicy
    round-robin
    round-robin
  2. Compruebe que se han creado espacios de nombres.

    # nvme list
    Node SN Model Namespace Usage Format FW Rev
    ---------------- -------------------- -----------------------
    /dev/nvme0n1 80BADBKnB/JvAAAAAAAC NetApp ONTAP Controller 1 53.69 GB / 53.69 GB 4 KiB + 0 B FFFFFFFF
  3. Compruebe el estado de las rutas de ANA.

    # nvme list-subsys/dev/nvme0n1
    Nvme-subsysf0 – NQN=nqn.1992-08.com.netapp:sn.341541339b9511e8a9b500a098c80f09:subsystem.ol_157_nvme_ss_10_0
    \
    +- nvme0 fc traddr=nn-0x202c00a098c80f09:pn-0x202d00a098c80f09 host_traddr=nn-0x20000090fae0ec61:pn-0x10000090fae0ec61 live optimized
    +- nvme1 fc traddr=nn-0x207300a098dfdd91:pn-0x207600a098dfdd91 host_traddr=nn-0x200000109b1c1204:pn-0x100000109b1c1204 live inaccessible
    +- nvme2 fc traddr=nn-0x207300a098dfdd91:pn-0x207500a098dfdd91 host_traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live optimized
    +- nvme3 fc traddr=nn-0x207300a098dfdd91:pn-0x207700a098dfdd91 host traddr=nn-0x200000109b1c1205:pn-0x100000109b1c1205 live inaccessible
  4. Compruebe el complemento de NetApp para dispositivos ONTAP.

    # nvme netapp ontapdevices -o column
    Device   Vserver  Namespace Path             NSID   UUID   Size
    -------  -------- -------------------------  ------ ----- -----
    /dev/nvme0n1   vs_nvme_10       /vol/rhel_141_vol_10_0/ol_157_ns_10_0    1        55baf453-f629-4a18-9364-b6aee3f50dad   53.69GB
    
    # nvme netapp ontapdevices -o json
    {
       "ONTAPdevices" : [
       {
            Device" : "/dev/nvme0n1",
            "Vserver" : "vs_nvme_10",
            "Namespace_Path" : "/vol/rhel_141_vol_10_0/ol_157_ns_10_0",
             "NSID" : 1,
             "UUID" : "55baf453-f629-4a18-9364-b6aee3f50dad",
             "Size" : "53.69GB",
             "LBA_Data_Size" : 4096,
             "Namespace_Size" : 13107200
        }
    ]

Habilitar el tamaño de I/O de 1MB KB para Broadcom NVMe/FC

ONTAP informa de un MDT (tamaño de transferencia de MAX Data) de 8 en los datos Identify Controller. Esto significa que el tamaño máximo de solicitud de E/S puede ser de hasta 1MB TB. Para emitir solicitudes de I/O de tamaño 1 MB para un host Broadcom NVMe/FC, debe aumentar lpfc el valor lpfc_sg_seg_cnt del parámetro a 256 con respecto al valor predeterminado de 64.

Nota Estos pasos no se aplican a los hosts Qlogic NVMe/FC.
Pasos
  1. Defina el lpfc_sg_seg_cnt parámetro en 256:

    cat /etc/modprobe.d/lpfc.conf
    options lpfc lpfc_sg_seg_cnt=256
  2. Ejecute dracut -f el comando y reinicie el host.

  3. Compruebe que el valor esperado de lpfc_sg_seg_cnt es 256:

    cat /sys/module/lpfc/parameters/lpfc_sg_seg_cnt

Registro detallado LPFC

Establezca el controlador lpfc para NVMe/FC.

Pasos
  1. Ajuste la lpfc_log_verbose Configuración del controlador en cualquiera de los siguientes valores para registrar los eventos de NVMe/FC.

    #define LOG_NVME 0x00100000 /* NVME general events. */
    #define LOG_NVME_DISC 0x00200000 /* NVME Discovery/Connect events. */
    #define LOG_NVME_ABTS 0x00400000 /* NVME ABTS events. */
    #define LOG_NVME_IOERR 0x00800000 /* NVME IO Error events. */
  2. Después de ajustar los valores, ejecute la dracut-f command y reinicie el host.

  3. Compruebe la configuración.

    # cat /etc/modprobe.d/lpfc.conf options lpfc lpfc_log_verbose=0xf00083
    
    # cat /sys/module/lpfc/parameters/lpfc_log_verbose 15728771