Skip to main content
E-Series storage systems
Se proporciona el idioma español mediante traducción automática para su comodidad. En caso de alguna inconsistencia, el inglés precede al español.

Configure el iniciador de NVMe a través de InfiniBand en el host en E-Series - Linux

Colaboradores netapp-driley netapp-jsnyder NetAppZacharyWambold netapp-jolieg

La configuración de un iniciador de NVMe en un entorno InfiniBand incluye la instalación y la configuración de los paquetes infiniband, nvme-cli y rdma, la configuración de direcciones IP del iniciador y la configuración de la capa NVMe-of en el host.

Antes de empezar

Debe estar ejecutando el último sistema operativo compatible RHEL 8, RHEL 9, SUSE Linux Enterprise Server 12 o 15 service pack. Consulte "Herramienta de matriz de interoperabilidad de NetApp" para la lista completa de los últimos requisitos.

Pasos
  1. Instale los paquetes rdma, nvme-cli e infiniband:

    SLES 12 o SLES 15

    # zypper install infiniband-diags
    # zypper install rdma-core
    # zypper install nvme-cli

    RHEL 8, o RHEL 9

    # yum install infiniband-diags
    # yum install rdma-core
    # yum install nvme-cli
  2. Para RHEL 8 o RHEL 9, instale los scripts de red:

    • RHEL 8*

      # yum install network-scripts
    • RHEL 9*

    # yum install NetworkManager-initscripts-updown
  3. Obtenga el host NQN, que se usarán para configurar el host en una cabina de.

    # cat /etc/nvme/hostnqn
  4. Compruebe que ambos enlaces de puertos IB estén activos y que el estado = activo:

    # ibstat
    CA 'mlx4_0'
            CA type: MT4099
            Number of ports: 2
            Firmware version: 2.40.7000
            Hardware version: 1
            Node GUID: 0x0002c90300317850
            System image GUID: 0x0002c90300317853
            Port 1:
                    State: Active
                    Physical state: LinkUp
                    Rate: 40
                    Base lid: 4
                    LMC: 0
                    SM lid: 4
                    Capability mask: 0x0259486a
                    Port GUID: 0x0002c90300317851
                    Link layer: InfiniBand
            Port 2:
                    State: Active
                    Physical state: LinkUp
                    Rate: 56
                    Base lid: 5
                    LMC: 0
                    SM lid: 4
                    Capability mask: 0x0259486a
                    Port GUID: 0x0002c90300317852
                    Link layer: InfiniBand
  5. Configure direcciones IP IPv4 en los puertos ib.

    SLES 12 o SLES 15

    Cree el archivo /etc/sysconfig/network/ifcfg-ib0 con el siguiente contenido.

    BOOTPROTO='static'
    BROADCAST=
    ETHTOOL_OPTIONS=
    IPADDR='10.10.10.100/24'
    IPOIB_MODE='connected'
    MTU='65520'
    NAME=
    NETWORK=
    REMOTE_IPADDR=
    STARTMODE='auto'

    A continuación, cree el archivo /etc/sysconfig/network/ifcfg-ib1:

    BOOTPROTO='static'
    BROADCAST=
    ETHTOOL_OPTIONS=
    IPADDR='11.11.11.100/24'
    IPOIB_MODE='connected'
    MTU='65520'
    NAME=
    NETWORK=
    REMOTE_IPADDR=
    STARTMODE='auto'
    • RHEL 8*

      Cree el archivo /etc/sysconfig/network-scripts/ifcfg-ib0 con el contenido siguiente.

      CONNECTED_MODE=no
      TYPE=InfiniBand
      PROXY_METHOD=none
      BROWSER_ONLY=no
      BOOTPROTO=static
      IPADDR='10.10.10.100/24'
      DEFROUTE=no
      IPV4=FAILURE_FATAL=yes
      IPV6INIT=no
      NAME=ib0
      ONBOOT=yes

      A continuación, cree el archivo /etc/sysconfig/network-scripts/ifcfg-ib1:

      CONNECTED_MODE=no
      TYPE=InfiniBand
      PROXY_METHOD=none
      BROWSER_ONLY=no
      BOOTPROTO=static
      IPADDR='11.11.11.100/24'
      DEFROUTE=no
      IPV4=FAILURE_FATAL=yes
      IPV6INIT=no
      NAME=ib1
      ONBOOT=yes
    • RHEL 9*

      Utilice la nmtui herramienta para activar y editar una conexión. A continuación se muestra un archivo de ejemplo /etc/NetworkManager/system-connections/ib0.nmconnection la herramienta generará:

      [connection]
      id=ib0
      uuid=<unique uuid>
      type=infiniband
      interface-name=ib0
      
      [infiniband]
      mtu=4200
      
      [ipv4]
      address1=10.10.10.100/24
      method=manual
      
      [ipv6]
      addr-gen-mode=default
      method=auto
      
      [proxy]

      A continuación se muestra un archivo de ejemplo /etc/NetworkManager/system-connections/ib1.nmconnection la herramienta generará:

    [connection]
    id=ib1
    uuid=<unique uuid>
    type=infiniband
    interface-name=ib1
    
    [infiniband]
    mtu=4200
    
    [ipv4]
    address1=11.11.11.100/24'
    method=manual
    
    [ipv6]
    addr-gen-mode=default
    method=auto
    
    [proxy]
  6. Habilite el ib interfaz:

    # ifup ib0
    # ifup ib1
  7. Compruebe las direcciones IP que usará para conectarse a la cabina. Ejecute este comando para ambos ib0 y.. ib1:

    # ip addr show ib0
    # ip addr show ib1

    Como se muestra en el ejemplo siguiente, la dirección IP para ib0 es 10.10.10.255.

    10: ib0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 65520 qdisc pfifo_fast state UP group default qlen 256
        link/infiniband 80:00:02:08:fe:80:00:00:00:00:00:00:00:02:c9:03:00:31:78:51 brd 00:ff:ff:ff:ff:12:40:1b:ff:ff:00:00:00:00:00:00:ff:ff:ff:ff
        inet 10.10.10.255 brd 10.10.10.255 scope global ib0
           valid_lft forever preferred_lft forever
        inet6 fe80::202:c903:31:7851/64 scope link
           valid_lft forever preferred_lft forever

    Como se muestra en el ejemplo siguiente, la dirección IP para ib1 es 11.11.11.255.

    10: ib1: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 65520 qdisc pfifo_fast state UP group default qlen 256
        link/infiniband 80:00:02:08:fe:80:00:00:00:00:00:00:00:02:c9:03:00:31:78:51 brd 00:ff:ff:ff:ff:12:40:1b:ff:ff:00:00:00:00:00:00:ff:ff:ff:ff
        inet 11.11.11.255 brd 11.11.11.255 scope global ib0
           valid_lft forever preferred_lft forever
        inet6 fe80::202:c903:31:7851/64 scope link
           valid_lft forever preferred_lft forever
  8. Configure la capa NVMe-of en el host. Cree los siguientes archivos en /etc/modules-load.d/ para cargar el nvme_rdma el módulo del kernel y asegúrese de que el módulo del kernel estará siempre encendido, incluso después de un reinicio:

    # cat /etc/modules-load.d/nvme_rdma.conf
      nvme_rdma
  9. Reinicie el host.

    Para comprobar la nvme_rdma el módulo del kernel está cargado, ejecute este comando:

    # lsmod | grep nvme
    nvme_rdma              36864  0
    nvme_fabrics           24576  1 nvme_rdma
    nvme_core             114688  5 nvme_rdma,nvme_fabrics
    rdma_cm               114688  7 rpcrdma,ib_srpt,ib_srp,nvme_rdma,ib_iser,ib_isert,rdma_ucm
    ib_core               393216  15 rdma_cm,ib_ipoib,rpcrdma,ib_srpt,ib_srp,nvme_rdma,iw_cm,ib_iser,ib_umad,ib_isert,rdma_ucm,ib_uverbs,mlx5_ib,qedr,ib_cm
    t10_pi                 16384  2 sd_mod,nvme_core