Saiba mais sobre os sistemas de storage Novus
O NetApp Novus é um sistema de storage poderoso, desenvolvido para as demandas da IA em uma escala muito grande. Ele amplia a experiência da NetApp em storage corporativo para a infraestrutura de altíssimo desempenho necessária para treinamento e inferência. Compreender sua estrutura administrativa e suas opções de configuração é crucial para um gerenciamento eficaz e desempenho ideal.
Visão geral
O NetApp Novus é uma solução de sistema de storage de arquivos com escalabilidade horizontal, projetada para a taxa de transferência e a escalabilidade necessárias para cargas de trabalho modernas de IA. Ele reúne muitos clusters de storage ONTAP independentes em um único namespace que os clientes veem como um único sistema de arquivos. O Novus é baseado em NFS paralelo (pNFS), que separa os metadados dos dados dos arquivos. Um serviço dedicado de metadados gerencia o namespace, enquanto os clusters de storage fornecem dados de arquivos diretamente aos clientes em paralelo. Isso remove o limite máximo de taxa de transferência de um único cluster de storage, que não limita mais a rapidez com que o sistema pode fornecer dados.
Uma implementação do Novus pode crescer simplesmente com a adição de clusters de storage. Cada novo cluster adiciona toda a sua largura de banda e capacidade ao namespace, de modo que a taxa de transferência total aumenta à medida que o sistema cresce, sem remontagens de cliente nem rebalanceamento disruptivo. O serviço de metadados é dimensionado separadamente dos servidores de dados, para que você possa expandir o tamanho do namespace e o desempenho dos metadados de acordo com a carga de trabalho. O Novus foi projetado para executar cada nó de storage em velocidade máxima e tratar falhas de componentes como rotineiras e não disruptivas em grande escala. O objetivo principal é manter os dados fluindo para a computação, mesmo quando o sistema cresce para tamanhos muito grandes.
Os clientes usam um cliente NFS padrão, o que torna o Novus fácil de adaptar a grandes clusters de GPUs e de computação. Além disso, o Novus oferece alocação a vários clientes, permitindo que uma única implantação hospede vários clientes ou cargas de trabalho isolados, cada um com seus próprios namespaces. Ele também se baseia no gerenciamento e na proteção de dados comprovados do ONTAP. Para os clientes, isso significa storage capaz de manter as GPUs ocupadas, reduzir o custo da infraestrutura ao obter mais desempenho de cada nó e oferecer suporte a conjuntos de dados muito grandes em um único namespace.
A Novus pode ajudar organizações que executam IA e outras cargas de trabalho com uso intensivo de dados em grande escala. Isso geralmente inclui neoclouds, provedores de GPU como serviço, nuvens soberanas, hiperescaladores, bem como grandes empresas e organizações de pesquisa que executam treinamento e inferência de IA. A Novus pode beneficiar qualquer cliente que use computação de alto desempenho ou processamento de mídia e precise de vários terabytes por segundo de taxa de transferência e queira escalar o storage juntamente com sua computação.
Princípios de design de sistemas
O Novus foi projetado e construído com base em diversos princípios fundamentais. Essas escolhas arquitetônicas subjacentes impulsionam seu desempenho, escalabilidade e resiliência. Isso ajuda os clientes que precisam de armazenamento de alto desempenho que mantenha a GPU ocupada e reduza os custos de infraestrutura.
- Armazenamento pronto para exaescala
-
O Novus foi projetado para ser uma pilha de base de storage definido por software pronta para exaescala. Ele combina servidores de metadados pNFS com escalabilidade horizontal com servidores de dados separados e desagregados.
- Taxa de transferência além dos limites tradicionais de cluster do ONTAP
-
Tradicionalmente, um único cluster ONTAP atinge um limite fixo de throughput, definido pela quantidade de controladores e pela largura de banda da interconexão. O treinamento e a inferência de IA exigem um throughput que um único cluster ONTAP não consegue atingir.
- Aumente a escala adicionando clusters
-
O Novus reúne vários clusters ONTAP independentes, cada um tão pequeno quanto um par de HA, em um único namespace. Cada novo cluster contribui com sua largura de banda total, e assim a taxa de transferência total cresce linearmente. Os clientes não precisam remontar, e a frota não precisa ser rebalanceada.
- Metadados com escalabilidade independente
-
A camada de serviço de metadados e o armazenamento de metadados fragmentado podem crescer, cada um, de uma para mais de 1.000 instâncias. A capacidade de metadados e a taxa de requisições não dependem de quantos nós de dados são usados.
- Nós de dados com taxa de linha
-
Cada nó de dados deve operar na velocidade máxima da NIC para leituras e na velocidade máxima do NVMe para gravações. Qualquer taxa de transferência não utilizada por nó representa apenas hardware e custo extras.
- Resiliência como principal restrição de projeto
-
Em escalas de 1.000 ou mais nós de storage, falhas não são incomuns. A resiliência é uma restrição fundamental de design e não uma consideração operacional posterior.
Implementação do Network File System (NFS)
O Novus é uma implementação definido por software do protocolo Network File System (NFS). Ele depende do NFSv4, especificamente da extensão Parallel NFS (pNFS), para separar os caminhos de metadados e de dados. Os clientes podem usar clientes NFS padrão para acessar o Novus Data Director (NDD) usando NFSv4, enquanto acessam os dados diretamente nos servidores de dados do ONTAP usando NFSv3.
Sistema de Arquivos de Rede Paralelo (pNFS)
O NFS paralelo (pNFS) é um recurso introduzido com o NFSv4.1 que separa o gerenciamento de metadados do acesso aos dados de arquivos. O servidor NFS lida com as operações de metadados e fornece aos clientes informações sobre onde os dados de arquivos estão armazenados. Os clientes podem então acessar diretamente os dados nos dispositivos de storage e servidores de dados dedicados, em vez de enviar todas as leituras e gravações por meio de um único servidor.
O servidor NFS fornece um layout que descreve como os dados de cada arquivo estão organizados e como o cliente pode acessá-los. Dependendo do layout e da configuração de storage, um cliente pode se comunicar com um ou mais servidores de dados em paralelo. Isso aumenta o desempenho da transferência de dados e reduz a carga de manipulação de dados no servidor de metadados.
O pNFS suporta vários tipos de layout, incluindo arquivo, bloco, objeto e arquivo flexível. Cada tipo descreve uma maneira diferente de mapear os dados do arquivo para o armazenamento subjacente e uma forma correspondente para os clientes acessarem esses dados. O Novus utiliza o layout de arquivo flexível.
O layout de arquivo flexível pNFS é uma adição mais recente às opções de layout. Ele fornece um layout flexível baseado em arquivos que pode descrever dados armazenados em vários servidores de dados e também suporta cópias espelhadas. O cliente usa as informações de layout para selecionar um caminho de servidor de dados apropriado para acesso. Isso permite que as implementações adaptem o posicionamento dos dados e o comportamento de acesso à configuração de storage e aos requisitos de carga de trabalho.
Componentes principais
Existem dois componentes principais do Novus, ambos baseados no padrão pNFS e na expertise da NetApp em storage empresarial.
- Servidor de dados ONTAP
-
O servidor de dados ONTAP implementa o plano de dados Novus. Ele armazena dados de arquivos e os disponibiliza para clientes NFS. Um namespace Novus pode distribuir seus dados de arquivos por vários clusters ONTAP, e um cluster ONTAP pode atender a vários namespaces.
- O Novus Data Director (NDD)
-
O Novus Data Director fornece o plano de metadados do Novus. Ele gerencia os metadados do namespace, processa as solicitações do cliente para operações de metadados e fornece aos clientes layouts que descrevem onde os dados de arquivos são armazenados nos clusters do ONTAP. Os clientes interagem com o NDD usando NFSv4.2 com pNFS, enquanto os dados reais dos arquivos são acessados diretamente no ONTAP.
Consulte "Arquitetura Novus" para obter mais detalhes sobre esses componentes e como eles funcionam em conjunto.
Tecnologias e conceitos adicionais
Existem vários conceitos adicionais relevantes para o Novus e para a tecnologia subjacente.
- Espaço de nomes
-
Um namespace é uma estrutura lógica que organiza e identifica recursos, permitindo que sejam referenciados de forma consistente dentro de um escopo definido. No NFSv4, o namespace é a hierarquia de arquivos e diretórios apresentada aos clientes; ele fornece uma visão unificada dos sistemas de arquivos exportados, que os clientes podem navegar usando caminhos. Cada namespace NDD possui sua própria instância de servidor de metadados.
- Federação
-
A federação é uma técnica para conectar sistemas independentes para que possam trabalhar juntos enquanto permanecem gerenciados separadamente; ela pode ser aplicada a identidades, serviços de aplicativos, redes, bancos de dados e outros recursos. Quando usada com provedores de dados, a federação permite que usuários ou aplicativos acessem dados de múltiplas fontes por meio de uma interface unificada, enquanto os provedores mantêm o controle de seus dados, promovendo interoperabilidade e reduzindo a necessidade de centralizar ou duplicar informações.
- Fragmentação
-
O particionamento (sharding) é uma técnica para dividir os dados de um banco de dados entre vários servidores, com cada servidor armazenando e disponibilizando uma parte dos dados. Isso melhora a capacidade e o desempenho ao distribuir o armazenamento e a carga de consultas.
- Protocolo de Gateway de Borda
-
O Border Gateway Protocol (BGP) é o protocolo de roteamento que troca informações de alcançabilidade entre sistemas autônomos, as redes que compõem a internet, e seleciona caminhos usando políticas e atributos de roteamento. A Novus utiliza o BGP para dar suporte à sua arquitetura de alocação a vários clientes.
- Armazenamento de metadados distribuído e escalável
-
Um repositório de metadados distribuído e escalável é o sistema que gerencia metadados em vários nós, garantindo alta disponibilidade, tolerância de falhas e acesso eficiente. No Novus, o Novus Data Director (NDD) implementa um repositório de metadados distribuído e escalável (ou simplesmente repositório de metadados) para processar metadados de namespace e fornecer aos clientes layouts para acessar dados de arquivos.