A Protopia AI oferece uma solução discreta, somente de software, para inferência confidencial no mercado atual. A solução Protopia oferece proteção incomparável para serviços de inferência, minimizando a exposição de informações confidenciais. A IA só recebe as informações no registro de dados que são realmente essenciais para executar a tarefa em questão e nada mais. A maioria das tarefas de inferência não usa todas as informações existentes em cada registro de dados. Não importa se sua IA está consumindo imagens, voz, vídeo ou até mesmo dados tabulares estruturados, o Protopia fornece apenas o que o serviço de inferência precisa. A tecnologia central patenteada usa ruído matematicamente selecionado para transformar estocasticamente os dados e distorcer as informações que não são necessárias para um determinado serviço de ML. Esta solução não mascara os dados; em vez disso, ela altera a representação dos dados usando ruído aleatório selecionado.

A solução Protopia formula o problema de alterar a representação como um método de maximização de perturbação baseado em gradiente que ainda retém as informações pertinentes no espaço de recursos de entrada com relação à funcionalidade do modelo. Esse processo de descoberta é executado como uma passagem de ajuste fino no final do treinamento do modelo de ML. Depois que a passagem gera automaticamente um conjunto de distribuições de probabilidade, uma transformação de dados de baixa sobrecarga aplica amostras de ruído dessas distribuições aos dados, ofuscando-os antes de passá-los ao modelo para inferência.

A arquitetura de referência NetApp ONTAP AI, alimentada por sistemas DGX A100 e sistemas de armazenamento conectado em nuvem NetApp , foi desenvolvida e verificada pela NetApp e pela NVIDIA. Ele fornece às organizações de TI uma arquitetura que proporciona os seguintes benefícios:

O ONTAP AI integra perfeitamente os sistemas DGX A100 e os sistemas de armazenamento NetApp AFF A800 com redes de última geração. ONTAP AI simplifica as implantações de IA eliminando a complexidade do design e as suposições. Os clientes podem começar pequeno e crescer sem interrupções, ao mesmo tempo em que gerenciam dados de forma inteligente, da borda ao núcleo, à nuvem e vice-versa.

A figura a seguir mostra diversas variações na família de soluções ONTAP AI com sistemas DGX A100. O desempenho do sistema AFF A800 é verificado com até oito sistemas DGX A100. Ao adicionar pares de controladores de armazenamento ao cluster ONTAP , a arquitetura pode ser dimensionada para vários racks para dar suporte a muitos sistemas DGX A100 e petabytes de capacidade de armazenamento com desempenho linear. Essa abordagem oferece a flexibilidade de alterar as proporções de computação para armazenamento de forma independente com base no tamanho dos modelos de DL usados e nas métricas de desempenho necessárias.

Para obter informações adicionais sobre o ONTAP AI, consulte "NVA-1153: NetApp ONTAP AI com sistemas NVIDIA DGX A100 e switches Ethernet Mellanox Spectrum."

ONTAP 9.11, a última geração de software de gerenciamento de armazenamento da NetApp, permite que as empresas modernizem a infraestrutura e façam a transição para um data center pronto para a nuvem. Aproveitando os recursos de gerenciamento de dados líderes do setor, o ONTAP permite o gerenciamento e a proteção de dados com um único conjunto de ferramentas, independentemente de onde os dados residam. Você também pode mover dados livremente para onde for necessário: na borda, no núcleo ou na nuvem. O ONTAP 9.11 inclui vários recursos que simplificam o gerenciamento de dados, aceleram e protegem dados críticos e permitem recursos de infraestrutura de última geração em arquiteturas de nuvem híbrida.

O NetApp DataOps Toolkit é uma biblioteca Python que simplifica para desenvolvedores, cientistas de dados, engenheiros de DevOps e engenheiros de dados a execução de diversas tarefas de gerenciamento de dados, como provisionamento quase instantâneo de um novo volume de dados ou espaço de trabalho do JupyterLab, clonagem quase instantânea de um volume de dados ou espaço de trabalho do JupyterLab e captura quase instantânea de snapshots de um volume de dados ou espaço de trabalho do JupyterLab para rastreabilidade ou definição de linha de base. Esta biblioteca Python pode funcionar como um utilitário de linha de comando ou uma biblioteca de funções que você pode importar para qualquer programa Python ou notebook Jupyter.

O NVIDIA Triton Inference Server é um software de servidor de inferência de código aberto que ajuda a padronizar a implantação e a execução de modelos para fornecer IA rápida e escalável em produção. O Triton Inference Server simplifica a inferência de IA permitindo que equipes implantem, executem e dimensionem modelos de IA treinados de qualquer estrutura em qualquer infraestrutura baseada em GPU ou CPU. O Triton Inference Server suporta todas as principais estruturas, como TensorFlow, NVIDIA TensorRT, PyTorch, MXNet, OpenVINO e assim por diante. O Triton se integra ao Kubernetes para orquestração e dimensionamento que você pode usar em todas as principais plataformas de IA e Kubernetes de nuvem pública. Ele também é integrado a muitas soluções de software MLOps.

"PyTorch"é uma estrutura de ML de código aberto. É uma biblioteca de tensores otimizada para aprendizado profundo que usa GPUs e CPUs. O pacote PyTorch contém estruturas de dados para tensores multidimensionais que fornecem muitos utilitários para serialização eficiente de tensores, entre outros utilitários úteis. Ele também tem uma contraparte CUDA que permite que você execute seus cálculos de tensor em uma GPU NVIDIA com capacidade de computação. Nesta validação, usamos a biblioteca OpenCV-Python (cv2) para validar nosso modelo, aproveitando os conceitos de visão computacional mais intuitivos do Python.

A família de produtos NetApp Astra oferece serviços de armazenamento e gerenciamento de dados com reconhecimento de aplicativos para aplicativos Kubernetes no local e na nuvem pública, com tecnologia de armazenamento e gerenciamento de dados da NetApp . Ele permite que você faça backup de aplicativos Kubernetes facilmente, migre dados para um cluster diferente e crie instantaneamente clones de aplicativos funcionais. Se você precisar gerenciar aplicativos Kubernetes em execução em uma nuvem pública, consulte a documentação para "Serviço de Controle Astra" . O Astra Control Service é um serviço gerenciado pela NetApp que fornece gerenciamento de dados com reconhecimento de aplicativo de clusters Kubernetes no Google Kubernetes Engine (GKE) e no Azure Kubernetes Service (AKS).

Astra "Trident" da NetApp é um orquestrador de armazenamento dinâmico de código aberto para Docker e Kubernetes que simplifica a criação, o gerenciamento e o consumo de armazenamento persistente. O Trident, um aplicativo nativo do Kubernetes, é executado diretamente em um cluster do Kubernetes. O Trident permite que os clientes implantem facilmente imagens de contêiner DL no armazenamento NetApp e fornece uma experiência de nível empresarial para implantações de contêineres de IA. Os usuários do Kubernetes (desenvolvedores de ML, cientistas de dados e assim por diante) podem criar, gerenciar e automatizar a orquestração e a clonagem para aproveitar os recursos avançados de gerenciamento de dados fornecidos pela tecnologia NetApp .

"BlueXP Copiar e Sincronizar"é um serviço da NetApp para sincronização de dados rápida e segura. Se você precisa transferir arquivos entre compartilhamentos de arquivos NFS ou SMB locais, NetApp StorageGRID, NetApp ONTAP S3, Google Cloud NetApp Volumes, Azure NetApp Files, Amazon Simple Storage Service (Amazon S3), Amazon Elastic File System (Amazon EFS), Azure Blob, Google Cloud Storage ou IBM Cloud Object Storage, o BlueXP Copy and Sync move os arquivos para onde você precisa de forma rápida e segura. Após seus dados serem transferidos, eles estarão totalmente disponíveis para uso tanto na origem quanto no destino. O BlueXP Copy and Sync sincroniza continuamente os dados com base na sua programação predefinida, movendo apenas os deltas, para que o tempo e o dinheiro gastos na replicação de dados sejam minimizados. O BlueXP Copy and Sync é uma ferramenta de software como serviço (SaaS) extremamente simples de configurar e usar. As transferências de dados acionadas pelo BlueXP Copy and Sync são realizadas por corretores de dados. Você pode implantar os corretores de dados BlueXP Copy and Sync na AWS, Azure, Google Cloud Platform ou no local.

Impulsionado por poderosos algoritmos de IA, "Classificação NetApp BlueXP" fornece controles automatizados e governança de dados em todo o seu acervo de dados. Você pode facilmente identificar economias de custos, identificar preocupações com conformidade e privacidade e encontrar oportunidades de otimização. O painel de classificação BlueXP fornece insights para identificar dados duplicados para eliminar redundâncias, mapear dados pessoais, não pessoais e confidenciais e ativar alertas para dados confidenciais e anomalias.