Nosotros publicamos"TR-4910: Análisis de sentimientos de las comunicaciones de los clientes con NetApp AI" , en el que se construyó una canalización de IA conversacional de extremo a extremo utilizando "Kit de herramientas DataOps de NetApp" , almacenamiento AFF y sistema NVIDIA DGX. El pipeline realiza procesamiento de señales de audio por lotes, reconocimiento automático de voz (ASR), aprendizaje por transferencia y análisis de sentimientos aprovechando el kit de herramientas DataOps. "SDK de NVIDIA Riva" , y el "Marco del Tao" . Al ampliar el caso de uso del análisis de sentimientos a la industria de servicios financieros, creamos un flujo de trabajo SparkNLP, cargamos tres modelos BERT para varias tareas de PNL, como el reconocimiento de entidades nombradas, y obtuvimos sentimientos a nivel de oración para las llamadas de ganancias trimestrales de las 10 principales empresas del NASDAQ.

El siguiente script sentiment_analysis_spark. py utiliza el modelo FinBERT para procesar transcripciones en HDFS y producir recuentos de sentimientos positivos, neutrales y negativos, como se muestra en la siguiente tabla:

La siguiente tabla enumera el análisis de sentimiento a nivel de oración, tras la presentación de resultados, de las 10 principales empresas del NASDAQ de 2016 a 2020.

En términos de porcentajes, la mayoría de las frases pronunciadas por los directores ejecutivos y directores financieros son factuales y, por lo tanto, transmiten un sentimiento neutral. Durante una conferencia telefónica sobre ganancias, los analistas hacen preguntas que pueden transmitir un sentimiento positivo o negativo. Vale la pena investigar más a fondo cuantitativamente cómo el sentimiento negativo o positivo afecta los precios de las acciones el mismo día o el siguiente de negociación.

La siguiente tabla enumera el análisis de sentimiento a nivel de oración para las 10 principales empresas del NASDAQ, expresado en porcentaje.

En términos del tiempo de ejecución del flujo de trabajo, vimos una mejora significativa de 4,78x local modo a un entorno distribuido en HDFS y una mejora adicional del 0,14 % al aprovechar NFS.

Como muestra la siguiente figura, el paralelismo de datos y modelos mejoró el procesamiento de datos y la velocidad de inferencia del modelo distribuido de TensorFlow. La ubicación de datos en NFS produjo un tiempo de ejecución ligeramente mejor porque el cuello de botella del flujo de trabajo es la descarga de modelos previamente entrenados. Si aumentamos el tamaño del conjunto de datos de transcripciones, la ventaja de NFS es más obvia.

El siguiente comando produjo información de tiempo de ejecución y un archivo de registro en nuestro clúster Spark usando un solo master nodo con 160 ejecutores cada uno con un núcleo. La memoria del ejecutor se limitó a 5 GB para evitar errores de falta de memoria. Ver la sección"Scripts de Python para cada caso de uso principal" Para obtener más detalles sobre el procesamiento de datos, el entrenamiento del modelo y el cálculo de la precisión del modelo en keras_spark_horovod_rossmann_estimator.py .

El tiempo de ejecución resultante con diez épocas de entrenamiento fue el siguiente:

Se necesitaron más de 43 minutos para procesar datos de entrada, entrenar un modelo DNN, calcular la precisión y producir puntos de control de TensorFlow y un archivo CSV para los resultados de la predicción. Limitamos el número de épocas de entrenamiento a 10, que en la práctica suele establecerse en 100 para garantizar una precisión satisfactoria del modelo. El tiempo de entrenamiento normalmente se escala linealmente con el número de épocas.

A continuación, utilizamos los cuatro nodos de trabajo disponibles en el clúster y ejecutamos el mismo script en yarn modo con datos en HDFS:

El tiempo de ejecución resultante se mejoró de la siguiente manera:

Con el modelo de Horovod y el paralelismo de datos en Spark, vimos una aceleración del tiempo de ejecución de 5,29x yarn versus local Modo con diez épocas de entrenamiento. Esto se muestra en la siguiente figura con las leyendas. HDFS y Local . El entrenamiento del modelo DNN de TensorFlow subyacente se puede acelerar aún más con GPU si están disponibles. Planeamos realizar estas pruebas y publicar los resultados en un futuro informe técnico.

Nuestra siguiente prueba comparó los tiempos de ejecución con datos de entrada que residen en NFS versus HDFS. El volumen NFS en el AFF A800 se montó en /sparkdemo/horovod en los cinco nodos (uno maestro y cuatro trabajadores) de nuestro clúster Spark. Ejecutamos un comando similar al de las pruebas anteriores, con el --data- dir parámetro que ahora apunta al montaje NFS:

El tiempo de ejecución resultante con NFS fue el siguiente:

Hubo una aceleración adicional de 1,43x, como se muestra en la siguiente figura. Por lo tanto, con un almacenamiento all-flash de NetApp conectado a su clúster, los clientes disfrutan de los beneficios de la transferencia y distribución rápida de datos para los flujos de trabajo de Horovod Spark, logrando una aceleración de 7,55 veces en comparación con la ejecución en un solo nodo.

Para los sistemas de recomendación diseñados para maximizar el CTR, es necesario aprender interacciones de características sofisticadas detrás de los comportamientos de los usuarios que se puedan calcular matemáticamente desde el orden bajo hasta el orden alto. Las interacciones de características de orden bajo y de orden alto deberían ser igualmente importantes para un buen modelo de aprendizaje profundo sin sesgarse hacia una u otra. Deep Factorization Machine (DeepFM), una red neuronal basada en máquinas de factorización, combina máquinas de factorización para recomendación y aprendizaje profundo para el aprendizaje de características en una nueva arquitectura de red neuronal.

Aunque las máquinas de factorización convencionales modelan interacciones de características por pares como un producto interno de vectores latentes entre características y teóricamente pueden capturar información de alto orden, en la práctica los profesionales del aprendizaje automático usualmente solo usan interacciones de características de segundo orden debido a la alta complejidad de cálculo y almacenamiento. Variantes de redes neuronales profundas como la de Google "Modelos anchos y profundos" Por otro lado, aprende interacciones de características sofisticadas en una estructura de red híbrida combinando un modelo lineal amplio y un modelo profundo.

Hay dos entradas para este modelo amplio y profundo: una para el modelo amplio subyacente y otra para el profundo; la última parte aún requiere ingeniería de características experta y, por lo tanto, hace que la técnica sea menos generalizable a otros dominios. A diferencia del modelo ancho y profundo, DeepFM se puede entrenar de manera eficiente con características sin procesar sin ninguna ingeniería de características porque su parte ancha y su parte profunda comparten la misma entrada y el vector de incrustación.

Primero procesamos el Criteo train.txt (11 GB) en un archivo CSV llamado ctr_train.csv almacenado en un montaje NFS /sparkdemo/tr-4570-data usando run_classification_criteo_spark.py de la sección"Scripts de Python para cada caso de uso principal." Dentro de este script, la función process_input_file Realiza varios métodos de cadena para eliminar tabulaciones e insertar ',' como delimitador y '\n' como nueva línea. Tenga en cuenta que solo necesita procesar el original. train.txt una vez, para que el bloque de código se muestre como comentarios.

Para las siguientes pruebas de diferentes modelos DL, utilizamos ctr_train.csv como archivo de entrada. En ejecuciones de prueba posteriores, el archivo CSV de entrada se leyó en un Spark DataFrame con un esquema que contenía un campo de 'label' , características densas de números enteros ['I1', 'I2', 'I3', …, 'I13'] , y características dispersas ['C1', 'C2', 'C3', …, 'C26'] . La siguiente spark-submit El comando toma un CSV de entrada, entrena los modelos DeepFM con una división del 20 % para la validación cruzada y elige el mejor modelo después de diez épocas de entrenamiento para calcular la precisión de la predicción en el conjunto de prueba:

Tenga en cuenta que dado que el archivo de datos ctr_train.csv Si tiene más de 11 GB, debe establecer un espacio suficiente spark.driver.maxResultSize mayor que el tamaño del conjunto de datos para evitar errores.

En lo anterior SparkSession.builder configuración que también habilitamos "Flecha apache" , que convierte un Spark DataFrame en un Pandas DataFrame con el df.toPandas() método.

Después de la división aleatoria, hay más de 36 millones de filas en el conjunto de datos de entrenamiento y 9 millones de muestras en el conjunto de prueba:

Debido a que este informe técnico se centra en las pruebas de CPU sin utilizar ninguna GPU, es imperativo que cree TensorFlow con los indicadores de compilador adecuados. Este paso evita invocar bibliotecas aceleradas por GPU y aprovecha al máximo las extensiones vectoriales avanzadas (AVX) y las instrucciones AVX2 de TensorFlow. Estas características están diseñadas para cálculos algebraicos lineales como suma vectorizada, multiplicaciones de matrices dentro de un entrenamiento DNN de propagación hacia adelante o hacia atrás. La instrucción FMA (Multiplicación y Suma Fusionada) disponible con AVX2 que utiliza registros de punto flotante (FP) de 256 bits es ideal para códigos enteros y tipos de datos, lo que da como resultado una aceleración de hasta 2x. Para los tipos de datos y códigos FP, AVX2 logra una aceleración del 8 % con respecto a AVX.

Para crear TensorFlow desde la fuente, NetApp recomienda usar "Bazel" . Para nuestro entorno, ejecutamos los siguientes comandos en el indicador de shell para instalar dnf , dnf-plugins y Bazel.

Debe habilitar GCC 5 o una versión más reciente para usar las características de C++17 durante el proceso de compilación, que proporciona RHEL con la Biblioteca de colecciones de software (SCL). Los siguientes comandos instalan devtoolset y GCC 11.2.1 en nuestro clúster RHEL 7.9:

Tenga en cuenta que los dos últimos comandos habilitan devtoolset-11 , que utiliza /opt/rh/devtoolset-11/root/usr/bin/gcc (CCG 11.2.1). Además, asegúrese de que su git La versión es mayor que 1.8.3 (viene con RHEL 7.9). Consulte esto "artículo" para actualizar git a 2.24.1.

Suponemos que ya ha clonado el último repositorio maestro de TensorFlow. Luego crea un workspace directorio con un WORKSPACE archivo para compilar TensorFlow desde la fuente con AVX, AVX2 y FMA. Ejecutar el configure archivo y especifique la ubicación binaria de Python correcta. "CUDA" está deshabilitado para nuestras pruebas porque no usamos una GPU. A .bazelrc El archivo se genera según su configuración. Además, editamos el archivo y lo configuramos. build --define=no_hdfs_support=false para habilitar la compatibilidad con HDFS. Referirse a .bazelrc en la sección"Scripts de Python para cada caso de uso principal," para obtener una lista completa de configuraciones y banderas.

Después de crear TensorFlow con los indicadores correctos, ejecute el siguiente script para procesar el conjunto de datos de anuncios de Criteo Display, entrenar un modelo DeepFM y calcular el área bajo la curva característica operativa del receptor (ROC AUC) a partir de los puntajes de predicción.

Después de diez épocas de entrenamiento, obtuvimos la puntuación AUC en el conjunto de datos de prueba:

De manera similar a los casos de uso anteriores, comparamos el tiempo de ejecución del flujo de trabajo de Spark con datos que residen en diferentes ubicaciones. La siguiente figura muestra una comparación de la predicción de CTR de aprendizaje profundo para un tiempo de ejecución de flujos de trabajo de Spark.