Apache SINGA

Apache SINGA es un proyecto de alto nivel de Apache para el desarrollo de una biblioteca de aprendizaje automático de código abierto . Proporciona una arquitectura flexible para el entrenamiento distribuido escalable, es extensible para ejecutarse en una amplia gama de hardware y se centra en aplicaciones para el sector sanitario.

Apache SINGA ha ganado el premio SIGMOD Systems Award 2024 ^{[ 1 ]} por el desarrollo de una plataforma de aprendizaje profundo distribuida, eficiente, escalable y fácil de usar para el análisis de datos a gran escala .

El proyecto SINGA fue iniciado por el DB System Group de la Universidad Nacional de Singapur y el grupo de bases de datos de la Universidad de Zhejiang en 2014, con el fin de soportar análisis complejos a escala y hacer que los sistemas de bases de datos sean más inteligentes y autónomos . ^{[ 2 ]} Se centró en el aprendizaje profundo distribuido mediante la partición del modelo y los datos en nodos en un clúster y la paralelización del entrenamiento. ^{[ 3 ] [ 4 ]} El prototipo fue aceptado por Apache Incubator en marzo de 2015 y se graduó como un proyecto de nivel superior en octubre de 2019. La tabla a continuación captura información sobre diferentes tipos de versiones, por ejemplo, la última versión, la última versión de vista previa, versiones anteriores que aún reciben mantenimiento y versiones antiguas.

La pila de software de SINGA incluye tres componentes principales: núcleo, E/S y modelo. La siguiente figura ilustra estos componentes junto con el hardware. El componente de núcleo proporciona gestión de memoria y operaciones tensoriales ; E/S cuenta con clases para leer (y escribir) datos desde (hacia) el disco y la red; el componente de modelo proporciona estructuras de datos y algoritmos para modelos de aprendizaje automático, por ejemplo, capas para modelos de redes neuronales , optimizadores/inicializadores/métricas/funciones de pérdida para modelos generales de aprendizaje automático.

SINGA-Auto (también conocido como Rafiki ^{[ 5 ]} en VLDB2018) es un subsistema de Apache SINGA que proporciona el servicio de entrenamiento e inferencia de modelos de aprendizaje automático. SINGA-Auto libera a los usuarios de la necesidad de construir los modelos de aprendizaje automático, ajustar los hiperparámetros y optimizar la precisión y la velocidad de predicción. Los usuarios simplemente pueden cargar sus conjuntos de datos, configurar el servicio para realizar el entrenamiento y luego implementar el modelo para la inferencia. Como sistema de servicio en la nube , SINGA-Auto gestiona los recursos de hardware, la recuperación ante fallos, etc. Para facilitar su uso, proporciona un repositorio de modelos, que es un conjunto de modelos de aprendizaje automático integrados para tareas comunes como el análisis de datos estructurados (por ejemplo, datos de registros médicos electrónicos), el reconocimiento de imágenes y el procesamiento de texto.

En el servicio de entrenamiento, se propone un marco general para la optimización distribuida de hiperparámetros y se diseña un esquema de optimización colaborativa específicamente para modelos de aprendizaje profundo. En el servicio de inferencia, se propone un algoritmo de planificación basado en aprendizaje por refuerzo para optimizar la precisión general y reducir la latencia. Este algoritmo puede adaptarse a las variaciones en la frecuencia de las solicitudes.

SINGA-Easy ^{[ 6 ]} (ACM Multimedia 2021) es un marco de aprendizaje profundo fácil de usar, integrado en Apache SINGA, para facilitar la adopción de algoritmos de aprendizaje profundo y servicios de inferencia por parte de usuarios de aplicaciones de dominio específicas (por ejemplo, multimedia, análisis de imágenes médicas). Proporciona ajuste distribuido de hiperparámetros en la etapa de entrenamiento, control dinámico del costo computacional en la etapa de inferencia e interacciones intuitivas del usuario con contenido multimedia, facilitadas por la explicación del modelo. Para mejorar la precisión, admite métodos de regularización para imágenes y datos estructurados (ACM SIGMOD 2023). Para apoyar la aceptación de los resultados del entrenamiento por parte de los usuarios del dominio, SINGA-Easy ofrece la opción de evaluar el rendimiento del modelo desde la perspectiva de la explicación del modelo, basada en LIME ^{[ 7 ]} y Grad-CAM. ^{[ 8 ]}

MLCask ^{[ 9 ]} (IEEE ICDE 2021) es un subsistema de gestión de pipelines que administra pipelines de aprendizaje automático, desde la limpieza de datos hasta el análisis de datos, para facilitar el mantenimiento y el versionado de pipelines de aprendizaje automático en evolución para el análisis colaborativo. Su objetivo es reducir los costos y facilitar la adopción. MLCask admite una gestión integral del ciclo de vida del aprendizaje automático similar a Git. Al aprovechar el historial de versiones de los componentes del pipeline y el espacio de trabajo, MLCask puede omitir los pasos de preprocesamiento sin cambios para abordar los frecuentes desafíos del reentrenamiento. Su semántica de control de versiones no lineal y la operación de fusión facilitan el desarrollo colaborativo efectivo del pipeline.

A partir de la versión 4.1.0, Apache SINGA ofrece soporte para la selección e inferencia de modelos en la base de datos PostgreSQL. El sistema implementa un algoritmo de selección de modelos de dos fases, eficiente en recursos, que incorpora técnicas de selección de modelos tanto sin entrenamiento como con entrenamiento. Este algoritmo se integra de forma no intrusiva en PostgreSQL mediante procedimientos almacenados, con optimizaciones en la latencia de ejecución y el consumo de memoria. La inclusión de la selección de modelos en la base de datos permite a los usuarios obtener modelos de alto rendimiento dentro de los plazos de respuesta especificados.

Apache SINGA ^{[ 10 ]} se utiliza en organizaciones como NetEase , ^{[ 11 ]} Carnegie Technologies, CBRE , Citigroup , JurongHealth Hospital , National University of Singapore, National University Hospital , Noblis , Shentilium Technologies, Singapore General Hospital , Tan Tock Seng Hospital , YZBigData y otras. Apache SINGA se utiliza en aplicaciones de banca, educación, finanzas, atención médica, bienes raíces, desarrollo de software y otras categorías.

El Hospital General Ng Teng Fong ^{[ 12 ]} colaboró ​​con el equipo Apache SINGA para desarrollar una aplicación para personas diagnosticadas con prediabetes, una condición en la que los niveles de glucosa en sangre son más altos de lo normal, pero no lo suficientemente altos como para ser clasificados como diabetes.

La aplicación, denominada JurongHealth Food Log (JHFoodLg), utiliza Apache SINGA para cotejar fotografías de alimentos con una base de datos de platos locales, como nasi padang , laksa y arroz char siew . Además, utiliza datos nutricionales del Consejo de Promoción de la Salud, el Campus JurongHealth y la Base de Datos Australiana de Alimentos y Nutrientes. Tras una exhaustiva limpieza de datos (por ejemplo, formato uniforme, eliminación de duplicados , clasificación de calidad alimentaria y calibración manual), la base de datos contiene 209.861 imágenes, que abarcan 13 grupos de alimentos y 233 categorías de alimentos.

La aplicación permite a los usuarios del programa de Intervención en el Estilo de Vida (Liven) del hospital establecer objetivos de pérdida de peso y ejercicio. Un estudio de seis meses muestra que casi todos los 20 pacientes que utilizaron la aplicación perdieron entre un 4 y un 5 por ciento de su peso corporal inicial.

• Lista de proyectos de la Apache Software Foundation
• Comparación de software de aprendizaje profundo
• Comparación de software de aprendizaje automático

• Sitio web oficial