Aprendizaje federado

La función objetivo para el aprendizaje federado es la siguiente:

${\displaystyle f(\mathbf {x} _{1},\dots ,\mathbf {x} _{K})={\dfrac {1}{K}}\sum _{i=1}^{K}f_{i}(\mathbf {x} _{i})}$

dónde${\displaystyle K}$es el número de nodos,${\displaystyle \mathbf {x} _ {i}}$son los pesos del modelo vistos por el nodo${\displaystyle i}$, y${\displaystyle f_{i}}$es nodo${\displaystyle i}$función objetivo local de, que describe cómo pondera el modelo${\displaystyle \mathbf {x} _ {i}}$se ajusta al nodo${\displaystyle i}$conjunto de datos local.

El objetivo del aprendizaje federado es entrenar un modelo común en los conjuntos de datos locales de todos los nodos, en otras palabras:

• Optimización de la función objetivo${\displaystyle f(\mathbf {x} _{1},\dots ,\mathbf {x} _{K})}$.
• Lograr consenso sobre${\displaystyle \mathbf {x} _ {i}}$. En otras palabras,${\displaystyle \mathbf {x} _{1},\dots ,\mathbf {x} _{K}}$convergen hacia algún punto común${\displaystyle \mathbf {x} }$al final del proceso de formación.

En el entorno de aprendizaje federado centralizado, se utiliza un servidor central para orquestar los diferentes pasos de los algoritmos y coordinar todos los nodos participantes durante el proceso de aprendizaje. El servidor es responsable de la selección de nodos al inicio del proceso de entrenamiento y de la agregación de las actualizaciones del modelo recibidas. Dado que todos los nodos seleccionados deben enviar actualizaciones a una única entidad, el servidor puede convertirse en un cuello de botella del sistema. ^{[ 3 ]}

En el entorno de aprendizaje federado descentralizado, los nodos pueden coordinarse para obtener el modelo global. Esta configuración evita fallos puntuales, ya que las actualizaciones del modelo se intercambian únicamente entre nodos interconectados, sin la intervención de un servidor central. No obstante, la topología específica de la red puede afectar al rendimiento del proceso de aprendizaje. ^{[ 3 ]} Véase aprendizaje federado basado en blockchain ^{[ 4 ]} y las referencias allí citadas.

En muchos dominios de aplicación, no todos los clientes son iguales. Los clientes pueden compartir la misma arquitectura de modelo, pero cada uno tiene una distribución de datos diferente —lo que se conoce como aprendizaje federado personalizado (PFL)— o incluso arquitecturas de modelo diferentes, como los teléfonos móviles y los dispositivos IoT —lo que se conoce como aprendizaje federado heterogéneo—. ^{[ 5 ]} El principal desafío al entrenar un modelo PFL es mantener a cada cliente diferente de los demás y, al mismo tiempo, beneficiarse de la generalización entre clientes. ^{[ 6 ]}

La mayoría de las estrategias de aprendizaje federado existentes asumen que los modelos locales comparten la misma arquitectura de modelo global. En 2020, se desarrolló un marco de aprendizaje federado llamado HeteroFL para abordar clientes heterogéneos equipados con capacidades de computación y comunicación muy diferentes. ^{[ 7 ]} La técnica HeteroFL puede permitir el entrenamiento de modelos locales heterogéneos con complejidades de datos no IID y de computación que varían dinámicamente , al tiempo que produce un único modelo de inferencia global preciso. ^{[ 7 ] [ 8 ] [ 9 ]}

El proceso iterativo del aprendizaje federado se compone de una serie de interacciones fundamentales cliente-servidor, cada una de las cuales se conoce como ronda de aprendizaje federado. Cada ronda de este proceso consiste en transmitir el estado actual del modelo global a los nodos participantes, entrenar modelos locales en estos nodos locales para producir un conjunto de posibles actualizaciones del modelo en cada nodo, y luego agregar y procesar estas actualizaciones locales en una única actualización global y aplicarla al modelo global. ^{[ 3 ]}

En la metodología que se describe a continuación, se utiliza un servidor central para la agregación, mientras que los nodos locales realizan un entrenamiento local según las órdenes del servidor central. Sin embargo, otras estrategias conducen a los mismos resultados sin servidores centrales, mediante un enfoque peer-to-peer , utilizando el método de difusión ^{[ 10 ]} o metodologías de consenso ^{[ 11 ] .}

Suponiendo una ronda federada compuesta por una iteración del proceso de aprendizaje, el procedimiento de aprendizaje se puede resumir de la siguiente manera: ^{[ 12 ]}

1. Inicialización : según los datos de entrada del servidor, se selecciona un modelo de aprendizaje automático (por ejemplo, regresión lineal , red neuronal, boosting ) para entrenarlo en los nodos locales y se inicializa. A continuación, los nodos se activan y esperan a que el servidor central les asigne las tareas de cálculo.
2. Selección de clientes : se selecciona una fracción de nodos locales para comenzar el entrenamiento con datos locales. Los nodos seleccionados adquieren el modelo estadístico actual , mientras que los demás esperan la siguiente ronda federada.
3. Configuración : el servidor central ordena a los nodos seleccionados que se sometan al entrenamiento del modelo en sus datos locales de una manera preespecificada (por ejemplo, para algunas actualizaciones de minilotes de descenso de gradiente ).
4. Informes : cada nodo seleccionado envía su modelo local al servidor para su agregación. El servidor central agrega los modelos recibidos y envía las actualizaciones a los nodos. También gestiona los fallos en caso de nodos desconectados o actualizaciones de modelos perdidas. Se inicia la siguiente ronda federada, volviendo a la fase de selección de clientes.
5. Finalización : una vez que se cumple un criterio de finalización predefinido (por ejemplo, se alcanza un número máximo de iteraciones o la precisión del modelo supera un umbral), el servidor central agrega las actualizaciones y finaliza el modelo global.

El procedimiento considerado anteriormente asume actualizaciones de modelos sincronizadas. Los recientes avances en aprendizaje federado introdujeron técnicas novedosas para abordar la asincronía durante el proceso de entrenamiento o el entrenamiento con modelos que varían dinámicamente. ^{[ 7 ]} En comparación con los enfoques síncronos, donde los modelos locales se intercambian una vez que se han realizado los cálculos para todas las capas de la red neuronal, los asíncronos aprovechan las propiedades de las redes neuronales para intercambiar actualizaciones de modelos tan pronto como los cálculos de una capa determinada estén disponibles. Estas técnicas también se conocen comúnmente como aprendizaje dividido ^{[ 13 ] [ 14 ]} y se pueden aplicar tanto en el tiempo de entrenamiento como en el de inferencia, independientemente de la configuración de aprendizaje federado centralizado o descentralizado. ^{[ 3 ] [ 7 ]}

En la mayoría de los casos, la suposición de muestras independientes e idénticamente distribuidas entre los nodos locales no se cumple en las configuraciones de aprendizaje federado. En este contexto, el rendimiento del proceso de entrenamiento puede variar significativamente según las muestras de datos locales desequilibradas, así como la distribución de probabilidad particular de los ejemplos de entrenamiento (es decir, características y etiquetas ) almacenados en los nodos locales. Para investigar más a fondo los efectos de los datos no IID, la siguiente descripción considera las principales categorías presentadas en la preimpresión de Peter Kairouz et al. de 2019. ^{[ 3 ]}

La descripción de datos no-IID se basa en el análisis de la probabilidad conjunta entre características y etiquetas para cada nodo. Esto permite desacoplar cada contribución según la distribución específica disponible en los nodos locales. Las principales categorías para datos no-iid se pueden resumir de la siguiente manera: ^{[ 3 ]}

• Desplazamiento de covariables : los nodos locales pueden almacenar ejemplos que tienen distribuciones estadísticas diferentes en comparación con otros nodos. Un ejemplo se da en conjuntos de datos de procesamiento del lenguaje natural donde las personas suelen escribir los mismos dígitos/letras con diferentes grosores de trazo o inclinaciones. ^{[ 3 ]}
• Cambio de probabilidad previa : los nodos locales pueden almacenar etiquetas con distribuciones estadísticas diferentes a las de otros nodos. Esto puede ocurrir si los conjuntos de datos están divididos regionalmente o demográficamente. Por ejemplo, los conjuntos de datos que contienen imágenes de animales varían significativamente de un país a otro. ^{[ 3 ]}
• Deriva conceptual ( misma etiqueta, diferentes características ): los nodos locales pueden compartir las mismas etiquetas, pero algunas de ellas corresponden a diferentes características en distintos nodos locales. Por ejemplo, las imágenes que representan un objeto en particular pueden variar según las condiciones climáticas en las que fueron capturadas. ^{[ 3 ]}
• Cambio de concepto ( mismas características, diferentes etiquetas ): los nodos locales pueden compartir las mismas características, pero algunas de ellas corresponden a diferentes etiquetas en distintos nodos locales. Por ejemplo, en el procesamiento del lenguaje natural, el análisis de sentimientos puede generar diferentes sentimientos incluso si se observa el mismo texto. ^{[ 3 ]}
• Desequilibrado : la cantidad de datos disponibles en los nodos locales puede variar significativamente en tamaño. ^{[ 3 ] [ 7 ]}

La pérdida de precisión debida a datos no i.i.d. puede limitarse mediante el uso de métodos más sofisticados de normalización de datos, en lugar de la normalización por lotes. ^{[ 15 ]}

La forma en que se agrupan las salidas estadísticas locales y la manera en que los nodos se comunican entre sí puede variar con respecto al modelo centralizado explicado en la sección anterior. Esto da lugar a diversos enfoques de aprendizaje federado: por ejemplo, sin un servidor de orquestación central o con comunicación estocástica. ^{[ 16 ]}

En particular, las redes distribuidas sin orquestador constituyen una variante importante. En este caso, no existe un servidor central que envíe consultas a los nodos locales ni que agregue los modelos locales. Cada nodo local envía sus resultados a varios nodos seleccionados aleatoriamente, que agregan sus resultados localmente. Esto limita el número de transacciones, reduciendo así, en ocasiones, el tiempo de entrenamiento y el coste computacional. ^{[ 17 ]}

Una vez elegida la topología de la red de nodos, se pueden controlar diferentes parámetros del proceso de aprendizaje federado (además de los hiperparámetros propios del modelo de aprendizaje automático) para optimizar el aprendizaje:

• Número de rondas de aprendizaje federado:${\displaystyle T}$
• Número total de nodos utilizados en el proceso:${\displaystyle K}$
• Fracción de nodos utilizados en cada iteración para cada nodo:${\displaystyle C}$
• Tamaño del lote local utilizado en cada iteración de aprendizaje:${\displaystyle B}$

También se pueden modificar otros parámetros que dependen del modelo, como por ejemplo:

• Número de iteraciones para el entrenamiento local antes de la agrupación:${\displaystyle N}$
• Tasa de aprendizaje local:${\displaystyle \eta }$

Estos parámetros deben optimizarse en función de las restricciones de la aplicación de aprendizaje automático (por ejemplo, potencia de cálculo disponible, memoria disponible, ancho de banda ). Por ejemplo, elegir estocásticamente una fracción limitada.${\displaystyle C}$de nodos para cada iteración disminuye el costo computacional y puede prevenir el sobreajuste , ^{[ 18 ]} de la misma manera que el descenso de gradiente estocástico puede reducir el sobreajuste.

El aprendizaje federado requiere una comunicación frecuente entre nodos durante el proceso de aprendizaje. Por lo tanto, requiere no solo suficiente potencia de cálculo y memoria local, sino también conexiones de alto ancho de banda para poder intercambiar parámetros del modelo de aprendizaje automático. Sin embargo, esta tecnología también evita la comunicación de datos , que puede requerir recursos significativos antes de comenzar el aprendizaje automático centralizado. No obstante, los dispositivos que se suelen emplear en el aprendizaje federado tienen limitaciones de comunicación; por ejemplo, los dispositivos IoT o los teléfonos inteligentes generalmente están conectados a redes Wi-Fi. Por lo tanto, aunque la transmisión de modelos suele ser menos costosa que la de datos sin procesar, los mecanismos de aprendizaje federado pueden no ser adecuados en su forma general. ^{[ 3 ]}

El aprendizaje federado plantea varios desafíos estadísticos:

• Heterogeneidad entre los diferentes conjuntos de datos locales: cada nodo puede tener algún sesgo con respecto a la población general, y el tamaño de los conjuntos de datos puede variar significativamente; ^{[ 7 ]}
• Heterogeneidad temporal: la distribución de cada conjunto de datos local puede variar con el tiempo;
• La interoperabilidad del conjunto de datos de cada nodo es un requisito previo;
• Es posible que el conjunto de datos de cada nodo requiera curaciones periódicas;
• Ocultar los datos de entrenamiento podría permitir a los atacantes inyectar puertas traseras en el modelo global; ^{[ 19 ]}
• La falta de acceso a datos de capacitación globales dificulta la identificación de sesgos no deseados que ingresan a la capacitación, por ejemplo, edad, género, orientación sexual;
• Pérdida parcial o total de actualizaciones del modelo debido a fallas de nodos que afectan al modelo global; ^{[ 3 ]}
• Falta de anotaciones o etiquetas en el lado del cliente. ^{[ 20 ]}
• Heterogeneidad entre plataformas de procesamiento ^{[ 21 ]}

Las consideraciones de gobernanza también pueden limitar la aplicabilidad del aprendizaje federado, en particular cuando se aplica en entornos interorganizacionales. La mayoría de los marcos de aprendizaje federado dependen de un servidor coordinador central, lo que plantea interrogantes sobre el control de la infraestructura, la propiedad del modelo y la autoridad para la toma de decisiones entre los colaboradores. ^{[ 22 ] [ 23 ]} En implementaciones multipartitas, especialmente aquellas que abarcan mercados de datos competitivos o colaborativos, la ausencia de estructuras de gobernanza consensuadas puede generar incertidumbre sobre las responsabilidades de validar las actualizaciones del modelo, auditar el comportamiento del sistema y gestionar los incidentes de seguridad. Estos problemas organizativos pueden disuadir a los participantes de contribuir a los modelos compartidos y pueden complicar el cumplimiento normativo , lo que limita la adopción.

Otro problema relacionado con la gobernanza se refiere a la distribución del valor entre los participantes a medida que los sistemas de aprendizaje federados multipartitos escalan. A medida que más clientes contribuyen al entrenamiento, la precisión del modelo puede acercarse a un umbral de rendimiento, ^{[ 22 ]} después del cual las contribuciones adicionales generan una utilidad marginal decreciente. Esta dinámica puede crear tensiones dentro de los acuerdos de colaboración, ya que los primeros participantes pueden percibir que las contribuciones posteriores ofrecen un valor reducido, aunque sigan beneficiándose del modelo compartido. Tales asimetrías pueden afectar los incentivos para unirse o permanecer en un consorcio y complicar el diseño de estructuras justas de participación, propiedad o recompensa. Por lo tanto, establecer reglas transparentes para la evaluación de las contribuciones y la asignación de beneficios es un importante desafío organizacional y representa una línea de investigación futura.

El descenso de gradiente estocástico es un método utilizado en el aprendizaje profundo , donde los gradientes se calculan en un subconjunto aleatorio del conjunto de datos total y luego se utilizan para dar un paso al descenso de gradiente.

El descenso de gradiente estocástico federado ^{[ 24 ]} es el análogo de este algoritmo en el entorno federado, pero utiliza un subconjunto aleatorio de nodos, donde cada nodo utiliza todos sus datos. El servidor promedia los gradientes en proporción a la cantidad de datos de entrenamiento en cada nodo y utiliza el promedio para realizar un paso de descenso de gradiente.

El promedio federado (FedAvg) es una generalización de FedSGD que permite a los nodos realizar más de una actualización por lotes en datos locales e intercambiar pesos actualizados en lugar de gradientes. Esto reduce la comunicación y es equivalente a promediar los pesos si todos los nodos comienzan con los mismos pesos. No parece perjudicar el rendimiento del modelo promedio resultante en comparación con FedSGD. ^{[ 25 ]} Se han propuesto variaciones de FedAvg basadas en optimizadores adaptativos como ADAM y AdaGrad , y tienden a superar a FedAvg. ^{[ 26 ]}

Federated Proximal (FedProx) extiende FedAvg agregando un término proximal al objetivo local en forma de${\displaystyle {\frac {\mu }{2}}\|ww^{t}\|^{2}}$, dónde${\displaystyle \mu }$es el hiperparámetro FedProx , para abordar la heterogeneidad de datos entre clientes. El término proximal restringe las actualizaciones locales, lo que ayuda a reducir la deriva del cliente cuando los datos del cliente no son IID. ^{[ 27 ]}

Los métodos de aprendizaje federado presentan problemas cuando los conjuntos de datos de los nodos se distribuyen de forma heterogénea, ya que minimizar las pérdidas de los nodos no equivale a minimizar la pérdida global. En 2021, Acar et al. ^{[ 28 ]} introdujeron una solución llamada FedDyn, que regulariza dinámicamente la función de pérdida de cada nodo para que converjan a la pérdida global. Dado que las pérdidas locales están alineadas, FedDyn es robusto ante los diferentes niveles de heterogeneidad y, por lo tanto, puede realizar una minimización completa de forma segura en cada dispositivo. En teoría, FedDyn converge al óptimo (un punto estacionario para pérdidas no convexas) al ser independiente de los niveles de heterogeneidad. Estas afirmaciones se verifican con extensos experimentos en diversos conjuntos de datos. ^{[ 28 ]}

Además de reducir la comunicación, también resulta beneficioso reducir el cálculo local. Para ello, FedDynOneGD ^{[ 28 ]} modifica FedDyn para calcular un único gradiente por nodo y por ronda, lo regulariza y actualiza el modelo global con él. Por lo tanto, la complejidad computacional es lineal con respecto al tamaño del conjunto de datos local. Además, el cálculo del gradiente puede paralelizarse en cada nodo, a diferencia de los pasos sucesivos de SGD. En teoría, FedDynOneGD logra las mismas garantías de convergencia que FedDyn con menos cálculo local. ^{[ 28 ]}

Los métodos de aprendizaje federado presentan un rendimiento global deficiente en entornos no IID. Esto motiva a los clientes a generar modelos personalizados en la federación. Para solucionar esto, Vahidian et al. ^{[ 29 ]} introdujeron recientemente el algoritmo Sub-FedAvg, que realiza una poda híbrida (estructurada y no estructurada) con promediado en la intersección de las subredes dibujadas por los clientes. Esto aborda simultáneamente la eficiencia de la comunicación, las limitaciones de recursos y la precisión de los modelos personalizados. ^{[ 29 ]}

Sub-FedAvg también extiende la " hipótesis del boleto de lotería " de las redes neuronales entrenadas centralmente al aprendizaje federado, con la pregunta de investigación : "¿Existen boletos ganadores para las redes neuronales de los clientes que se entrenan en el aprendizaje federado? Si es así, ¿cómo se pueden generar eficazmente las subredes personalizadas para cada cliente?". Sub-FedAvg responde experimentalmente "sí" ^{[ 29 ]} y propone dos algoritmos para generar eficazmente las subredes personalizadas. ^{[ 29 ]}

IDA (Inverse Distance Aggregation) es un novedoso enfoque de ponderación adaptativa para nodos de aprendizaje federados basado en metainformación que maneja datos desequilibrados y no i.i.d. Utiliza la distancia de los parámetros del modelo como estrategia para minimizar el efecto de los valores atípicos y mejorar la tasa de convergencia del modelo. ^{[ 30 ]}

Existen muy pocos métodos para el aprendizaje federado híbrido, donde los clientes solo poseen subconjuntos tanto de características como de muestras. Sin embargo, este escenario es muy importante en entornos prácticos. El algoritmo Hybrid Federated Dual Coordinate Ascent (HyFDCA) ^{[ 31 ]} es un algoritmo novedoso propuesto en 2024 que resuelve problemas convexos en el entorno FL híbrido. Este algoritmo extiende CoCoA, un algoritmo de optimización distribuida primal-dual introducido por Jaggi et al. (2014) ^{[ 32 ]} y Smith et al. (2017) ^{[ 33 ]} , al caso en que tanto las muestras como las características se particionan entre los clientes.

HyFDCA afirma ofrecer varias mejoras con respecto a los algoritmos existentes:

• HyFDCA es un algoritmo primal-dual de convergencia demostrable para FL híbrido en al menos los siguientes escenarios.
  • Entorno híbrido federado con plena participación del cliente.
  • Configuración federada horizontal con subconjuntos aleatorios de clientes disponibles.
    • Los autores muestran que HyFDCA tiene una tasa de convergencia de O ( 1 ⁄ t ) que coincide con la tasa de convergencia de FedAvg (véase más abajo). ^{[ 34 ]}
  • Entorno federado vertical con participación incompleta del cliente.
    • Los autores muestran que HyFDCA disfruta de una tasa de convergencia de O ( log(t) ⁄ t ) mientras que FedBCD ^{[ 35 ]} exhibe una tasa de convergencia más lenta de O ( 1 ⁄ sqrt(t) ) y requiere la participación completa del cliente.
• HyFDCA proporciona los pasos de privacidad que garantizan la confidencialidad de los datos del cliente en el entorno primal-dual. Estos principios se aplican a futuros esfuerzos para desarrollar algoritmos primal-dual para FL.
• HyFDCA supera empíricamente a HyFEM y FedAvg en valor de función de pérdida y precisión de validación en una multitud de configuraciones de problemas y conjuntos de datos (véase más abajo para más detalles). Los autores también presentan un marco de selección de hiperparámetros para FL con métricas competitivas, utilizando ideas de la optimización multiobjetivo.

Solo existe otro algoritmo que se centra en FL híbrido, HyFEM propuesto por Zhang et al. (2020). ^{[ 36 ]} Este algoritmo utiliza una formulación de coincidencia de características que equilibra la construcción de modelos locales precisos por parte de los clientes y el aprendizaje de un modelo global preciso por parte del servidor. Esto requiere una constante de regularización de coincidencia que debe ajustarse en función de los objetivos del usuario y da como resultado modelos locales y globales dispares. Además, los resultados de convergencia proporcionados para HyFEM solo demuestran la convergencia de la formulación de coincidencia, no del problema global original. Este trabajo es sustancialmente diferente del enfoque de HyFDCA, que utiliza datos de clientes locales para construir un modelo global que converge a la misma solución que si el modelo se entrenara de forma centralizada. Además, los modelos locales y globales están sincronizados y no requieren el ajuste de un parámetro de coincidencia entre ellos. Sin embargo, HyFEM es adecuado para una amplia gama de arquitecturas, incluidas las de aprendizaje profundo, mientras que HyFDCA está diseñado para problemas convexos como la regresión logística y las máquinas de vectores de soporte.

HyFDCA se compara empíricamente con el mencionado HyFEM, así como con el popular FedAvg, para resolver problemas convexos (específicamente problemas de clasificación) para varios conjuntos de datos populares (MNIST, Covtype y News20). Los autores encontraron que HyFDCA converge a un valor de pérdida menor y una mayor precisión de validación en un tiempo total menor en 33 de 36 comparaciones examinadas y 36 de 36 comparaciones examinadas con respecto al número de iteraciones externas. ^{[ 31 ]} Por último, HyFDCA solo requiere el ajuste de un hiperparámetro, el número de iteraciones internas, a diferencia de FedAvg (que requiere el ajuste de tres) o HyFEM (que requiere el ajuste de cuatro). Además de que FedAvg y HyFEM son bastante difíciles de optimizar en cuanto a hiperparámetros, lo que a su vez afecta en gran medida la convergencia, el único hiperparámetro de HyFDCA permite implementaciones prácticas y metodologías de selección de hiperparámetros más simples.

Los vehículos autónomos incorporan numerosas tecnologías de aprendizaje automático para su funcionamiento: visión artificial para analizar obstáculos y aprendizaje automático para adaptar su ritmo al entorno (por ejemplo, a las irregularidades de la carretera). Debido al elevado número potencial de vehículos autónomos y a la necesidad de que respondan rápidamente a situaciones del mundo real, el enfoque tradicional basado en la nube puede generar riesgos de seguridad. El aprendizaje federado puede representar una solución para limitar el volumen de transferencia de datos y acelerar los procesos de aprendizaje. ^{[ 46 ] [ 47 ]}

En la Industria 4.0 , se observa una adopción generalizada de técnicas de aprendizaje automático ^{[ 48 ]} para mejorar la eficiencia y la efectividad de los procesos industriales, garantizando al mismo tiempo un alto nivel de seguridad. Sin embargo, la privacidad de los datos sensibles para las industrias y las empresas manufactureras es de suma importancia. Los algoritmos de aprendizaje federado pueden aplicarse a estos problemas, ya que no divulgan ningún dato sensible. ^{[ 37 ]} Además, el aprendizaje federado también se implementó para la predicción de PM2.5 para respaldar las aplicaciones de detección de ciudades inteligentes. ^{[ 49 ]}

El aprendizaje federado busca abordar el problema de la gobernanza y la privacidad de los datos mediante el entrenamiento colaborativo de algoritmos sin el intercambio de los datos en sí. El enfoque estándar actual de centralizar los datos de múltiples centros conlleva preocupaciones críticas con respecto a la privacidad del paciente y la protección de datos. Para resolver este problema, la capacidad de entrenar modelos de aprendizaje automático a gran escala en múltiples instituciones médicas sin mover los datos es una tecnología crítica. Nature Digital Medicine publicó el artículo "El futuro de la salud digital con aprendizaje federado" ^{[ 50 ]} en septiembre de 2020, en el que los autores exploran cómo el aprendizaje federado puede proporcionar una solución para el futuro de la salud digital y destacan los desafíos y consideraciones que deben abordarse. Recientemente, una colaboración de 20 instituciones diferentes de todo el mundo validó la utilidad del entrenamiento de modelos de IA utilizando aprendizaje federado. En un artículo publicado en Nature Medicine "Aprendizaje federado para predecir resultados clínicos en pacientes con COVID-19" ^{[ 51 ]} , mostraron la precisión y la generalización de un modelo de IA federado para la predicción de las necesidades de oxígeno en pacientes con infecciones por COVID-19. Además, en un artículo publicado titulado "Una revisión sistemática del aprendizaje federado en el área de la atención médica: desde la perspectiva de las propiedades de los datos y las aplicaciones", los autores intentan proporcionar un conjunto de desafíos sobre los desafíos del aprendizaje federado desde una perspectiva centrada en los datos médicos. ^{[ 52 ]}

Una coalición de la industria y la academia ha desarrollado MedPerf, ^{[ 53 ]} una plataforma de código abierto que permite la validación de modelos de IA médica en datos del mundo real. La plataforma se basa técnicamente en la evaluación federada de modelos de IA con el objetivo de mitigar las preocupaciones sobre la privacidad del paciente y conceptualmente en diversos comités de evaluación comparativa para establecer las especificaciones de puntos de referencia neutrales con impacto clínico. ^{[ 54 ]}

La robótica abarca una amplia gama de aplicaciones de métodos de aprendizaje automático: desde la percepción y la toma de decisiones hasta el control. A medida que las tecnologías robóticas se han implementado cada vez más, desde tareas simples y repetitivas (p. ej., manipulación repetitiva) hasta tareas complejas e impredecibles (p. ej., navegación autónoma), la necesidad de aprendizaje automático aumenta. El aprendizaje federado proporciona una solución para mejorar los métodos de entrenamiento de aprendizaje automático convencionales. En el artículo ^{[ 55 ]} , los robots móviles aprendieron a navegar en diversos entornos utilizando el método basado en FL, lo que facilitó la generalización. En el artículo ^{[ 56 ],} el aprendizaje federado se aplica para mejorar la navegación de múltiples robots en escenarios con ancho de banda de comunicación limitado, un desafío actual en las tareas robóticas basadas en el aprendizaje en el mundo real. En el artículo ^{[ 57 ]} , el aprendizaje federado se utiliza para aprender navegación basada en visión, lo que facilita una mejor transferencia de la simulación a la realidad.

El aprendizaje federado (FL) está transformando el reconocimiento biométrico al permitir el entrenamiento colaborativo de modelos a través de fuentes de datos distribuidas, preservando al mismo tiempo la privacidad. Al eliminar la necesidad de compartir plantillas biométricas sensibles como huellas dactilares, imágenes faciales y escaneos de iris, el FL aborda las preocupaciones de privacidad y las restricciones regulatorias, lo que permite una mayor precisión y generalización del modelo. Mitiga los desafíos de la fragmentación de datos al aprovechar conjuntos de datos dispersos, lo que lo hace particularmente efectivo para diversas aplicaciones biométricas como el reconocimiento facial y de iris . Sin embargo, el FL enfrenta desafíos, incluyendo la heterogeneidad de modelos y datos, la sobrecarga computacional y la vulnerabilidad a amenazas de seguridad como los ataques de inferencia. Las direcciones futuras incluyen el desarrollo de marcos de FL personalizados, la mejora de la eficiencia del sistema y la expansión de las aplicaciones de FL a la detección de ataques de presentación biométrica (PAD) y la evaluación de calidad, fomentando la innovación y soluciones robustas en entornos sensibles a la privacidad. ^{[ 58 ]}