Aprendizaje automático

As a scientific endeavour, machine learning grew out of the quest for artificial intelligence (AI). In the early days of AI as an academic discipline, some researchers were interested in having machines learn from data. They attempted to approach the problem with various symbolic methods, as well as what were then termed "neural networks"; these were mostly perceptrons and other models that were later found to be reinventions of the generalised linear models of statistics.^[21]Probabilistic reasoning was also employed, especially in automated medical diagnosis.^[22]:488

Sin embargo, un énfasis creciente en el enfoque lógico y basado en el conocimiento causó una brecha entre la IA y el aprendizaje automático. Los sistemas probabilísticos estaban plagados de problemas teóricos y prácticos de adquisición y representación de datos. ^{[ 22 ] : 488} Para 1980, los sistemas expertos habían llegado a dominar la IA, y la estadística estaba en desuso. ^{[ 23 ]} El trabajo sobre el aprendizaje simbólico/basado en el conocimiento continuó dentro de la IA, lo que condujo a la programación lógica inductiva (PLI), pero la línea de investigación más estadística ahora estaba fuera del campo de la IA propiamente dicha, en el reconocimiento de patrones y la recuperación de información . ^{[ 22 ] : 708–710, 755} La investigación de redes neuronales fue abandonada por la IA y la ciencia de la computación casi al mismo tiempo. Este subcampo, denominado " conexionismo ", fue continuado por investigadores de otras disciplinas, incluidos John Hopfield , David Rumelhart y Geoffrey Hinton . Su principal éxito llegó a mediados de la década de 1980 con la reinvención de la retropropagación . ^{[ 22 ] : 25}

El aprendizaje automático (ML), reorganizado y reconocido como un campo propio, comenzó a florecer en la década de 1990. El campo cambió su objetivo de lograr inteligencia artificial a abordar problemas prácticos y solucionables. Dejó de lado los enfoques simbólicos heredados de la IA y se centró en métodos y modelos tomados de la estadística, la lógica difusa y la teoría de la probabilidad . ^{[ 23 ]}

El aprendizaje automático y la minería de datos suelen emplear los mismos métodos y se superponen significativamente, pero mientras que el aprendizaje automático se centra en la predicción basada en propiedades conocidas aprendidas de los datos de entrenamiento, la minería de datos se centra en el descubrimiento de propiedades previamente desconocidas en los datos (este es el paso de análisis del descubrimiento de conocimiento en bases de datos). La minería de datos utiliza muchos métodos de aprendizaje automático, pero con objetivos diferentes; por otro lado, el aprendizaje automático también emplea métodos de minería de datos como " aprendizaje no supervisado " o como paso de preprocesamiento para mejorar la precisión del aprendiz. Gran parte de la confusión entre estas dos comunidades de investigación proviene de los supuestos básicos con los que trabajan: en el aprendizaje automático, el rendimiento se suele evaluar con respecto a la capacidad de reproducir conocimiento conocido , mientras que en el descubrimiento de conocimiento y la minería de datos (KDD) la tarea clave es el descubrimiento de conocimiento previamente desconocido . Evaluado con respecto al conocimiento conocido, un método no informado (no supervisado) será fácilmente superado por otros métodos supervisados, mientras que en una tarea típica de KDD, los métodos supervisados ​​no se pueden utilizar debido a la falta de datos de entrenamiento.

El aprendizaje automático también tiene vínculos estrechos con la optimización : muchos problemas de aprendizaje se formulan como la minimización de alguna función de pérdida en un conjunto de ejemplos de entrenamiento. Las funciones de pérdida expresan la discrepancia entre las predicciones del modelo que se está entrenando y las instancias reales del problema (por ejemplo, en la clasificación, se quiere asignar una etiqueta a las instancias, y los modelos se entrenan para predecir correctamente las etiquetas preasignadas de un conjunto de ejemplos). ^{[ 34 ]}

Caracterizar la generalización de diversos algoritmos de aprendizaje es un tema activo de investigación actual, especialmente en el caso de los algoritmos de aprendizaje profundo .

El aprendizaje automático y la estadística son campos estrechamente relacionados en cuanto a métodos, pero distintos en su objetivo principal: la estadística extrae inferencias sobre la población a partir de una muestra , mientras que el aprendizaje automático encuentra patrones predictivos generalizables. ^{[ 35 ]}

Los análisis estadísticos convencionales requieren la selección previa del modelo más adecuado para el conjunto de datos del estudio. Además, solo se incluyen en el análisis las variables significativas o teóricamente relevantes según la experiencia previa. En cambio, el aprendizaje automático no se basa en un modelo preestructurado; más bien, los datos dan forma al modelo al detectar patrones subyacentes. Cuantas más variables (entrada) se utilicen para entrenar el modelo, más preciso será el modelo final. ^{[ 36 ]}

Leo Breiman distinguió dos paradigmas de modelado estadístico: el modelo de datos y el modelo algorítmico, ^{[ 37 ]} donde "modelo algorítmico" significa más o menos los algoritmos de aprendizaje automático como Random forest .

Algunos estadísticos han adoptado métodos del aprendizaje automático, dando origen al campo del aprendizaje estadístico . ^{[ 38 ]}

Las técnicas analíticas y computacionales derivadas de la física profunda de sistemas desordenados pueden extenderse a problemas a gran escala, incluido el aprendizaje automático, por ejemplo, para analizar el espacio de pesos de las redes neuronales profundas . ^{[ 39 ]} La física estadística está encontrando así aplicaciones en el área del diagnóstico médico . ^{[ 40 ]}

Los algoritmos de aprendizaje supervisado construyen un modelo matemático de un conjunto de datos que contiene tanto las entradas como las salidas deseadas. ^{[ 46 ]} Los datos, conocidos como datos de entrenamiento , consisten en un conjunto de ejemplos de entrenamiento. Cada ejemplo de entrenamiento tiene una o más entradas y la salida deseada, también conocida como señal de supervisión. En el modelo matemático, cada ejemplo de entrenamiento se representa mediante un arreglo o vector, a veces llamado vector de características , y los datos de entrenamiento se representan mediante una matriz . Mediante la optimización iterativa de una función objetivo , los algoritmos de aprendizaje supervisado aprenden una función que puede usarse para predecir la salida asociada con nuevas entradas. ^{[ 47 ]} Una función óptima permite que el algoritmo determine correctamente la salida para entradas que no formaban parte de los datos de entrenamiento. Se dice que un algoritmo que mejora la precisión de sus salidas o predicciones con el tiempo ha aprendido a realizar esa tarea. ^{[ 15 ]}

Los tipos de algoritmos de aprendizaje supervisado incluyen el aprendizaje activo , la clasificación y la regresión . ^{[ 48 ]} Los algoritmos de clasificación se utilizan cuando las salidas están restringidas a un conjunto limitado de valores, mientras que los algoritmos de regresión se utilizan cuando las salidas pueden tomar cualquier valor numérico dentro de un rango. Por ejemplo, en un algoritmo de clasificación que filtra correos electrónicos, la entrada es un correo electrónico entrante y la salida es la carpeta en la que se archiva el correo electrónico. En cambio, la regresión se utiliza para tareas como predecir la altura de una persona basándose en factores como la edad y la genética, o pronosticar temperaturas futuras basándose en datos históricos. ^{[ 49 ]}

El aprendizaje por similitud es un área del aprendizaje automático supervisado estrechamente relacionada con la regresión y la clasificación, pero su objetivo es aprender a partir de ejemplos utilizando una función de similitud que mide el grado de semejanza o relación entre dos objetos. Tiene aplicaciones en sistemas de clasificación , sistemas de recomendación , seguimiento de identidad visual, verificación facial y verificación de locutores.

Los algoritmos de aprendizaje no supervisado encuentran estructuras en datos que no han sido etiquetados, clasificados ni categorizados. En lugar de responder a la retroalimentación, identifican características comunes en los datos y reaccionan en función de la presencia o ausencia de dichas características en cada nuevo conjunto de datos. Las principales aplicaciones del aprendizaje automático no supervisado incluyen la agrupación, la reducción de dimensionalidad ^{[ 4 ]} y la estimación de densidad ^{[ 50 ]} .

El análisis de clústeres consiste en la asignación de un conjunto de observaciones a subconjuntos (denominados clústeres ) de manera que las observaciones dentro del mismo clúster sean similares según uno o más criterios predefinidos, mientras que las observaciones extraídas de diferentes clústeres sean diferentes. Las distintas técnicas de agrupamiento parten de diferentes supuestos sobre la estructura de los datos, a menudo definida por alguna métrica de similitud y evaluada, por ejemplo, mediante la compacidad interna , o la similitud entre los miembros del mismo clúster, y la separación , la diferencia entre clústeres. Otros métodos se basan en la densidad estimada y la conectividad de grafos .

Un tipo especial de aprendizaje no supervisado llamado aprendizaje auto-supervisado implica entrenar un modelo generando la señal de supervisión a partir de los propios datos. ^{[ 51 ] [ 52 ]}

El aprendizaje semisupervisado se sitúa entre el aprendizaje no supervisado (sin datos de entrenamiento etiquetados) y el aprendizaje supervisado (con datos de entrenamiento completamente etiquetados). Algunos ejemplos de entrenamiento carecen de etiquetas, pero muchos investigadores de aprendizaje automático han descubierto que los datos sin etiquetar, cuando se utilizan junto con una pequeña cantidad de datos etiquetados, pueden mejorar considerablemente la precisión del aprendizaje.

En el aprendizaje débilmente supervisado , las etiquetas de entrenamiento son ruidosas, limitadas o imprecisas; sin embargo, estas etiquetas suelen ser más baratas de obtener, lo que da como resultado conjuntos de entrenamiento efectivos más grandes. ^{[ 54 ]}

Reinforcement learning is an area of machine learning concerned with how software agents ought to take actions in an environment to maximise some notion of cumulative reward. Due to its generality, the field is studied in many other disciplines, such as game theory, control theory, operations research, information theory, simulation-based optimisation, multi-agent systems, swarm intelligence, statistics and genetic algorithms. In reinforcement learning, the environment is typically represented as a Markov decision process (MDP). Many reinforcement learning algorithms use dynamic programming techniques.^[55] Reinforcement learning algorithms do not assume knowledge of an exact mathematical model of the MDP and are used when exact models are infeasible. Reinforcement learning algorithms are used in autonomous vehicles or in learning to play a game against a human opponent.

Other approaches have been developed which do not fit neatly into this three-fold categorisation, and sometimes more than one is used by the same machine learning system. For example, topic modelling, meta-learning.^[56]

Las redes neuronales artificiales (RNA), o sistemas conexionistas , son sistemas informáticos vagamente inspirados en las redes neuronales biológicas que conforman el cerebro animal . Estos sistemas "aprenden" a realizar tareas considerando ejemplos, generalmente sin estar programados con reglas específicas para cada tarea.

Una red neuronal artificial (RNA) es un modelo basado en un conjunto de unidades o nodos conectados, denominados " neuronas artificiales ", que modelan de forma aproximada las neuronas de un cerebro biológico. Cada conexión, al igual que las sinapsis en un cerebro biológico, puede transmitir información, una "señal", de una neurona artificial a otra. Una neurona artificial que recibe una señal puede procesarla y, a su vez, enviar señales a otras neuronas artificiales conectadas a ella. En las implementaciones comunes de RNA, la señal en una conexión entre neuronas artificiales es un número real , y la salida de cada neurona artificial se calcula mediante una función no lineal de la suma de sus entradas. Las conexiones entre neuronas artificiales se denominan "aristas". Las neuronas artificiales y las aristas suelen tener un peso que se ajusta a medida que avanza el aprendizaje. Este peso aumenta o disminuye la intensidad de la señal en una conexión. Las neuronas artificiales pueden tener un umbral, de modo que la señal solo se envía si la señal agregada supera dicho umbral. Normalmente, las neuronas artificiales se agrupan en capas. Las diferentes capas pueden realizar distintos tipos de transformaciones en sus entradas. Las señales viajan desde la primera capa (la capa de entrada) hasta la última capa (la capa de salida), posiblemente después de atravesar las capas varias veces.

El objetivo original del enfoque de las redes neuronales artificiales (RNA) era resolver problemas de la misma manera que lo haría un cerebro humano . Sin embargo, con el tiempo, la atención se centró en la realización de tareas específicas, lo que provocó desviaciones de la biología . Las redes neuronales artificiales se han utilizado en diversas tareas, como visión artificial , reconocimiento de voz , traducción automática , filtrado de redes sociales , juegos de mesa y videojuegos , y diagnóstico médico .

El aprendizaje profundo consiste en múltiples capas ocultas en una red neuronal artificial. Este enfoque intenta modelar la forma en que el cerebro humano procesa la luz y el sonido para convertirlos en visión y audición. Algunas aplicaciones exitosas del aprendizaje profundo son la visión artificial y el reconocimiento de voz. ^{[ 86 ]}

El aprendizaje mediante árboles de decisión utiliza un árbol de decisión como modelo predictivo para pasar de observaciones sobre un elemento (representadas en las ramas) a conclusiones sobre el valor objetivo del elemento (representadas en las hojas). Es uno de los enfoques de modelado predictivo utilizados en estadística, minería de datos y aprendizaje automático. Los modelos de árbol donde la variable objetivo puede tomar un conjunto discreto de valores se denominan árboles de clasificación; en estas estructuras de árbol, las hojas representan etiquetas de clase y las ramas representan conjunciones de características que conducen a esas etiquetas de clase. Los árboles de decisión donde la variable objetivo puede tomar valores continuos (normalmente números reales ) se denominan árboles de regresión. En el análisis de decisiones, un árbol de decisión se puede utilizar para representar visual y explícitamente las decisiones y la toma de decisiones . En la minería de datos, un árbol de decisión describe los datos, pero el árbol de clasificación resultante puede ser una entrada para la toma de decisiones.

La regresión de bosques aleatorios (RFR) se engloba dentro de los modelos basados ​​en árboles de decisión . RFR es un método de aprendizaje conjunto que construye múltiples árboles de decisión y promedia sus predicciones para mejorar la precisión y evitar el sobreajuste. Para construir los árboles de decisión, RFR utiliza el muestreo bootstrap; por ejemplo, cada árbol de decisión se entrena con datos aleatorios del conjunto de entrenamiento. Esta selección aleatoria de RFR para el entrenamiento permite al modelo reducir las predicciones sesgadas y alcanzar un mayor grado de precisión. RFR genera árboles de decisión independientes y puede trabajar tanto con datos de salida única como con tareas de múltiples regresores. Esto hace que RFR sea compatible con diversas aplicaciones. ^{[ 87 ] [ 88 ]}

Las máquinas de vectores de soporte (SVM), también conocidas como redes de vectores de soporte, son un conjunto de métodos de aprendizaje supervisado relacionados que se utilizan para la clasificación y la regresión. Dado un conjunto de ejemplos de entrenamiento, cada uno marcado como perteneciente a una de dos categorías, un algoritmo de entrenamiento de SVM construye un modelo que predice si un nuevo ejemplo cae en una de las categorías. ^{[ 89 ]} Un algoritmo de entrenamiento de SVM es un clasificador lineal , binario y no probabilístico , aunque existen métodos como el escalado de Platt para utilizar SVM en un entorno de clasificación probabilística. Además de realizar la clasificación lineal, las SVM pueden realizar eficientemente una clasificación no lineal utilizando lo que se denomina el truco del kernel , que mapea implícitamente sus entradas a espacios de características de alta dimensión.

Regression analysis encompasses a large variety of statistical methods to estimate the relationship between input variables and their associated features. Its most common form is linear regression, where a single line is drawn to best fit the given data according to a mathematical criterion such as ordinary least squares. The latter is often extended by regularisation methods to mitigate overfitting and bias, as in ridge regression. When dealing with non-linear problems, go-to models include polynomial regression (for example, used for trendline fitting in Microsoft Excel^[90]), logistic regression (often used in statistical classification) or even kernel regression, which introduces non-linearity by taking advantage of the kernel trick to implicitly map input variables to higher-dimensional space.

Multivariate linear regression extends the concept of linear regression to handle multiple dependent variables simultaneously. This approach estimates the relationships between a set of input variables and several output variables by fitting a multidimensional linear model. It is particularly useful in scenarios where outputs are interdependent or share underlying patterns, such as predicting multiple economic indicators or reconstructing images,^[91] which are inherently multi-dimensional.

A Bayesian network, belief network, or directed acyclic graphical model is a probabilistic graphical model that represents a set of random variables and their conditional independence with a directed acyclic graph (DAG). For example, a Bayesian network could represent the probabilistic relationships between diseases and symptoms. Given symptoms, the network can be used to compute the probabilities of the presence of various diseases. Efficient algorithms exist that perform inference and learning. Bayesian networks that model sequences of variables, like speech signals or protein sequences, are called dynamic Bayesian networks. Generalisations of Bayesian networks that can represent and solve decision problems under uncertainty are called influence diagrams.

A Gaussian process is a stochastic process in which every finite collection of the random variables in the process has a multivariate normal distribution, and it relies on a pre-defined covariance function, or kernel, that models how pairs of points relate to each other depending on their locations.

Given a set of observed points, or input–output examples, the distribution of the (unobserved) output of a new point as a function of its input data can be directly computed by looking at the observed points and the covariances between those points and the new, unobserved point.

Gaussian processes are popular surrogate models in Bayesian optimisation used to do hyperparameter optimisation.

A genetic algorithm (GA) is a search algorithm and heuristic technique that mimics the process of natural selection, using methods such as mutation and crossover to generate new genotypes in the hope of finding good solutions to a given problem. In machine learning, genetic algorithms were used in the 1980s and 1990s.^[93][94] Conversely, machine learning techniques have been used to improve the performance of genetic and evolutionary algorithms.^[95]

La teoría de las funciones de creencia, también conocida como teoría de la evidencia o teoría de Dempster-Shafer, es un marco general para el razonamiento con incertidumbre, con conexiones comprendidas con otros marcos como las teorías de probabilidad , posibilidad y probabilidad imprecisa . Estos marcos teóricos pueden considerarse como una especie de aprendiz y tienen algunas propiedades análogas de cómo se combina la evidencia (por ejemplo, la regla de combinación de Dempster), al igual que en un enfoque bayesiano basado en pmf se combinarían las probabilidades. ^{[ 96 ]} Sin embargo, existen muchas salvedades en estas funciones de creencia en comparación con los enfoques bayesianos para incorporar la ignorancia y la cuantificación de la incertidumbre . Estos enfoques de funciones de creencia que se implementan dentro del dominio del aprendizaje automático suelen aprovechar un enfoque de fusión de varios métodos de conjunto para manejar mejor el límite de decisión del aprendiz , las muestras bajas y los problemas de clase ambigua que el enfoque estándar de aprendizaje automático tiende a tener dificultades para resolver. ^{[ 97 ] [ 6 ]} Sin embargo, la complejidad computacional de estos algoritmos depende del número de proposiciones (clases) y puede generar un tiempo de cálculo mucho mayor en comparación con otros enfoques de aprendizaje automático.

El aprendizaje automático basado en reglas (RBML, por sus siglas en inglés) es una rama del aprendizaje automático que descubre y aprende automáticamente "reglas" a partir de datos. Proporciona modelos interpretables, lo que lo hace útil para la toma de decisiones en campos como la atención médica, la detección de fraudes y la ciberseguridad. Las técnicas clave de RBML incluyen sistemas de clasificación de aprendizaje , ^{[ 98 ]} aprendizaje de reglas de asociación , ^{[ 99 ]} sistemas inmunes artificiales , ^{[ 100 ]} y otros modelos similares. Estos métodos extraen patrones de los datos y desarrollan reglas con el tiempo.

Por lo general, los modelos de aprendizaje automático requieren una gran cantidad de datos fiables para realizar predicciones precisas. Al entrenar un modelo de aprendizaje automático, los ingenieros deben seleccionar y recopilar una muestra de datos amplia y representativa. Los datos del conjunto de entrenamiento pueden ser muy variados, como un corpus de texto , una colección de imágenes, datos de sensores y datos recopilados de usuarios individuales de un servicio. El sobreajuste es un aspecto que se debe tener en cuenta al entrenar un modelo de aprendizaje automático. Los modelos entrenados a partir de datos sesgados o no evaluados pueden generar predicciones erróneas o indeseadas. Los modelos sesgados pueden tener consecuencias perjudiciales, lo que agrava los impactos negativos en la sociedad o en los objetivos. El sesgo algorítmico es una posible consecuencia de que los datos no estén completamente preparados para el entrenamiento. La ética del aprendizaje automático se está convirtiendo en un campo de estudio y, en particular, se está integrando en los equipos de ingeniería de aprendizaje automático.

La IA explicable (XAI), también conocida como IA interpretable o aprendizaje automático explicable (XML), es una inteligencia artificial (IA) en la que los humanos pueden comprender las decisiones o predicciones que realiza la IA. ^{[ 133 ]} Contrasta con el concepto de "caja negra" en el aprendizaje automático, donde ni siquiera sus diseñadores pueden explicar por qué una IA llegó a una decisión específica. ^{[ 134 ]} Al refinar los modelos mentales de los usuarios de sistemas impulsados ​​por IA y desmantelar sus ideas erróneas, la XAI promete ayudar a los usuarios a desempeñarse de manera más eficaz. La XAI podría ser una implementación del derecho social a la explicación.

El sobreajuste consiste en adoptar una teoría deficiente y excesivamente compleja, manipulada para que se ajuste a todos los datos de entrenamiento anteriores. Muchos sistemas intentan reducir el sobreajuste recompensando una teoría en función de su ajuste a los datos, pero penalizándola en función de su complejidad. ^{[ 135 ]}

Los estudiantes también pueden sentirse decepcionados al "aprender la lección equivocada". Un ejemplo sencillo es que un clasificador de imágenes entrenado solo con imágenes de caballos marrones y gatos negros podría concluir que todas las manchas marrones probablemente sean caballos. ^{[ 155 ]} Un ejemplo del mundo real es que, a diferencia de los humanos, los clasificadores de imágenes actuales a menudo no emiten juicios principalmente a partir de la relación espacial entre los componentes de la imagen, y aprenden relaciones entre píxeles que los humanos no perciben, pero que aún se correlacionan con imágenes de ciertos tipos de objetos reales. Modificar estos patrones en una imagen legítima puede dar como resultado imágenes "adversarias" que el sistema clasifica erróneamente. ^{[ 156 ] [ 157 ]}

Las vulnerabilidades adversarias también pueden resultar en sistemas no lineales o en perturbaciones sin patrón. Para algunos sistemas, es posible cambiar la salida cambiando solo un único píxel elegido por el adversario. ^{[ 158 ]} Los modelos de aprendizaje automático suelen ser vulnerables a la manipulación o evasión mediante aprendizaje automático adversario . ^{[ 159 ]}

Los investigadores han demostrado cómo se pueden insertar puertas traseras de forma indetectable en modelos de aprendizaje automático de clasificación (por ejemplo, para las categorías "spam" y "no spam" de publicaciones) que a menudo son desarrollados o entrenados por terceros. Estos terceros pueden cambiar la clasificación de cualquier entrada, incluso en casos en los que se proporciona algún tipo de transparencia de datos/software , posiblemente incluyendo el acceso de caja blanca . ^{[ 160 ] [ 161 ] [ 162 ]}

Los distintos enfoques de aprendizaje automático pueden verse afectados por diferentes sesgos en los datos. Un sistema de aprendizaje automático entrenado específicamente con clientes actuales podría no ser capaz de predecir las necesidades de nuevos grupos de clientes que no estén representados en los datos de entrenamiento. Cuando se entrena con datos generados por humanos, es probable que el aprendizaje automático capte los sesgos constitucionales e inconscientes ya presentes en la sociedad. ^{[ 167 ]}

Los sistemas entrenados con conjuntos de datos recopilados con sesgos pueden exhibir estos sesgos al usarse (sesgo algorítmico), digitalizando así los prejuicios culturales. ^{[ 168 ]} Por ejemplo, en 1988, la Comisión para la Igualdad Racial del Reino Unido descubrió que la Facultad de Medicina de St. George había estado utilizando un programa informático entrenado con datos del personal de admisiones anterior y que este programa había rechazado a casi 60 candidatos que resultaron ser mujeres o tener nombres que no sonaban europeos. ^{[ 167 ]} El uso de datos de contratación de una empresa con políticas de contratación racistas puede llevar a que un sistema de aprendizaje automático duplique el sesgo al calificar a los solicitantes de empleo por similitud con solicitantes anteriores exitosos. ^{[ 169 ] [ 170 ]} Otro ejemplo incluye el algoritmo predictivo de la empresa de vigilancia predictiva Geolitica que resultó en "niveles desproporcionadamente altos de vigilancia excesiva en comunidades de bajos ingresos y minoritarias" después de ser entrenado con datos históricos de delitos. ^{[ 171 ]}

Si bien la recopilación responsable de datos y la documentación de las reglas algorítmicas utilizadas por un sistema se consideran una parte fundamental del aprendizaje automático, algunos investigadores atribuyen la vulnerabilidad del aprendizaje automático a los sesgos a la falta de participación y representación de las poblaciones minoritarias en el campo de la IA. ^{[ 172 ]} De hecho, según una investigación realizada por la Computing Research Association en 2021, las mujeres docentes representan solo el 16,1 % del total de profesores que se centran en la IA en varias universidades del mundo. ^{[ 173 ]} Además, entre el grupo de "nuevos graduados de doctorado en IA residentes en EE. UU.", el 45 % se identificó como blanco, el 22,4 % como asiático, el 3,2 % como hispano y el 2,4 % como afroamericano, lo que demuestra aún más la falta de diversidad en el campo de la IA. ^{[ 173 ]}

Se ha demostrado que los modelos de lenguaje aprendidos a partir de datos contienen sesgos similares a los humanos. ^{[ 174 ] [ 175 ]} Debido a que los lenguajes humanos contienen sesgos, las máquinas entrenadas con corpus de lenguaje necesariamente también aprenderán estos sesgos. ^{[ 176 ] [ 177 ]} En 2016, Microsoft probó Tay , un chatbot que aprendió de Twitter, y rápidamente adquirió lenguaje racista y sexista. ^{[ 178 ]}

En un experimento llevado a cabo por ProPublica , una organización de periodismo de investigación , el análisis de un algoritmo de aprendizaje automático sobre las tasas de reincidencia entre los presos marcó erróneamente a los "acusados ​​negros de alto riesgo" con el doble de frecuencia que a los acusados ​​blancos. ^{[ 171 ]} En 2015, Google Fotos etiquetó a un par de personas negras como gorilas, lo que causó controversia. La etiqueta de gorila se eliminó posteriormente y, en 2023, todavía no puede reconocer gorilas. ^{[ 179 ]} Se han encontrado problemas similares con el reconocimiento de personas no blancas en muchos otros sistemas. ^{[ 180 ]}

Debido a estos desafíos, la adopción del uso efectivo del aprendizaje automático en otros ámbitos puede demorarse. ^{[ 181 ]} La preocupación por la equidad en el aprendizaje automático, es decir, la reducción del sesgo en el aprendizaje automático y el impulso de su uso para el bien humano, es cada vez más expresada por científicos de inteligencia artificial, incluida Fei-Fei Li , quien dijo que "[n]o hay nada artificial en la IA. Está inspirada por personas, es creada por personas y, lo más importante, impacta a las personas. Es una herramienta poderosa que apenas estamos comenzando a comprender, y esa es una profunda responsabilidad". ^{[ 182 ]}

Entre los profesionales de la salud existe preocupación de que estos sistemas no estén diseñados en beneficio del interés público, sino como máquinas generadoras de ingresos. Esto es especialmente cierto en Estados Unidos, donde existe un antiguo dilema ético entre mejorar la atención médica y, al mismo tiempo, aumentar las ganancias. Por ejemplo, los algoritmos podrían diseñarse para proporcionar a los pacientes pruebas o medicamentos innecesarios en los que los propietarios del algoritmo tengan intereses. El aprendizaje automático en la atención médica tiene el potencial de brindar a los profesionales una herramienta adicional para diagnosticar, medicar y planificar la recuperación de los pacientes, pero esto requiere mitigar estos sesgos. ^{[ 183 ]}

Las Unidades de Procesamiento Tensorial (TPU) son aceleradores de hardware especializados desarrollados por Google específicamente para cargas de trabajo de aprendizaje automático. A diferencia de las GPU y FPGA de propósito general , las TPU están optimizadas para cálculos tensoriales, lo que las hace particularmente eficientes para tareas de aprendizaje profundo como el entrenamiento y la inferencia. Se utilizan ampliamente en los servicios de IA de Google Cloud y en modelos de aprendizaje automático a gran escala como DeepMind AlphaFold de Google y grandes modelos de lenguaje. Las TPU aprovechan las unidades de multiplicación de matrices y la memoria de alto ancho de banda para acelerar los cálculos manteniendo la eficiencia energética. ^{[ 188 ]} Desde su introducción en 2016, las TPU se han convertido en un componente clave de la infraestructura de IA, especialmente en entornos basados ​​en la nube.

La computación neuromórfica se refiere a una clase de sistemas informáticos diseñados para emular la estructura y la funcionalidad de las redes neuronales biológicas. Estos sistemas pueden implementarse mediante simulaciones basadas en software sobre hardware convencional o mediante arquitecturas de hardware especializadas. ^{[ 189 ]}

Embedded machine learning is a sub-field of machine learning where models are deployed on embedded systems with limited computing resources, such as wearable computers, edge devices and microcontrollers.^{[192][193][194][195]} Running models directly on these devices eliminates the need to transfer and store data on cloud servers for further processing, thereby reducing the risk of data breaches, privacy leaks and theft of intellectual property, personal data and business secrets. Embedded machine learning can be achieved through various techniques, such as hardware acceleration,^[196][197]approximate computing,^[198] and model optimization.^[199][200] Common optimization techniques include pruning, quantisation, knowledge distillation, low-rank factorisation, network architecture search, and parameter sharing.

• KNIME
• RapidMiner