Algoritmo de mayoría ponderada (aprendizaje automático)

En el aprendizaje automático , el algoritmo de mayoría ponderada (WMA) es un metaalgoritmo de aprendizaje que se utiliza para construir un algoritmo compuesto a partir de un conjunto de algoritmos de predicción, que pueden ser cualquier tipo de algoritmos de aprendizaje, clasificadores o incluso expertos humanos reales. ^{[ 1 ] [ 2 ]} El algoritmo asume que no tenemos conocimiento previo sobre la precisión de los algoritmos en el conjunto, pero existen razones suficientes para creer que uno o más tendrán un buen desempeño.

Supongamos que se trata de un problema de decisión binaria . Para construir el algoritmo compuesto, se asigna un peso positivo a cada uno de los algoritmos del conjunto. El algoritmo compuesto recopila los votos ponderados de todos los algoritmos del conjunto y realiza la predicción con el voto más alto. Si el algoritmo compuesto comete un error, los algoritmos del conjunto que contribuyeron a la predicción errónea se penalizarán con una proporción β, donde 0 < β < 1.

Se puede demostrar que los límites superiores en el número de errores cometidos en una secuencia dada de predicciones de un conjunto de algoritmos${\displaystyle \mathbf {A} }$es

${\displaystyle \mathbf {O(log|A|+m)} }$

si un algoritmo en${\displaystyle \mathbf {x} _ {i}}$hace como máximo${\displaystyle \mathbf {m} }$errores.

Existen numerosas variantes del algoritmo de mayoría ponderada para abordar diferentes situaciones, como objetivos cambiantes, conjuntos de algoritmos infinitos o predicciones aleatorias. El mecanismo central se mantiene similar, y el rendimiento final del algoritmo compuesto está limitado por una función del rendimiento del algoritmo especialista (el de mejor desempeño) en el conjunto.

• Algoritmo de mayoría ponderada aleatoria