coeficiente phi

En estadística , el coeficiente phi , también conocido como coeficiente de contingencia cuadrática media o coeficiente de correlación de Yule y comúnmente denotado por φ o r _φ , es una medida de asociación entre dos variables binarias . En aprendizaje automático y bioinformática , se conoce como coeficiente de correlación de Matthews (MCC) . En meteorología y otros campos, se le denomina medida de asociación de Doolittle o puntuación de habilidad de Doolittle . Descrito por Udny Yule en 1912 ^{[ 1 ]} y denominado phi por Karl Pearson en la década de 1930, ^{[ 2 ]} es un caso especial del coeficiente de correlación de Pearson .

Un coeficiente de correlación de Pearson estimado para dos variables binarias devolverá el coeficiente phi. ^{[ 3 ]}

Se considera que dos variables binarias están asociadas positivamente si la mayor parte de los datos se encuentran en las celdas de la diagonal. Por el contrario, se considera que dos variables binarias están asociadas negativamente si la mayor parte de los datos se encuentran fuera de la diagonal.

Si tenemos una tabla de 2×2 para dos variables aleatorias x e y 

donde n ₁₁ , n ₁₀ , n ₀₁ , n ₀₀ , son recuentos no negativos de números de observaciones que suman n , el número total de observaciones. El coeficiente phi que describe la asociación de x e y es 

${\displaystyle \varphi ={\frac {n_{11}n_{00}-n_{10}n_{01}}{\sqrt {n_{1\bullet }n_{0\bullet }n_{\bullet 0}n_{\bullet 1}}}}.}$

Phi está relacionado con el coeficiente de correlación biserial puntual y la d de Cohen , y estima el grado de relación entre dos variables (2×2). ^{[ 4 ]}

El coeficiente phi también puede expresarse utilizando únicamente${\displaystyle n}$,${\displaystyle n_{11}}$,${\displaystyle n_{1\bullet }}$, y${\displaystyle n_{\bullet 1}}$, como

${\displaystyle \varphi ={\frac {nn_{11}-n_{1\bullet }n_{\bullet 1}}{\sqrt {n_{1\bullet }n_{\bullet 1}(n-n_{1\bullet })(n-n_{\bullet 1})}}}.}$

En general, el coeficiente de correlación de Pearson varía de −1 a +1, donde ±1 indica una concordancia o discordancia perfecta, y 0 indica que no existe relación. El rango del coeficiente phi —un caso especial del coeficiente de correlación de Pearson— está más restringido cuando alguna de las variables binarias presenta un desequilibrio de clases. ^{[ 5 ]}

El coeficiente de correlación de Matthews (MCC) se utiliza ampliamente en los campos de la bioinformática y el aprendizaje automático para evaluar la calidad de las clasificaciones binarias (de dos clases) . Recibe su nombre del bioquímico Brian W. Matthews , quien describió la medida en un artículo fundamental de 1975. ^{[ 6 ]} Una cantidad equivalente, la medida de asociación de Doolittle o puntuación de habilidad de Doolittle, fue utilizada por MH Doolittle en la década de 1880 para calificar la precisión de las predicciones de tornados y otros pronósticos meteorológicos del meteorólogo John Park Finley . ^{[ 7 ]}

El coeficiente tiene en cuenta los verdaderos y falsos positivos y negativos, y generalmente se considera una medida equilibrada que puede utilizarse incluso si las clases tienen tamaños muy diferentes. ^{[ 8 ]} El MCC es esencialmente un coeficiente de correlación entre las clasificaciones binarias observadas y predichas; devuelve un valor entre -1 y +1. Un coeficiente de +1 representa una predicción perfecta, 0 no es mejor que una predicción aleatoria y -1 indica una discrepancia total entre la predicción y la observación. Sin embargo, si el MCC no es igual a -1, 0 o +1, no es un indicador fiable de cuán similar es un predictor a una suposición aleatoria, ya que el MCC depende del conjunto de datos. ^{[ 9 ]} El MCC está estrechamente relacionado con la estadística chi-cuadrado para una tabla de contingencia de 2×2.

${\displaystyle |{\text{MCC}}|={\sqrt {\frac {\chi ^{2}}{n}}}}$

donde n es el número total de observaciones.

Si bien no existe una forma perfecta de describir la matriz de confusión de verdaderos y falsos positivos y negativos con un solo número, el coeficiente de correlación de Matthews se considera generalmente una de las mejores medidas de este tipo. ^{[ 10 ]} Otras medidas, como la proporción de predicciones correctas (también denominada precisión ), no son útiles cuando las dos clases tienen tamaños muy diferentes. Por ejemplo, asignar cada objeto al conjunto más grande logra una alta proporción de predicciones correctas, pero generalmente no es una clasificación útil.

El MCC se puede calcular directamente a partir de la matriz de confusión utilizando la fórmula:

${\displaystyle {\text{MCC}}={\frac {{\mathit {TP}}\times {\mathit {TN}}-{\mathit {FP}}\times {\mathit {FN}}}{\sqrt {({\mathit {TP}}+{\mathit {FP}})({\mathit {TP}}+{\mathit {FN}})({\mathit {TN}}+{\mathit {FP}})({\mathit {TN}}+{\mathit {FN}})}}}}$

En esta ecuación, TP es el número de verdaderos positivos , TN el número de verdaderos negativos , FP el número de falsos positivos y FN el número de falsos negativos . Si exactamente una de las cuatro sumas del denominador es cero, el denominador puede establecerse arbitrariamente en uno; esto da como resultado un coeficiente de correlación de Matthews de cero, que se puede demostrar que es el valor límite correcto. En caso de que dos o más sumas sean cero (por ejemplo, que tanto las etiquetas como las predicciones del modelo sean todas positivas o negativas), el límite no existe.

El MCC se puede calcular con la fórmula:

${\displaystyle {\text{MCC}}={\sqrt {{\mathit {PPV}}\times {\mathit {TPR}}\times {\mathit {TNR}}\times {\mathit {NPV}}}}-{\sqrt {{\mathit {FDR}}\times {\mathit {FNR}}\times {\mathit {FPR}}\times {\mathit {FOR}}}}}$

utilizando el valor predictivo positivo, la tasa de verdaderos positivos, la tasa de verdaderos negativos, el valor predictivo negativo, la tasa de falsos descubrimientos, la tasa de falsos negativos, la tasa de falsos positivos y la tasa de falsas omisiones.

La fórmula original dada por Matthews era: ^{[ 6 ]}

${\displaystyle {\begin{aligned}N&={\mathit {TN}}+{\mathit {TP}}+{\mathit {FN}}+{\mathit {FP}}\\[6pt]S&={\frac {{\mathit {TP}}+{\mathit {FN}}}{N}}\\[6pt]P&={\frac {{\mathit {TP}}+{\mathit {FP}}}{N}}\\[6pt]{\text{MCC}}&={\frac {{\mathit {TP}}/N-S\times P}{\sqrt {PS(1-S)(1-P)}}}\end{aligned}}}$

Esto es igual a la fórmula dada anteriormente. Como coeficiente de correlación , el coeficiente de correlación de Matthews es la media geométrica de los coeficientes de regresión del problema y su dual . Los coeficientes de regresión componentes del coeficiente de correlación de Matthews son la marcación (Δ p ) y el estadístico J de Youden ( informado o Δ p ′ ). ^{[ 10 ] [ 11 ]} La marcación y el informado corresponden a diferentes direcciones del flujo de información y generalizan el estadístico J de Youden , el${\displaystyle \delta p}$estadísticas, mientras que su media geométrica generaliza el coeficiente de correlación de Matthews a más de dos clases. ^{[ 10 ]}

Algunos científicos consideran que el coeficiente de correlación de Matthews es la puntuación individual más informativa para establecer la calidad de la predicción de un clasificador binario en un contexto de matriz de confusión. ^{[ 12 ] [ 13 ]}

Dada una muestra de 12 imágenes, 8 de gatos y 4 de perros, donde los gatos pertenecen a la clase 1 y los perros pertenecen a la clase 0,

actual = [1,1,1,1,1,1,1,1,0,0,0,0],

Supongamos que se entrena un clasificador que distingue entre gatos y perros, tomamos las 12 imágenes y las procesamos con el clasificador, y el clasificador hace 9 predicciones correctas y falla 3: 2 gatos son clasificados erróneamente como perros (las 2 primeras predicciones) y 1 perro es clasificado erróneamente como gato (la última predicción).

predicción = [0,0, 1 , 1 , 1 , 1 , 1 , 1 , 0 , 0 , 0 ,1]

Con estos dos conjuntos etiquetados (reales y predicciones) podemos crear una matriz de confusión que resumirá los resultados de la prueba del clasificador:

En esta matriz de confusión, de las 8 imágenes de gatos, el sistema determinó que 2 eran perros, y de las 4 imágenes de perros, predijo que 1 era un gato. Todas las predicciones correctas se encuentran en la diagonal de la tabla (resaltadas en negrita), por lo que es fácil inspeccionar visualmente la tabla en busca de errores de predicción, ya que estarán representados por valores fuera de la diagonal.

En términos abstractos, la matriz de confusión es la siguiente:

donde P = positivo; N = negativo; TP = verdadero positivo; FP = falso positivo; TN = verdadero negativo; FN = falso negativo.

Sustituyendo los números de la fórmula:

${\displaystyle {\text{MCC}}={\frac {6\times 3-1\times 2}{\sqrt {(6+1)\times (6+2)\times (3+1)\times (3+2)}}}={\frac {16}{\sqrt {1120}}}\approx 0.478}$

Definamos un experimento a partir de P casos positivos y N casos negativos para alguna condición. Los cuatro resultados se pueden formular en una tabla de contingencia de 2×2 o matriz de confusión , como sigue:

El coeficiente de correlación de Matthews se ha generalizado al caso multiclase. La generalización se denomina ${\displaystyle R_{K}}$La estadística (para K clases diferentes) se definió en términos de una${\displaystyle K\times K}$matriz de confusión${\displaystyle C}$^{[ 22 ]} . ^{[ 23 ]}

${\displaystyle {\text{MCC}}={\frac {\sum _{k}\sum _{l}\sum _{m}C_{kk}C_{lm}-C_{kl}C_{mk}}{{\sqrt {\sum _{k}\left(\sum _{l}C_{kl}\right)\left(\sum _{k'|k'\neq k}\sum _{l'}C_{k'l'}\right)}}{\sqrt {\sum _{k}\left(\sum _{l}C_{lk}\right)\left(\sum _{k'|k'\neq k}\sum _{l'}C_{l'k'}\right)}}}}}$

Cuando hay más de dos clases, el coeficiente de correlación de Matthews (MCC) ya no oscilará entre -1 y +1. En cambio, el valor mínimo estará entre -1 y 0, dependiendo de la distribución real. El valor máximo siempre es +1.

Esta fórmula se puede entender más fácilmente definiendo variables intermedias: ^{[ 24 ]}

• ${\displaystyle i}$es el índice de valor real
• ${\displaystyle j}$es el índice de valor previsto
• ${\displaystyle K}$es el número total de clases
• ${\displaystyle t_{k}=\sum _{i}C_{ik}}$el número de veces que la clase k realmente ocurrió,
• ${\displaystyle p_{k}=\sum _{j}C_{kj}}$el número de veces que se predijo la clase k,
• ${\displaystyle c=\sum _{k}C_{kk}}$el número total de muestras predichas correctamente,
• ${\displaystyle s=\sum _{i}\sum _{j}C_{ij}}$el número total de muestras. Esto permite expresar la fórmula como:

${\displaystyle {\text{MCC}}={\frac {cs-{\vec {t}}\cdot {\vec {p}}}{{\sqrt {s^{2}-{\vec {p}}\cdot {\vec {p}}}}{\sqrt {s^{2}-{\vec {t}}\cdot {\vec {t}}}}}}}$

Utilizando la fórmula anterior para calcular la medida MCC para el ejemplo del perro y el gato discutido anteriormente, donde la matriz de confusión se trata como un ejemplo multiclase de 2 ×:

${\displaystyle {\text{MCC}}={\frac {(6+3)\times {\color {green}12}\;-\;{\color {blue}5}\times {\color {brown}4}\;-\;{\color {purple}7}\times {\color {maroon}8}}{{\sqrt {{\color {green}12}^{2}-{\color {blue}5}^{2}-{\color {purple}7}^{2}}}{\sqrt {{\color {green}12}^{2}-{\color {brown}4}^{2}-{\color {maroon}8}^{2}}}}}={\frac {32}{\sqrt {4480}}}\approx 0.478}$

^{Powers [ 10 ]} dio una generalización alternativa del coeficiente de correlación de Matthews a más de dos clases mediante la definición de correlación como la media geométrica de la información y la marcación .

P. Stoica y P. Babu han presentado varias generalizaciones del coeficiente de correlación de Matthews a más de dos clases junto con nuevas métricas de correlación multivariante para la clasificación multinaria. ^{[ 25 ]}

• El kappa de Cohen
• Tabla de contingencia
• La V de Cramér , una medida similar de asociación entre variables nominales.
• Puntuación de F1
• Índice de Fowlkes-Mallows
• Correlación policórica (subtipo: correlación tetracórica), cuando las variables se consideran versiones dicotómicas de variables continuas (latentes).