Separación (estadística)

En estadística , la separación es un fenómeno asociado a modelos para resultados dicotómicos o categóricos, como la regresión logística y la regresión probit . La separación se produce si el predictor (o una combinación lineal de un subconjunto de predictores) se asocia con un único valor de resultado cuando el rango del predictor se divide en un valor determinado.

Por ejemplo, si la variable predictora X es continua y la variable de respuesta y  =  1 para todos los valores observados de x  >  2. Si los valores de respuesta están (aparentemente) perfectamente determinados por la variable predictora (por ejemplo, y  =  0 cuando x  ≤  2), entonces se dice que ocurre la condición de "separación completa". Si, en cambio, hay cierta superposición (por ejemplo, y  =  0 cuando x  <  2, pero y tiene valores observados de 0 y 1 cuando x  =  2), entonces ocurre la "separación cuasi-completa". Una tabla de 2  ×  2 con una celda vacía (cero) es un ejemplo de separación cuasi-completa.

Esta forma observada de los datos es importante porque a veces causa problemas con la estimación de los coeficientes de regresión. Por ejemplo, la estimación de máxima verosimilitud (ML) se basa en la maximización de la función de verosimilitud, donde, por ejemplo, en el caso de una regresión logística con datos completamente separados, el máximo aparece en el margen del espacio de parámetros, lo que lleva a estimaciones "infinitas" y, junto con eso, a problemas para proporcionar errores estándar razonables . ^{[ 1 ] [ 2 ]} El software estadístico a menudo arrojará una estimación de parámetros arbitrariamente grande con un error estándar muy grande. ^{[ 3 ]}

Un enfoque para "corregir" problemas con la estimación de ML es el uso de regularización (o " correcciones de continuidad "). ^{[ 4 ] [ 5 ]} En particular, en el caso de un problema de regresión logística, el uso de regresión logística exacta o regresión logística de Firth , un método de reducción de sesgo basado en una verosimilitud penalizada, puede ser una opción. ^{[ 6 ]}

Como alternativa, se pueden evitar los problemas asociados con la maximización de la verosimilitud recurriendo a un enfoque bayesiano para la inferencia. Dentro de un marco bayesiano, las patologías derivadas de la maximización de la verosimilitud se evitan mediante el uso de la integración en lugar de la maximización , así como mediante el uso de distribuciones de probabilidad previas adecuadas . ^{[ 7 ]}

• Albert, A.; Anderson, JA (1984), "Sobre la existencia de estimaciones de máxima verosimilitud en modelos de regresión logística", Biometrika , 71 (1): 1– 10, doi : 10.1093/biomet/71.1.1
• Kosmidis, I.; Firth, D. (2021), "Penalización a priori de Jeffreys, finitud y contracción en modelos lineales generalizados de respuesta binomial", Biometrika , 108 (1): 71–82 , arXiv : 1812.01938 , doi : 10.1093/biomet/asaa052
• Davidson, Russell; MacKinnon, James G. (2004). Teoría y métodos econométricos . Nueva York: Oxford University Press. pp. 458–459 . ISBN  978-0-19-512372-2.