Articulo de referencia

Logit

Gráfico de logit( x ) en el dominio de (0, 1) , donde la base del logaritmo es e. En estadística , la función logit [ a ] ( unidad logística ) o función log-odds es la función c...

Gráfico de logit( x ) en el dominio de (0, 1) , donde la base del logaritmo es e.

En estadística , la función logit [ a ] ( unidad logística ) o función log-odds es la función cuantil asociada a la distribución logística estándar . Tiene muchos usos en el análisis de datos y el aprendizaje automático , especialmente en las transformaciones de datos .

Matemáticamente, el logit es la inversa de la función logística estándar .σ(incógnita)=1/(1+miincógnita){\displaystyle \textstyle \sigma (x)=1/(1+e^{-x})} , por lo que el logit se define como logitpag=σ1(pag)=lnpag1pagparapag(0,1).{\displaystyle \operatorname {logit} p=\sigma ^{-1}(p)=\ln {\frac {p}{1-p}}\quad {\text{para}}\quad p\in (0,1).}

Debido a esto, el logit también se llama logaritmo de las probabilidades, ya que es igual al logaritmo de las probabilidades.pag1pag{\textstyle {\frac {p}{1-p}}}donde p es una probabilidad. Por lo tanto, el logit es un tipo de función que asigna valores de probabilidad desde(0,1){\displaystyle (0,1)}a números reales en (,+){\displaystyle (-\infty,+\infty)} , [ 1 ] similar a la función probit .

Definición

Si p es una probabilidad , entoncespag1pag{\textstyle {\tfrac {p}{1-p}}}es la probabilidad correspondiente ; el logit de la probabilidad es el logaritmo de la probabilidad, es decir: logit(pag)=ln(pag1pag)=ln(pag)ln(1pag)=ln(1pag1)=2atanh(2pag1).{\displaystyle {\begin{aligned}\operatorname {logit} (p)&={\hphantom {-}}\ln \left({\frac {p}{1-p}}\right)=\ln(p)-\ln(1-p)\\&=-\ln \left({\frac {1}{p}}-1\right)=2\operatorname {atanh} (2p-1).\end{aligned}}}

La base de la función logaritmo utilizada es de poca importancia en este artículo, siempre que sea mayor que 1, pero el logaritmo natural con base e es el más utilizado. La elección de la base corresponde a la elección de la unidad logarítmica para el valor: la base  2 corresponde a un shannon , la base e a un nat y la base 10 a un hartley ; estas unidades se utilizan particularmente en interpretaciones de la teoría de la información. Para cada elección de base, la función logit toma valores entre infinito negativo y positivo.  

La función logística de cualquier númeroα{\displaystyle \alpha }viene dado por el logit inverso : logit1(α)=logístico(α)=11+miα=miαmiα+1=tanh(α2)+12{\displaystyle \operatorname {logit} ^{-1}(\alpha )=\operatorname {logistic} (\alpha )={\frac {1}{1+e^{-\alpha }}}={\frac {e^{\alpha }}{e^{\alpha }+1}}={\frac {\tanh({\frac {\alpha }{2}})+1}{2}}}

La diferencia entre los logit de dos probabilidades es el logaritmo de la razón de probabilidades ( R ), lo que proporciona una forma abreviada de escribir la combinación correcta de razones de probabilidades simplemente sumando y restando : ln(R)=ln(pag11pag1pag21pag2)=ln(pag11pag1)ln(pag21pag2)=logit(pag1)logit(pag2).{\displaystyle {\begin{aligned}\ln(R)&=\ln \left({\frac {\tfrac {p_{1}}{1-p_{1}}}{\tfrac {p_{2}}{1-p_{2}}}}\right)\\&=\ln \left({\frac {p_{1}}{1-p_{1}}}\right)-\ln \left({\frac {p_{2}}{1-p_{2}}}\right)\\&=\operatorname {logit} (p_{1})-\operatorname {logit} (p_{2})\,.\end{aligned}}}

La serie de Taylor para la función logit viene dada por: logit(incógnita)=2norte=0(2incógnita1)2norte+12norte+1.{\displaystyle \operatorname {logit} (x)=2\sum _{n=0}^{\infty }{\frac {(2x-1)^{2n+1}}{2n+1}}.}

Historia

Se han explorado varios enfoques para adaptar los métodos de regresión lineal a un dominio donde la salida es un valor de probabilidad .(0,1){\displaystyle (0,1)} , en lugar de cualquier número real(,+){\displaystyle (-\infty,+\infty)}En muchos casos, estos esfuerzos se han centrado en modelar este problema mediante el mapeo del rango .(0,1){\displaystyle (0,1)}a(,+){\displaystyle (-\infty,+\infty)}y luego ejecutar la regresión lineal sobre estos valores transformados. [ 2 ]

En 1934, Chester Ittner Bliss utilizó la función de distribución normal acumulativa para realizar este mapeo y denominó a su modelo probit , abreviatura de "unidad de probabilidad". Sin embargo, esto es computacionalmente más costoso. [ 2 ] En 1944, Joseph Berkson utilizó el logaritmo de las probabilidades y denominó a esta función logit , abreviatura de "unidad logística", siguiendo la analogía con probit. [ 3 ]

El logaritmo de las probabilidades fue utilizado ampliamente por Charles Sanders Peirce a finales del siglo XIX. [ 4 ] GA Barnard, en 1949, acuñó el término comúnmente utilizado «log-odds» ; [ 5 ] [ 6 ] el logaritmo de las probabilidades de un evento es el logit de la probabilidad del evento. [ 7 ] Barnard también acuñó el término «lods» como una forma abstracta de «log-odds», [ 8 ] pero sugirió que «en la práctica, normalmente debería usarse el término "odds", ya que es más familiar en la vida cotidiana». [ 9 ]

Usos y propiedades

Comparación con probit

Comparación de la función logit con un probit escalado (es decir, la función de distribución acumulada inversa de la distribución normal ), comparando logit( x ) vs. Φ −1 ( x ) / π /8 , lo que hace que las pendientes sean iguales en el origen y .

Estrechamente relacionadas con la función logit (y el modelo logit ) se encuentran la función probit y el modelo probit . Tanto la función logit como la probit son funciones sigmoideas con un dominio entre 0 y 1, lo que las convierte en funciones cuantil , es decir, inversas de la función de distribución acumulativa (CDF) de una distribución de probabilidad . De hecho, la función logit es la función cuantil de la distribución logística , mientras que la función probit es la función cuantil de la distribución normal . La función probit se denota como Φ1(incógnita){\displaystyle \operatorname {\Phi } ^{-1}(x)}, dondeΦ(incógnita){\displaystyle \operatorname {\Phi } (x)}es la función de distribución acumulada (CDF) de la distribución normal estándar, como se mencionó anteriormente: Φ(incógnita)=12πincógnitamiy2/2dy.{\displaystyle \operatorname {\Phi } (x)={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x}e^{-y^{2}/2}dy.}

Como se muestra en el gráfico de la derecha, las funciones logit y probit son extremadamente similares cuando la función probit se escala de manera que su pendiente en y = 0 coincide con la pendiente de la función logit . En consecuencia, a veces se utilizan modelos probit en lugar de modelos logit porque para ciertas aplicaciones (por ejemplo, en la teoría de respuesta al ítem ) la implementación es más sencilla. [ 14 ]

Véase también

Referencias

  1. / ˈ l ɪ t / LOH -jit
  1. O'Halloran, Sharyn. "Clase 9: Logit/Probit" (PDF) (Apuntes de clase).
  2. 1 2 Cramer, JS (2003). "Los orígenes y el desarrollo del modelo logit" (PDF) . Cambridge University Press. Archivado del original (PDF) el 19 de septiembre de 2024.
  3. Berkson 1944 , pág. 361, nota al pie 2 : "Utilizo este término [logit] paralnpag/q{\displaystyle \ln {p/q}}siguiendo a Bliss, quien llamó función análoga que es lineal en incógnita{\displaystyle x}para la curva normal 'probit'."
  4. Stigler, Stephen M. (1986). Historia de la estadística: la medición de la incertidumbre antes de 1900. Cambridge, Massachusetts: Belknap Press de Harvard University Press. ISBN 978-0-674-40340-6.
  5. Hilbe, Joseph M. (2009). Modelos de regresión logística . CRC Press. pág. 3. ISBN  9781420075779..
  6. Barnard 1949 , pág. 120.
  7. Cramer, JS (2003). Logit Models from Economics and Other Fields . Cambridge University Press. p. 13. ISBN  9781139438193..
  8. Barnard 1949 , págs. 120, 128.
  9. Barnard 1949 , pág. 136.
  10. "R: Función logit inversa" . Archivado del original el 6 de julio de 2011. Consultado el 18 de febrero de 2011 .
  11. Thrun, Sebastian (2003). "Aprendizaje de mapas de cuadrícula de ocupación con modelos de sensores directos" (PDF) . Autonomous Robots . 15 (2): 111– 127. doi : 10.1023/A:1025584807625 . ISSN 0929-5593 . S2CID 2279013 .  
  12. Styler, Alex (2012). "Técnicas estadísticas en robótica" (PDF) . pág. 2. Recuperado el 26 de enero de 2017 . 
  13. ^ Dickmann, J.; Appenrodt, N.; Klappstein, J.; Bloecher, HL; Muntzinger, M.; Marinero, A.; Hahn, M.; Brenk, C. (1 de enero de 2015). "Hacer que Bertha vea aún más: contribución del radar" . Acceso IEEE . 3 : 1233– 1247. Bibcode : 2015IEEEA...3.1233D . doi : 10.1109/ACCESS.2015.2454533 . ISSN 2169-3536 . 
  14. Albert, James H. (2016). «Logit, Probit y otras funciones de respuesta» . Manual de teoría de respuesta al ítem . Vol. dos. Chapman and Hall. págs. 3–22 . doi : 10.1201/b19166-1 . ISBN   978-1-315-37364-5.
  • ¿Qué función de enlace: Logit, Probit o Cloglog? 12.04.2023

Lecturas adicionales

  • Ashton, Winifred D. (1972). La transformación logit: con especial referencia a sus usos en bioensayos . Griffin's Statistical Monographs & Courses. Vol.  32. Charles Griffin. doi : 10.2307/2345009 . ISBN 978-0-85264-212-2. JSTOR 2345009 .