Articulo de referencia

Subderivada

Una función convexa (azul) y "líneas subtangentes" en incógnita 0 {\displaystyle x_{0}} (rojo). En matemáticas , la subderivada (o subgradiente ) generaliza la derivada a funcio...

Una función convexa (azul) y "líneas subtangentes" enincógnita0{\displaystyle x_{0}}(rojo).

En matemáticas , la subderivada (o subgradiente ) generaliza la derivada a funciones convexas que no son necesariamente diferenciables . El conjunto de subderivadas en un punto se denomina subgradiente en ese punto. [ 1 ] Las subderivadas surgen en el análisis convexo , el estudio de las funciones convexas , a menudo en relación con la optimización convexa .

DejarF:IR{\displaystyle f:I\to \mathbb {R} }Sea una función convexa de valores reales definida en un intervalo abierto de la recta real. Dicha función no necesita ser diferenciable en todos los puntos: por ejemplo, la función de valor absoluto .F(incógnita)=|incógnita|{\displaystyle f(x)=|x|}no es diferenciable cuandoincógnita=0{\displaystyle x=0}. Sin embargo, como se ve en el gráfico de la derecha (dondeF(incógnita){\displaystyle f(x)}en azul tiene kinks no diferenciables similares a la función de valor absoluto), para cualquierincógnita0{\displaystyle x_{0}}En el dominio de la función se puede trazar una línea que pasa por el punto(incógnita0,F(incógnita0)){\displaystyle (x_{0},f(x_{0}))}y que está en todas partes tocando o por debajo de la gráfica de f . La pendiente de dicha línea se llama subderivada .

Definición

Rigurosamente, una subderivada de una función convexaF:IR{\displaystyle f:I\to \mathbb {R} }en un puntoincógnita0{\displaystyle x_{0}}en el intervalo abiertoI{\displaystyle I}es un número realdo{\displaystyle c}de tal manera queF(incógnita)F(incógnita0)do(incógnitaincógnita0){\displaystyle f(x)-f(x_{0})\geq c(x-x_{0})}a pesar deincógnitaI{\displaystyle x\in I}. Por el recíproco del teorema del valor medio , el conjunto de subderivadas enincógnita0{\displaystyle x_{0}}para una función convexa es un intervalo cerrado no vacío[a,b]{\displaystyle [a,b]}, dóndea{\displaystyle a}yb{\displaystyle b}son los límites unilateralesa=límiteincógnitaincógnita0F(incógnita)F(incógnita0)incógnitaincógnita0,{\displaystyle a=\lim _{x\to x_{0}^{-}}{\frac {f(x)-f(x_{0})}{x-x_{0}}},}b=límiteincógnitaincógnita0+F(incógnita)F(incógnita0)incógnitaincógnita0.{\displaystyle b=\lim _{x\to x_{0}^{+}}{\frac {f(x)-f(x_{0})}{x-x_{0}}}.}El intervalo[a,b]{\displaystyle [a,b]}de todas las subderivadas se llama subgradiente de la funciónF{\displaystyle f}enincógnita0{\displaystyle x_{0}}, denotado porF(incógnita0){\displaystyle \partial f(x_{0})}. SiF{\displaystyle f}es convexa, entonces su subgradiente en cualquier punto no es vacío. Además, si su subgradiente enincógnita0{\displaystyle x_{0}}contiene exactamente una subderivada, entoncesF{\displaystyle f}es diferenciable enincógnita0{\displaystyle x_{0}}yF(incógnita0)={F(incógnita0)}{\displaystyle \partial f(x_{0})=\{f'(x_{0})\}}. [ 2 ]

Ejemplos

Consideremos la funciónF(incógnita)=|incógnita|{\displaystyle f(x)=|x|}que es convexa. Entonces, el subgradiente en el origen es el intervalo[1,1]{\displaystyle [-1,1]}. El subgradiente en cualquier puntoincógnita0<0{\displaystyle x_{0}<0}es el conjunto unitario{1}{\displaystyle \{-1\}}, mientras que el subgradiente en cualquier puntoincógnita0>0{\displaystyle x_{0}>0}es el conjunto unitario{1}{\displaystyle \{1\}}. Esto es similar a la función signo , pero no es unívoca en0{\displaystyle 0}, incluyendo en su lugar todas las subderivadas posibles.

En términos más generales, siF(incógnita)=incógnita{\displaystyle f(x)=\|x\|}es una norma en un espacio normadoincógnita{\displaystyle X}, entonces paraincógnita0{\displaystyle x\neq 0},

F(incógnita)={incógnitaincógnita:incógnita,incógnita=incógnita, incógnita=1},{\displaystyle \partial f(x)=\{x^{*}\in X^{*}:\langle x^{*},x\rangle =\|x\|,\ \|x^{*}\|_{*}=1\},}

mientras

F(0)={incógnitaincógnita:incógnita1}.{\displaystyle \partial f(0)=\{x^{*}\in X^{*}:\|x^{*}\|_{*}\leq 1\}.}

Propiedades

  • Una función convexaF:IR{\displaystyle f:I\to \mathbb {R} }es diferenciable enincógnita0{\displaystyle x_{0}}si y solo si el subgradiente es un conjunto unitario, que es{F(incógnita0)}{\displaystyle \{f'(x_{0})\}}.
  • Un puntoincógnita0{\displaystyle x_{0}}es un mínimo global de una función convexaF{\displaystyle f}si y solo si el cero está contenido en el subgradiente. Por ejemplo, en la figura anterior, se puede trazar una "línea subtangente" horizontal a la gráfica deF{\displaystyle f}en(incógnita0,F(incógnita0)){\displaystyle (x_{0},f(x_{0}))}Esta última propiedad es una generalización del hecho de que la derivada de una función diferenciable en un mínimo local es cero.
  • SiF{\displaystyle f}ygramo{\displaystyle g}son funciones convexas con subgradientesF(incógnita){\displaystyle \partial f(x)}ygramo(incógnita){\displaystyle \partial g(x)}conincógnita{\displaystyle x}siendo el punto interior de una de las funciones, entonces el subgradiente deF+gramo{\displaystyle f+g}es(F+gramo)(incógnita)=F(incógnita)+gramo(incógnita){\displaystyle \partial (f+g)(x)=\partial f(x)+\partial g(x)}(donde el operador de suma denota la suma de Minkowski ). Esto se lee como "el subgradiente de una suma es la suma de los subgradientes". [ 3 ]

El subgradiente

Los conceptos de subderivada y subgradiente pueden generalizarse a funciones de varias variables. SiF:UR{\displaystyle f:U\to \mathbb {R} }es una función convexa de valores reales definida en un conjunto abierto convexo en el espacio euclidianoRnorte{\displaystyle \mathbb {R} ^{n}}, un vectorv{\displaystyle v}en ese espacio se llama subgradiente enincógnita0U{\displaystyle x_{0}\in U}si por alguna razónincógnitaU{\displaystyle x\in U}uno tiene eso

F(incógnita)F(incógnita0)v(incógnitaincógnita0),{\displaystyle f(x)-f(x_{0})\geq v\cdot (x-x_{0}),}

donde el punto denota el producto escalar . El conjunto de todos los subgradientes enincógnita0{\displaystyle x_{0}}se llama subgradiente enincógnita0{\displaystyle x_{0}}y se denotaF(incógnita0){\displaystyle \partial f(x_{0})}. El subgradiente es siempre un conjunto compacto convexo no vacío .

Estos conceptos se generalizan aún más a las funciones convexas.F:UR{\displaystyle f:U\to \mathbb {R} }en un conjunto convexo en un espacio localmente convexoV{\displaystyle V}. Un funcionalv{\displaystyle v^{*}}en el espacio dualV{\displaystyle V^{*}}se denomina subgradiente enincógnita0{\displaystyle x_{0}}enU{\displaystyle U}si para todosincógnitaU{\displaystyle x\in U},

F(incógnita)F(incógnita0)v(incógnitaincógnita0).{\displaystyle f(x)-f(x_{0})\geq v^{*}(x-x_{0}).}

El conjunto de todos los subgradientes enincógnita0{\displaystyle x_{0}}se llama subgradiente enincógnita0{\displaystyle x_{0}}y se denota nuevamenteF(incógnita0){\displaystyle \partial f(x_{0})}El subgradiente es siempre un conjunto cerrado convexo . Puede ser un conjunto vacío; considérese, por ejemplo, un operador no acotado , que es convexo, pero no tiene subgradiente. SiF{\displaystyle f}es continua, el subgradiente no es vacío.

Relación con la conjugación convexa

Para una función convexa propiaF:incógnita(,+]{\displaystyle f:X\to (-\infty ,+\infty ]}En un espacio localmente convexo, el subgradiente se puede caracterizar utilizando el conjugado convexo . La desigualdad de Fenchel-Young establece que

F(incógnita)+F(incógnita)incógnita,incógnita{\displaystyle f(x)+f^{*}(x^{*})\geq \langle x^{*},x\rangle }

a pesar deincógnitaincógnita{\displaystyle x\in X}yincógnitaincógnita{\displaystyle x^{*}\in X^{*}}La igualdad se cumple si y solo siincógnita{\displaystyle x^{*}}es un subgradiente deF{\displaystyle f}enincógnita{\displaystyle x}; eso es,

incógnitaF(incógnita){\displaystyle x^{*}\in \partial f(x)}

si y solo si

F(incógnita)+F(incógnita)=incógnita,incógnita.{\displaystyle f(x)+f^{*}(x^{*})=\langle x^{*},x\rangle .}

De forma equivalente,

F(incógnita)={incógnitaincógnita:incógnita,incógnitaF(incógnita)=F(incógnita)}.{\displaystyle \partial f(x)=\{x^{*}\in X^{*}:\langle x^{*},x\rangle -f(x)=f^{*}(x^{*})\}.}

Geométricamente, esto dice que la función afín

zincógnita,zF(incógnita){\displaystyle z\mapsto \langle x^{*},z\rangle -f^{*}(x^{*})}

apoyaF{\displaystyle f}desde abajo enincógnita{\displaystyle x}. [ 4 ] [ 5 ]

Historia

El subgradiente en funciones convexas fue introducido por Jean Jacques Moreau y R. Tyrrell Rockafellar a principios de la década de 1960. El subgradiente generalizado para funciones no convexas fue introducido por Francis H. Clarke y R. Tyrrell Rockafellar a principios de la década de 1980. [ 6 ]

Véase también

Referencias

  1. Bubeck, S. (2014). Teoría de la optimización convexa para el aprendizaje automático. ArXiv, abs/1405.4980.
  2. Rockafellar, RT (1970). Análisis convexo . Princeton University Press. pág.  242 [Teorema 25.1]. ISBN 0-691-08069-0.
  3. ^ Lemaréchal, Claude; Hiriart-Urruty, Jean-Baptiste (2001). Fundamentos del análisis convexo . Springer-Verlag Berlín Heidelberg. pag. 183 . ISBN  978-3-642-56468-0.
  4. Rockafellar 1970 .
  5. ^ Zălinescu 2002 , págs. 75–79.
  6. Clarke, Frank H. (1983). Optimización y análisis no suave . Nueva York: John Wiley & Sons . págs. xiii+308. ISBN  0-471-87504-X. SR 0709590 . 
  • Borwein, Jonathan; Lewis, Adrian S. (2010). Análisis convexo y optimización no lineal  : teoría y ejemplos (2.ª  ed.). Nueva York: Springer. ISBN 978-0-387-31256-9.
  • Hiriart-Urruty, Jean-Baptiste; Lemaréchal, Claude (2001). Fundamentos del análisis convexo . Saltador. ISBN 3-540-42205-6.
  • Rockafellar, R. Tyrrell (1997) [1970], Análisis convexo , Princeton, NJ: Princeton University Press, ISBN 978-0-691-01586-6.
  • Zălinescu, C. (2002). Análisis convexo en espacios vectoriales generales . World Scientific Publishing  Co.,  Inc. pp.  xx+367. ISBN 981-238-067-1. SR 1921556 . 
  • "Usos delímiteh0F(incógnita+h)F(incógnitah)2h{\displaystyle \lim \limits _{h\to 0}{\frac {f(x+h)-f(x-h)}{2h}}}Stack Exchange . 18 de septiembre de 2011 .