Articulo de referencia

Exceso de exhaustividad

La sobrecompletitud es un concepto del álgebra lineal ampliamente utilizado en matemáticas, informática, ingeniería y estadística (generalmente en forma de marcos sobrecompletos...

La sobrecompletitud es un concepto del álgebra lineal ampliamente utilizado en matemáticas, informática, ingeniería y estadística (generalmente en forma de marcos sobrecompletos ). Fue introducido por RJ Duffin y AC Schaeffer en 1952. [ 1 ]

Formalmente, un subconjunto de los vectores{ϕi}iJ{\displaystyle \{\phi _{i}\}_{i\in J}}de un espacio Banachincógnita{\displaystyle X}, a veces llamado "sistema", está completo si cada elemento enincógnita{\displaystyle X}puede aproximarse arbitrariamente bien en norma mediante combinaciones lineales finitas de elementos en{ϕi}iJ{\displaystyle \{\phi _{i}\}_{i\in J}}. [ 2 ] Un sistema se denomina sobrecompleto si contiene más vectores de los necesarios para ser completo, es decir, existenϕj{ϕi}iJ{\displaystyle \phi _{j}\in \{\phi _{i}\}_{i\in J}}que se puede eliminar del sistema de tal manera que{ϕi}iJ{ϕj}{\displaystyle \{\phi _{i}\}_{i\in J}\setminus \{\phi _{j}\}}permanece completa. En áreas de investigación como el procesamiento de señales y la aproximación de funciones , la sobrecompletitud puede ayudar a los investigadores a lograr una descomposición más estable, más robusta o más compacta que utilizando una base . [ 3 ]

Relación entre la sobrecompletitud y los marcos

La teoría de marcos tiene su origen en un artículo de Duffin y Schaeffer sobre series de Fourier no armónicas . [ 1 ] Un marco se define como un conjunto de vectores no nulos.{ϕi}iJ{\displaystyle \{\phi _{i}\}_{i\in J}}de tal manera que para un arbitrarioFH{\displaystyle f\in {\mathcal {H}}},

AF2iJ|F,ϕi|2BF2{\displaystyle A\|f\|^{2}\leq \sum _{i\in J}|\langle f,\phi _{i}\rangle |^{2}\leq B\|f\|^{2}}

dónde,{\displaystyle \langle \cdot ,\cdot \rangle }denota el producto interno,A{\displaystyle A}yB{\displaystyle B}son constantes positivas llamadas límites del marco. CuandoA{\displaystyle A}yB{\displaystyle B}se puede elegir de tal manera queA=B{\displaystyle A=B}, el marco se denomina marco ajustado. [ 4 ]

Se puede observar queH=durar{ϕi}{\displaystyle {\mathcal {H}}=\operatorname {span} \{\phi _{i}\}}. Un ejemplo de marco se puede dar de la siguiente manera. Sea cada uno de{αi}i=1{\displaystyle \{\alpha _{i}\}_{i=1}^{\infty }}y{βi}i=1{\displaystyle \{\beta _ {i}\}_{i=1}^{\infty }}ser una base ortonormal deH{\displaystyle {\mathcal {H}}}, entonces

{ϕi}i=1={αi}i=1{βi}i=1{\displaystyle \{\phi _{i}\}_{i=1}^{\infty }=\{\alpha _{i}\}_{i=1}^{\infty }\cup \{\beta _{i}\}_{i=1}^{\infty }}

es un marco deH{\displaystyle {\mathcal {H}}}con límitesA=B=2{\displaystyle A=B=2}.

DejarS{\displaystyle S}ser el operador de marco,

SF=iJF,ϕiϕi{\displaystyle Sf=\sum _{i\in J}\langle f,\phi _{i}\rangle \phi _{i}}

Se dice que un marco que no es una base de Riesz , en cuyo caso consiste en un conjunto de funciones más que una base, es sobrecompleto o redundante . [ 5 ] En este caso, dadoFH{\displaystyle f\in {\mathcal {H}}}Puede tener diferentes descomposiciones según el marco. El marco dado en el ejemplo anterior es un marco sobrecompleto.

Cuando se utilizan marcos para la estimación de funciones, puede ser conveniente comparar el rendimiento de diferentes marcos. La parsimonia de las funciones aproximadas mediante diferentes marcos puede considerarse una forma de comparar su rendimiento. [ 6 ]

Dado un margen de toleranciaϵ{\displaystyle \epsilon }y un marcoF={ϕi}iJ{\displaystyle F=\{\phi _{i}\}_{i\in J}}enL2(R){\displaystyle L^{2}(\mathbb {R} )}, para cualquier funciónFL2(R){\displaystyle f\in L^{2}(\mathbb {R} )}, definimos el conjunto de todas las funciones de aproximación que satisfacenFF^<ϵ{\displaystyle \|f-{\sombrero {f}}\|<\epsilon }

norte(F,ϵ)={F^:F^=i=1kβiϕi,FF^<ϵ}{\displaystyle N(f,\epsilon )=\{{\hat {f}}:{\hat {f}}=\sum _{i=1}^{k}\beta _{i}\phi _{i},\|f-{\hat {f}}\|<\epsilon \}}

Entonces deja

kF(F,ϵ)=inf{k:F^norte(F,ϵ)}{\displaystyle k_{F}(f,\epsilon )=\inf\{k:{\hat {f}}\in N(f,\epsilon )\}}

k(F,ϵ){\displaystyle k(f,\epsilon)}indica la parsimonia de utilizar el marcoF{\displaystyle F}para aproximarF{\displaystyle f}. DiferenteF{\displaystyle f}pueden tener diferentesk{\displaystyle k}basado en la dureza a aproximar con elementos en el marco. El peor caso para estimar una función enL2(R){\displaystyle L^{2}(\mathbb {R} )}se define como

kF(ϵ)=sorberFL2(R){kF(F,ϵ)}{\displaystyle k_{F}(\epsilon )=\sup _{f\in L^{2}(\mathbb {R} )}\{k_{F}(f,\epsilon )\}}

Para otro fotogramaGRAMO{\displaystyle G}, sikF(ϵ)<kGRAMO(ϵ){\displaystyle k_{F}(\epsilon )<k_{G}(\epsilon )}, luego marcoF{\displaystyle F}es mejor que el marcoGRAMO{\displaystyle G}en el nivelϵ{\displaystyle \epsilon }. Y si existe unγ{\displaystyle \gamma }que para cadaϵ<γ{\displaystyle \epsilon <\gamma}, tenemoskF(ϵ)<kGRAMO(ϵ){\displaystyle k_{F}(\epsilon )<k_{G}(\epsilon )}, entoncesF{\displaystyle F}es mejor queGRAMO{\displaystyle G}en general.

Los marcos sobrecompletos generalmente se construyen de tres maneras.

  1. Combine un conjunto de bases, como la base de ondículas y la base de Fourier, para obtener un marco sobrecompleto.
  2. Amplíe el rango de parámetros en algún marco, como en el marco de Gabor y el marco de ondículas , para obtener un marco sobrecompleto.
  3. Agregue algunas funciones adicionales a una base completa existente para lograr un marco sobrecompleto.

A continuación se muestra un ejemplo de marco sobrecompleto. Los datos recopilados se encuentran en un espacio bidimensional, y en este caso, una base con dos elementos debería ser suficiente para explicarlos todos. Sin embargo, cuando se incluye ruido en los datos, una base podría no ser capaz de expresar sus propiedades. Si se utiliza un marco sobrecompleto con cuatro elementos, correspondientes a los cuatro ejes de la figura, para representar los datos, cada punto podría tener una buena representación mediante dicho marco.

La flexibilidad del marco sobrecompleto es una de sus principales ventajas cuando se utiliza para expresar una señal o aproximar una función. Sin embargo, debido a esta redundancia, una función puede tener múltiples expresiones bajo un marco sobrecompleto. [ 7 ] Cuando el marco es finito, la descomposición se puede expresar como

F=Aincógnita{\displaystyle f=Ax}

dóndeF{\displaystyle f}es la función que se desea aproximar,A{\displaystyle A}es la matriz que contiene todos los elementos del marco, yincógnita{\displaystyle x}son los coeficientes deF{\displaystyle f}bajo la representación deA{\displaystyle A}. Sin ninguna otra restricción, el marco elegirá darincógnita{\displaystyle x}con norma mínima enL2(R){\displaystyle L^{2}(\mathbb {R} )}. Basándose en esto, también se pueden considerar otras propiedades al resolver la ecuación, como la escasez. Por lo tanto, diferentes investigadores han estado trabajando en la resolución de esta ecuación agregando otras restricciones en la función objetivo. Por ejemplo, una restricción que minimizaincógnita{\displaystyle x}norma de enL1(R){\displaystyle L^{1}(\mathbb {R} )}puede utilizarse para resolver esta ecuación. Esto debería ser equivalente a la regresión Lasso en la comunidad estadística. El enfoque bayesiano también se utiliza para eliminar la redundancia en un marco sobrecompleto. Lweicki y Sejnowski propusieron un algoritmo para el marco sobrecompleto al considerarlo como un modelo probabilístico de los datos observados. [ 7 ] Recientemente, el marco de Gabor sobrecompleto se ha combinado con el método de selección de variables bayesianas para lograr coeficientes de expansión de norma pequeños enL2(R){\displaystyle L^{2}(\mathbb {R} )}y escasez en los elementos. [ 8 ]

Ejemplos de marcos sobrecompletos

En el análisis moderno del procesamiento de señales y otros campos de la ingeniería, se proponen y utilizan diversos marcos sobrecompletos. Aquí se presentan y analizan dos marcos de uso común: los marcos de Gabor y los marcos de ondículas.

Marcos de Gabor

En la transformada de Fourier habitual, la función en el dominio del tiempo se transforma al dominio de la frecuencia. Sin embargo, la transformación solo muestra la propiedad de frecuencia de esta función y pierde su información en el dominio del tiempo. Si una función de ventanagramo{\displaystyle g}, que solo tiene un valor distinto de cero en un pequeño intervalo, se multiplica con la función original antes de operar la transformada de Fourier, tanto la información en el dominio del tiempo como en el dominio de la frecuencia pueden permanecer en el intervalo elegido. Cuando una secuencia de traslación degramo{\displaystyle g}Se utiliza en la transformación, la información de la función en el dominio del tiempo se conserva después de la transformación.

Dejemos que los operadores

Ta:L2(R)L2(R),(TaF)(incógnita)=F(incógnitaa){\displaystyle T_{a}:L^{2}(R)\rightarrow L^{2}(R),(T_{a}f)(x)=f(xa)}
mib:L2(R)L2(R),(mibF)(incógnita)=mi2πibincógnitaF(incógnita){\displaystyle E_{b}:L^{2}(R)\rightarrow L^{2}(R),(E_{b}f)(x)=e^{2\pi ibx}f(x)}
Ddo:L2(R)L2(R),(DdoF)(incógnita)=1doF(incógnitado){\displaystyle D_{c}:L^{2}(R)\rightarrow L^{2}(R),(D_{c}f)(x)={\frac {1}{\sqrt {c}}}f\left({\frac {x}{c}}\right)}

Un marco Gabor (llamado así por Dennis Gabor y también llamado marco Weyl - Heisenberg ) enL2(R){\displaystyle L^{2}(R)}se define como la forma{mimetrobTnorteagramo}metro,norteZ{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}}, dóndea,b>0{\displaystyle a,b>0}ygramoL2(R){\displaystyle g\in L^{2}(R)}es una función fija. [ 5 ] Sin embargo, no para todosa{\displaystyle a}yb{\displaystyle b}{mimetrobTnorteagramo}metro,norteZ{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}} forma un marco enL2(R){\displaystyle L^{2}(R)}. Por ejemplo, cuandoab>1{\displaystyle ab>1}, no es un marco paraL2(R){\displaystyle L^{2}(R)}. Cuandoab=1{\displaystyle ab=1},{mimetrobTnorteagramo}metro,norteZ{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}}es posible que sea un marco, en cuyo caso es una base de Riesz. Por lo tanto, la situación posible para{mimetrobTnorteagramo}metro,norteZ{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}}ser un marco sobrecompleto esab<1{\displaystyle ab<1}La familia Gabor{mimetrob/doTnorteadogramodo}metro,norteZ{\displaystyle \{E_{mb/c}T_{nac}g_{c}\}_{m,n\in Z}}también es un marco y comparte los mismos límites de marco que{mimetrobTnorteagramo}metro,norteZ.{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}.}

Diferentes tipos de funciones de ventanagramo{\displaystyle g}puede utilizarse en el marco de Gabor. Aquí se muestran ejemplos de tres funciones de ventana, y la condición para que el sistema de Gabor correspondiente sea un marco se muestra a continuación.

(1)gramo(incógnita)=miincógnita2{\displaystyle g(x)=e^{-x^{2}}},{mimetrobTnorteagramo}metro,norteZ{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}}es un marco cuando ab<0,994{\displaystyle ab<0.994}

(2)gramo(incógnita)=1doosh(πincógnita){\displaystyle g(x)={\frac {1}{cosh(\pi x)}}},{mimetrobTnorteagramo}metro,norteZ{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}}es un marco cuando ab<1{\displaystyle ab<1}

(3)gramo(incógnita)=I[0,do)(incógnita){\displaystyle g(x)=I_{[0,c)}(x)}, dóndeI(incógnita){\displaystyle I(x)}es la función indicadora. La situación para {mimetrobTnorteagramo}metro,norteZ{\displaystyle \{E_{mb}T_{na}g\}_{m,n\in Z}}Ser un marco se sostiene de la siguiente manera.

1)a>do{\displaystyle a>c}oa>1{\displaystyle a>1}, no un marco

2)do>1{\displaystyle c>1}ya=1{\displaystyle a=1}, no un marco

3)ado1{\displaystyle a\leq c\leq 1}, es un marco

4)a<1{\displaystyle a<1}y es irracional, ydo(1,2){\displaystyle c\in (1,2)}, es un marco

5)a=pagq<1{\displaystyle a={\frac {p}{q}}<1},pag{\displaystyle p}yq{\displaystyle q}son primos relativos,21q<do<2{\displaystyle 2-{\frac {1}{q}}<c<2}, no un marco

6)34<a<1{\displaystyle {\frac {3}{4}}<a<1}ydo=L1+L(1a){\displaystyle c=L-1+L(1-a)}, dóndeL3{\displaystyle L\geq 3}y ser un número natural , no un marco.

7)a<1{\displaystyle a<1},do>1{\displaystyle c>1},|do[do]12|<12a{\displaystyle |c-[c]-{\frac {1}{2}}|<{\frac {1}{2}}-a}, dónde[do]{\displaystyle [c]}es el mayor número entero que no excededo{\displaystyle c}, es un marco.

La discusión anterior es un resumen del capítulo 8 en [ 5 ] .

Marcos wavelet

Una colección de wavelets generalmente se refiere a un conjunto de funciones basadas enψ{\displaystyle \psi }

{2j2ψ(2jincógnitak)}j,kZ{\displaystyle \{2^{\frac {j}{2}}\psi (2^{j}x-k)\}_{j,k\in Z}}

Esto constituye una base ortonormal paraL2(R){\displaystyle L^{2}(R)}. Sin embargo, cuandoj,k{\displaystyle j,k}puede tomar valores en R{\displaystyle R}, el conjunto representa un marco sobrecompleto y se denomina base de ondículas no diezmada. En el caso general, un marco de ondículas se define como un marco paraL2(R){\displaystyle L^{2}(R)}de la forma

{aj2ψ(ajincógnitakb)}j,kZ{\displaystyle \{a^{\frac {j}{2}}\psi (a^{j}x-kb)\}_{j,k\in Z}}

dóndea>1{\displaystyle a>1},b>0{\displaystyle b>0}, yψL2(R){\displaystyle \psi \in L^{2}(R)}. El límite superior e inferior de este marco se puede calcular de la siguiente manera. Seaψ^(γ){\displaystyle {\hat {\psi }}(\gamma )}sea ​​la transformada de Fourier paraψL1(R){\displaystyle \psi \in L^{1}(R)}

ψ^(γ)=Rψ(incógnita)mi2πiincógnitaγdincógnita{\displaystyle {\hat {\psi }}(\gamma )=\int _{R}\psi (x)e^{-2\pi ix\gamma }dx}

Cuandoa,b{\displaystyle a,b}son fijos, definen

GRAMO0(γ)=jZ|ψ^(ajγ)|2{\displaystyle G_{0}(\gamma )=\sum _{j\in Z}|{\hat {\psi }}(a^{j}\gamma )|^{2}}
GRAMO1(γ)=k0jZ|ψ^(ajγ)ψ^(ajγ+kb)|{\displaystyle G_{1}(\gamma )=\sum _{k\neq 0}\sum _{j\in Z}|{\hat {\psi }}(a^{j}\gamma ){\hat {\psi }}(a^{j}\gamma +{\frac {k}{b}})|}

Entonces

B=1bsorber|γ|[1,a](GRAMO0(γ)+GRAMO1(γ))<{\displaystyle B={\frac {1}{b}}\sup _{|\gamma |\in [1,a]}(G_{0}(\gamma )+G_{1}(\gamma ))<\infty }
A=1binf|γ|[1,a](GRAMO0(γ)GRAMO1(γ))>0{\displaystyle A={\frac {1}{b}}\inf _{|\gamma |\in [1,a]}(G_{0}(\gamma )-G_{1}(\gamma ))>0}

Además, cuando

jZ|ψ^(2jγ)|2=A{\displaystyle \sum _{j\in Z}|{\hat {\psi }}(2^{j}\gamma )|^{2}=A}
j=0ψ^(2jγ)ψ^(2j(γ+q))¯=0{\displaystyle \sum _{j=0}^{\infty }{\hat {\psi }}(2^{j}\gamma ){\overline {{\hat {\psi }}(2^{j}(\gamma +q))}}=0}, para todos los números enteros imparesq{\displaystyle q}

el marco generado{ψj,k}j,kZ{\displaystyle \{\psi _{j,k}\}_{j,k\in Z}}es un marco ajustado.

La discusión en esta sección se basa en el capítulo 11 en [ 5 ] .

Aplicaciones

Los marcos de Gabor sobrecompletos y los marcos de ondículas se han utilizado en diversas áreas de investigación, incluyendo detección de señales, representación de imágenes, reconocimiento de objetos, reducción de ruido , teoría del muestreo, teoría de operadores , análisis armónico , aproximación dispersa no lineal , operadores pseudodiferenciales , comunicaciones inalámbricas, geofísica, computación cuántica y bancos de filtros . [ 3 ] [ 5 ]

Referencias

  1. 1 2 R. J. Duffin y AC Schaeffer, Una clase de series de Fourier no armónicas, Transactions of the American Mathematical Society , vol. 72, n.º 2, págs. 341-366, 1952. [En línea]. Disponible en: https://www.jstor.org/stable/1990760
  2. C. Heil, Introducción a la teoría de bases: Edición ampliada. Boston, MA: Birkhauser, 2010.
  3. 1 2 R. Balan, P. Casazza, C. Heil y Z. Landau, Densidad, sobrecompletitud y localización de marcos. I. teoría, Journal of Fourier Analysis and Applications , vol. 12, n.º 2, 2006.
  4. K. Grochenig, Fundamentos del análisis tiempo-frecuencia . Boston, MA: Birkhauser, 2000.
  5. 1 2 3 4 5 O. Christensen, Introducción a los marcos y bases de Riesz. Boston, MA: Birkhauser, 2003.
  6. STA218, Apuntes de clase sobre minería de datos en la Universidad de Duke
  7. 1 2 M. S. Lewicki y TJ Sejnowski, Aprendizaje de representaciones sobrecompletas, Neural Computation, vol. 12, no. 2, pp. 337-365, 2000.
  8. P. Wolfe, S. Godsill y W. Ng, Selección y regularización bayesiana de variables para la estimación de superficies tiempo-frecuencia, JR Statist. Soc. B, vol. 66, n.º 3, 2004.