Filtro adaptativo de núcleo

En el procesamiento de señales , un filtro adaptativo de núcleo es un tipo de filtro adaptativo no lineal. ^{[ 1 ]} Un filtro adaptativo es aquel que ajusta su función de transferencia a los cambios en las propiedades de la señal a lo largo del tiempo, minimizando una función de error o pérdida que caracteriza la desviación del filtro respecto al comportamiento ideal. El proceso de adaptación se basa en el aprendizaje a partir de una secuencia de muestras de señal y, por lo tanto, es un algoritmo en línea . Un filtro adaptativo no lineal es aquel cuya función de transferencia es no lineal.

Los filtros adaptativos de núcleo implementan una función de transferencia no lineal mediante métodos de núcleo . ^{[ 1 ]} En estos métodos, la señal se mapea a un espacio de características lineal de alta dimensión y una función no lineal se aproxima como una suma sobre núcleos, cuyo dominio es el espacio de características. Si esto se realiza en un espacio de Hilbert de núcleo reproductor , un método de núcleo puede ser un aproximador universal para una función no lineal. Los métodos de núcleo tienen la ventaja de tener funciones de pérdida convexas, sin mínimos locales, y de ser solo moderadamente complejos de implementar.

Dado que el espacio de características de alta dimensión es lineal, los filtros adaptativos de núcleo pueden considerarse una generalización de los filtros adaptativos lineales. Al igual que con los filtros adaptativos lineales, existen dos enfoques generales para adaptar un filtro: el filtro de mínimos cuadrados medios (LMS) ^{[ 2 ]} y el filtro recursivo de mínimos cuadrados (RLS) ^{[ 3 ] .}

Los filtros adaptativos de núcleo autoorganizado que utilizan iteración para lograr la minimización del error LMS convexo abordan algunos de los problemas estadísticos y prácticos de los modelos no lineales que no surgen en el caso lineal. ^{[ 4 ]} La regularización es una característica particularmente importante para los modelos no lineales y también se usa a menudo en filtros adaptativos lineales para reducir las incertidumbres estadísticas. Sin embargo, debido a que los filtros no lineales suelen tener una complejidad estructural potencial mucho mayor (o un espacio de características de mayor dimensión) en comparación con el subespacio realmente requerido, algún tipo de regularización debe abordar el modelo subdeterminado. Aunque algunas formas específicas de regularización de parámetros, como las prescritas por SRM y SVM de Vapink , abordan el problema de la dimensionalidad estadísticamente hasta cierto punto, aún quedan más problemas estadísticos y prácticos para los filtros no lineales verdaderamente adaptativos. Los filtros adaptativos se utilizan a menudo para rastrear el comportamiento de un sistema o sistemas que varían en el tiempo que no se pueden modelar completamente a partir de los datos y la estructura disponibles, por lo que los modelos pueden necesitar no solo adaptar parámetros, sino también estructura.

Cuando los parámetros estructurales de los núcleos se derivan directamente de los datos que se procesan (como en el enfoque de "Máquinas de Vectores de Soporte" mencionado anteriormente), existen oportunidades convenientes para métodos analíticamente robustos de autoorganización de los núcleos disponibles para el filtro. El espacio de características linealizado inducido por los núcleos permite la proyección lineal de nuevas muestras sobre la estructura actual del modelo, donde la novedad en los nuevos datos se puede diferenciar fácilmente de los errores generados por el ruido, que no deberían resultar en un cambio en la estructura del modelo. Las métricas analíticas para el análisis de la estructura se pueden utilizar para aumentar la complejidad del modelo de manera parsimoniosa cuando sea necesario o podar de forma óptima la estructura existente cuando se alcanzan los límites de los recursos del procesador. Las actualizaciones de la estructura también son relevantes cuando se detecta variación del sistema y se debe actualizar la memoria a largo plazo del modelo, como en el caso del filtro de Kalman en filtros lineales.

El descenso de gradiente iterativo, que se utiliza habitualmente en filtros adaptativos, también ha ganado popularidad en el aprendizaje automático basado en máquinas de vectores de soporte en modo por lotes sin conexión debido a su eficiencia computacional para el procesamiento de grandes conjuntos de datos. Se ha informado ^{[ 5 ]} que el rendimiento del procesamiento de datos, tanto de series temporales como por lotes, puede manejar fácilmente más de 100 000 ejemplos de entrenamiento utilizando tan solo 10 kB de RAM. Estos tamaños de datos suponen un reto para las formulaciones originales de las máquinas de vectores de soporte y otros métodos de kernel, que, por ejemplo, se basaban en la optimización con restricciones mediante técnicas de programación lineal o cuadrática.