Cuantización (procesamiento de señales)

Un convertidor analógico-digital (ADC) puede modelarse como dos procesos: muestreo y cuantización. El muestreo convierte una señal de voltaje variable en el tiempo en una señal discreta , una secuencia de números reales. La cuantización reemplaza cada número real con una aproximación a partir de un conjunto finito de valores discretos. Generalmente, estos valores discretos se representan como palabras de punto fijo. Si bien es posible cualquier número de niveles de cuantización, las longitudes de palabra comunes son 8 bits (256 niveles), 16 bits (65 536 niveles) y 24 bits (16,8  millones de niveles). La cuantización de una secuencia de números produce una secuencia de errores de cuantización, que a veces se modela como una señal aleatoria aditiva llamada ruido de cuantización debido a su comportamiento estocástico . Cuantos más niveles utilice un cuantizador, menor será su potencia de ruido de cuantización.

La cuantización optimizada en términos de tasa y distorsión se utiliza en la codificación de fuentes para algoritmos de compresión de datos con pérdidas, donde el objetivo es gestionar la distorsión dentro de los límites de la tasa de bits que admite un canal de comunicación o un medio de almacenamiento. El análisis de la cuantización en este contexto implica estudiar la cantidad de datos (normalmente medida en dígitos, bits o tasa de bits ) que se utiliza para representar la salida del cuantizador y estudiar la pérdida de precisión que introduce el proceso de cuantización (lo que se denomina distorsión ).

La mayoría de los cuantificadores uniformes para datos de entrada con signo se pueden clasificar en dos tipos: de nivel medio y de nivel medio de peldaño . La terminología se basa en lo que sucede en la región alrededor del valor 0 y utiliza la analogía de ver la función de entrada-salida del cuantificador como una escalera . Los cuantificadores de nivel medio de peldaño tienen un nivel de reconstrucción de valor cero (que corresponde a un peldaño de una escalera), mientras que los cuantificadores de nivel medio tienen un umbral de clasificación de valor cero (que corresponde a una contrahuella de una escalera). ^{[ 9 ]}

La cuantización en el centro de la banda de rodadura implica redondeo. Las fórmulas para la cuantización uniforme en el centro de la banda de rodadura se proporcionan en la sección anterior.

${\displaystyle Q(x)=\Delta \cdot \left\lfloor {\frac {x}{\Delta }}+{\frac {1}{2}}\right\rfloor }$,

La cuantización de media onda implica truncamiento. La fórmula de entrada-salida para un cuantizador uniforme de media onda viene dada por:

${\displaystyle Q(x)=\Delta \cdot \left(\left\lfloor {\frac {x}{\Delta }}\right\rfloor +{\frac {1}{2}}\right)}$,

donde la regla de clasificación viene dada por

${\displaystyle k=\left\lfloor {\frac {x}{\Delta }}\right\rfloor }$

y la regla de reconstrucción es

${\displaystyle y_{k}=\Delta \cdot \left(k+{\tfrac {1}{2}}\right)}$.

Cabe destacar que los cuantificadores uniformes de nivel medio no tienen un valor de salida cero; su magnitud mínima de salida es la mitad del tamaño del paso. En cambio, los cuantificadores de nivel medio sí tienen un nivel de salida cero. Para algunas aplicaciones, contar con una representación de señal de salida cero puede ser indispensable.

En general, un cuantificador de elevación media o de pisada media puede no ser un cuantificador uniforme ; es decir, el tamaño de los intervalos de clasificación del cuantificador puede no ser el mismo, o el espaciado entre sus posibles valores de salida puede no ser el mismo. La característica distintiva de un cuantificador de elevación media es que tiene un valor umbral de clasificación exactamente cero, y la característica distintiva de un cuantificador de pisada media es que tiene un valor de reconstrucción exactamente cero. ^{[ 9 ]}

Un cuantificador de zona muerta es un tipo de cuantificador de paso medio con comportamiento simétrico alrededor de 0. La región alrededor del valor de salida cero de dicho cuantificador se denomina zona muerta o banda muerta . La zona muerta a veces puede cumplir la misma función que una puerta de ruido o una función de silenciamiento . Especialmente para aplicaciones de compresión, se le puede dar a la zona muerta un ancho diferente al de los otros pasos. Para un cuantificador uniforme, el ancho de la zona muerta se puede establecer en cualquier valor.${\displaystyle w}$mediante el uso de la regla de cuantización hacia adelante ^{[ 10 ] [ 11 ] [ 12 ]}

${\displaystyle k=\operatorname {sgn}(x)\cdot \max \left(0,\left\lfloor {\frac {\left|x\right|-w/2}{\Delta }}+1\right\rfloor \right)}$,

donde la función${\displaystyle \operatorname {sgn} }$(  ) es la función signo (también conocida como función signo ). La regla general de reconstrucción para dicho cuantificador de zona muerta viene dada por

${\displaystyle y_{k}=\operatorname {sgn}(k)\cdot \left({\frac {w}{2}}+\Delta \cdot (|k|-1+r_{k})\right)}$,

dónde${\displaystyle r_{k}}$es un valor de desplazamiento de reconstrucción en el rango de 0 a 1 como fracción del tamaño del paso. Normalmente,${\displaystyle 0\leq r_{k}\leq {\tfrac {1}{2}}}$al cuantificar los datos de entrada con una función de densidad de probabilidad (FDP) típica que es simétrica alrededor de cero y alcanza su valor máximo en cero (como una FDP gaussiana , laplaciana o gaussiana generalizada ). Aunque${\displaystyle r_{k}}$puede depender de${\displaystyle k}$En general, y puede elegirse para cumplir la condición de optimalidad descrita a continuación, a menudo simplemente se establece en una constante, como por ejemplo:${\displaystyle {\tfrac {1}{2}}}$. (Tenga en cuenta que en esta definición,${\displaystyle y_{0}=0}$debido a la definición de la${\displaystyle \operatorname {sgn} }$(  ) función, por lo tanto${\displaystyle r_{0}}$no tiene ningún efecto.)

Un caso especial muy comúnmente utilizado (por ejemplo, el esquema que se usa típicamente en contabilidad financiera y matemáticas elementales) es establecer${\displaystyle w=\Delta }$y${\displaystyle r_{k}={\tfrac {1}{2}}}$a pesar de${\displaystyle k}$En este caso, el cuantificador de zona muerta también es un cuantificador uniforme, ya que la zona muerta central de este cuantificador tiene el mismo ancho que todos sus demás pasos, y todos sus valores de reconstrucción también están igualmente espaciados.

Una suposición común para el análisis del error de cuantización es que afecta a un sistema de procesamiento de señales de manera similar al ruido blanco aditivo , con una correlación insignificante con la señal y una densidad espectral de potencia aproximadamente plana . ^{[ 2 ] [ 6 ] [ 13 ] [ 14 ]} El modelo de ruido aditivo se utiliza comúnmente para el análisis de los efectos del error de cuantización en sistemas de filtrado digital, y puede ser muy útil en dicho análisis. Se ha demostrado que es un modelo válido en casos de cuantización de alta resolución (pequeño${\displaystyle \Delta }$en relación con la intensidad de la señal) con PDF suaves. ^{[ 2 ] [ 15 ]}

El comportamiento del ruido aditivo no siempre es una suposición válida. El error de cuantificación (para cuantificadores definidos como se describe aquí) está relacionado determinísticamente con la señal y no es completamente independiente de ella. Por lo tanto, las señales periódicas pueden crear ruido de cuantificación periódico. Y en algunos casos, incluso puede causar la aparición de ciclos límite en los sistemas de procesamiento de señales digitales. Una forma de asegurar la independencia efectiva del error de cuantificación con respecto a la señal fuente es realizar una cuantificación con tramado (a veces con conformación de ruido ), que implica agregar ruido aleatorio (o pseudoaleatorio ) a la señal antes de la cuantificación. ^{[ 6 ] [ 14 ]}

En el caso típico, la señal original es mucho mayor que un bit menos significativo (LSB). Cuando esto ocurre, el error de cuantificación no está significativamente correlacionado con la señal y tiene una distribución aproximadamente uniforme . Cuando se utiliza el redondeo para cuantificar, el error de cuantificación tiene una media de cero y el valor cuadrático medio (RMS) es la desviación estándar de esta distribución, dada por${\displaystyle \scriptstyle {\frac {1}{\sqrt {12}}}\mathrm {LSB} \ \approx \ 0.289\,\mathrm {LSB} }$Cuando se utiliza el truncamiento, el error tiene una media distinta de cero.${\displaystyle \scriptstyle {\frac {1}{2}}\mathrm {LSB} }$y el valor RMS es${\displaystyle \scriptstyle {\frac {1}{\sqrt {3}}}\mathrm {LSB} }$Aunque el redondeo produce un error RMS menor que el truncamiento, la diferencia se debe únicamente al término estático (DC) de${\displaystyle \scriptstyle {\frac {1}{2}}\mathrm {LSB} }$Los valores RMS del error de CA son exactamente los mismos en ambos casos, por lo que no hay ninguna ventaja especial en redondear sobre truncar en situaciones donde se puede ignorar el término de CC del error (como en sistemas acoplados en CA). En cualquier caso, la desviación estándar, como porcentaje del rango de señal completo, cambia en un factor de 2 por cada cambio de 1 bit en el número de bits de cuantificación. Por lo tanto, la relación potencial de potencia señal-ruido de cuantificación cambia en 4, o${\displaystyle \scriptstyle 10\cdot \log _{10}(4)}$, aproximadamente 6  dB por bit.

A amplitudes bajas, el error de cuantización depende de la señal de entrada, lo que produce distorsión. Esta distorsión se genera después del filtro anti-aliasing, y si supera la mitad de la frecuencia de muestreo, se producirá un aliasing en la banda de interés. Para que el error de cuantización sea independiente de la señal de entrada, se aplica un tramado a la señal añadiéndole ruido. Esto reduce ligeramente la relación señal-ruido, pero puede eliminar por completo la distorsión.

El ruido de cuantización es un modelo del error de cuantización introducido por la cuantización en el convertidor analógico-digital (ADC). Se trata de un error de redondeo entre la tensión de entrada analógica del ADC y el valor digitalizado de salida. Este ruido es no lineal y depende de la señal. Puede modelarse de diversas maneras.

En un ADC ideal, donde el error de cuantificación se distribuye uniformemente entre −1/2 LSB y +1/2 LSB, y la señal tiene una distribución uniforme que cubre todos los niveles de cuantificación, la relación señal-ruido de cuantificación (SQNR) se puede calcular a partir de

${\displaystyle \mathrm {SQNR} =20\log _{10}(2^{Q})\approx 6.02\cdot Q\ \mathrm {dB} \,\!}$

donde Q es el número de bits de cuantización.

Las señales de prueba más comunes que cumplen con este requisito son las ondas triangulares de amplitud completa y las ondas de diente de sierra .

Por ejemplo, un convertidor analógico-digital (ADC) de 16 bits tiene una relación señal/ruido de cuantificación máxima de 6,02 × 16 = 96,3  dB.

Cuando la señal de entrada es una onda sinusoidal de amplitud completa, la distribución de la señal ya no es uniforme y la ecuación correspondiente es en su lugar

${\displaystyle \mathrm {SQNR} \approx 1.761+6.02\cdot Q\ \mathrm {dB} \,\!}$

Aquí, se asume nuevamente que el ruido de cuantización se distribuye uniformemente. Esto se cumple cuando la señal de entrada tiene una amplitud alta y un amplio espectro de frecuencias. ^{[ 16 ]} En este caso, un convertidor analógico-digital (ADC) de 16 bits tiene una relación señal-ruido máxima de 98,09  dB. La diferencia de 1,761 en la relación señal-ruido se produce únicamente porque la señal es una onda sinusoidal de escala completa en lugar de una onda triangular o de diente de sierra.

Para señales complejas en convertidores analógico-digitales (ADC) de alta resolución, este modelo es preciso. Para ADC de baja resolución, señales de bajo nivel en ADC de alta resolución y formas de onda simples, el ruido de cuantificación no se distribuye uniformemente, lo que hace que este modelo sea impreciso. ^{[ 17 ]} En estos casos, la distribución del ruido de cuantificación se ve fuertemente afectada por la amplitud exacta de la señal.

Los cálculos se realizan en relación con la señal de entrada a escala completa. Para señales más pequeñas, la distorsión de cuantización relativa puede ser muy grande. Para evitar este problema, se puede utilizar la compresión analógica, pero esto puede introducir distorsión.

A menudo, el diseño de un cuantificador implica admitir solo un rango limitado de posibles valores de salida y realizar un recorte para limitar la salida a este rango cuando la entrada excede el rango admitido. El error introducido por este recorte se denomina distorsión por sobrecarga . Dentro de los límites extremos del rango admitido, la cantidad de espaciado entre los valores de salida seleccionables de un cuantificador se denomina su granularidad , y el error introducido por este espaciado se denomina distorsión granular . Es común que el diseño de un cuantificador implique determinar el equilibrio adecuado entre la distorsión granular y la distorsión por sobrecarga. Para un número dado de posibles valores de salida admitidos, reducir la distorsión granular promedio puede implicar aumentar la distorsión por sobrecarga promedio, y viceversa. Una técnica para controlar la amplitud de la señal (o, equivalentemente, el tamaño del paso de cuantificación)${\displaystyle \Delta }$Para lograr el equilibrio adecuado se utiliza el control automático de ganancia (AGC). Sin embargo, en algunos diseños de cuantificadores, los conceptos de error granular y error de sobrecarga pueden no aplicarse (por ejemplo, para un cuantificador con un rango limitado de datos de entrada o con un conjunto infinito numerable de valores de salida seleccionables). ^{[ 6 ]}

Un cuantificador escalar, que realiza una operación de cuantificación, normalmente se puede descomponer en dos etapas:

Clasificación

Un proceso que clasifica el rango de la señal de entrada en${\displaystyle M}$intervalos que no se superponen${\displaystyle \{I_{k}\}_{k=1}^{M}}$, definiendo${\displaystyle M-1}$valores límite de decisión${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$, de tal manera que${\displaystyle I_{k}=[b_{k-1}~,~b_{k})}$para${\displaystyle k=1,2,\ldots ,M}$, con los límites extremos definidos por${\displaystyle b_{0}=-\infty }$y${\displaystyle b_{M}=\infty }$. Todas las entradas${\displaystyle x}$que se encuentran dentro de un rango de intervalo determinado${\displaystyle I_{k}}$están asociados con el mismo índice de cuantificación${\displaystyle k}$.

Reconstrucción

Cada intervalo${\displaystyle I_{k}}$está representado por un valor de reconstrucción${\displaystyle y_{k}}$que implementa el mapeo${\displaystyle x\in I_{k}\Rightarrow y=y_{k}}$.

Estas dos etapas juntas comprenden la operación matemática de${\displaystyle y=Q(x)}$.

Las técnicas de codificación de entropía se pueden aplicar para comunicar los índices de cuantificación desde un codificador de origen que realiza la etapa de clasificación a un decodificador que realiza la etapa de reconstrucción. Una forma de hacerlo es asociar cada índice de cuantificación.${\displaystyle k}$con una palabra clave binaria${\displaystyle c_{k}}$. Una consideración importante es el número de bits utilizados para cada palabra clave, denotado aquí por${\displaystyle \mathrm {length} (c_{k})}$. Como resultado, el diseño de un${\displaystyle M}$El cuantificador de nivel y un conjunto asociado de palabras clave para comunicar sus valores de índice requiere encontrar los valores de${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$,${\displaystyle \{c_{k}\}_{k=1}^{M}}$y${\displaystyle \{y_{k}\}_{k=1}^{M}}$que satisfacen de forma óptima un conjunto seleccionado de restricciones de diseño, como la tasa de bits.${\displaystyle R}$y distorsión${\displaystyle D}$.

Suponiendo que una fuente de información${\displaystyle S}$produce variables aleatorias${\displaystyle X}$con un PDF asociado${\displaystyle f(x)}$, la probabilidad${\displaystyle p_{k}}$que la variable aleatoria se encuentre dentro de un intervalo de cuantificación particular${\displaystyle I_{k}}$está dado por:

${\displaystyle p_{k}=P[x\in I_{k}]=\int _{b_{k-1}}^{b_{k}}f(x)dx}$.

La tasa de bits resultante${\displaystyle R}$, en unidades de bits promedio por valor cuantificado, para este cuantificador se puede derivar de la siguiente manera:

${\displaystyle R=\sum _{k=1}^{M}p_{k}\cdot \mathrm {length} (c_{k})=\sum _{k=1}^{M}\mathrm {length} (c_{k})\int _{b_{k-1}}^{b_{k}}f(x)dx}$.

Si se supone que la distorsión se mide mediante el error cuadrático medio, ^{[ a ]} ​​la distorsión D , viene dada por:

${\displaystyle D=E[(x-Q(x))^{2}]=\int _{-\infty }^{\infty }(x-Q(x))^{2}f(x)dx=\sum _{k=1}^{M}\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx}$.

Una observación clave es que la tasa${\displaystyle R}$depende de los límites de decisión${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$y las longitudes de las palabras clave${\displaystyle \{\mathrm {length} (c_{k})\}_{k=1}^{M}}$, mientras que la distorsión${\displaystyle D}$depende de los límites de decisión${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$y los niveles de reconstrucción${\displaystyle \{y_{k}\}_{k=1}^{M}}$.

Después de definir estas dos métricas de rendimiento para el cuantificador, una formulación típica de tasa-distorsión para un problema de diseño de cuantificador se puede expresar de dos maneras:

1. Dada una restricción de distorsión máxima${\displaystyle D\leq D_{\max }}$minimizar la tasa de bits${\displaystyle R}$
2. Dada una restricción de tasa de bits máxima${\displaystyle R\leq R_{\max }}$minimizar la distorsión${\displaystyle D}$

A menudo, la solución a estos problemas puede expresarse y resolverse de forma equivalente (o aproximada) convirtiendo la formulación en un problema sin restricciones.${\displaystyle \min \left\{D+\lambda \cdot R\right\}}$donde el multiplicador de Lagrange${\displaystyle \lambda }$es una constante no negativa que establece el equilibrio adecuado entre tasa y distorsión. Resolver el problema sin restricciones es equivalente a encontrar un punto en la envoltura convexa de la familia de soluciones a una formulación restringida equivalente del problema. Sin embargo, encontrar una solución, especialmente una solución de forma cerrada , para cualquiera de estas tres formulaciones del problema puede ser difícil. Se han publicado soluciones que no requieren técnicas de optimización iterativa multidimensional para solo tres PDF: la uniforme, ^{[ 18 ]} la exponencial , ^{[ 12 ]} y la laplaciana ^{[ 12 ]} . Los enfoques de optimización iterativa se pueden utilizar para encontrar soluciones en otros casos. ^{[ 6 ] [ 19 ] [ 20 ]}

Tenga en cuenta que los valores de reconstrucción${\displaystyle \{y_{k}\}_{k=1}^{M}}$afectan solo la distorsión, no afectan la tasa de bits, y que cada individuo${\displaystyle y_{k}}$hace una contribución por separado${\displaystyle d_{k}}$a la distorsión total como se muestra a continuación:

${\displaystyle D=\sum _{k=1}^{M}d_{k}}$

dónde

${\displaystyle d_{k}=\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx}$

Esta observación puede utilizarse para facilitar el análisis, dado el conjunto de${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$valores, el valor de cada uno${\displaystyle y_{k}}$puede optimizarse por separado para minimizar su contribución a la distorsión${\displaystyle D}$.

Para el criterio de distorsión del error cuadrático medio, se puede demostrar fácilmente que el conjunto óptimo de valores de reconstrucción${\displaystyle \{y_{k}^{*}\}_{k=1}^{M}}$se obtiene estableciendo el valor de reconstrucción${\displaystyle y_{k}}$dentro de cada intervalo${\displaystyle I_{k}}$al valor esperado condicional (también denominado centroide ) dentro del intervalo, según lo dado por:

${\displaystyle y_{k}^{*}={\frac {1}{p_{k}}}\int _{b_{k-1}}^{b_{k}}xf(x)dx}$.

El uso de técnicas de codificación de entropía suficientemente bien diseñadas puede dar como resultado el uso de una tasa de bits cercana al contenido de información real de los índices.${\displaystyle \{k\}_{k=1}^{M}}$, de tal manera que efectivamente

${\displaystyle \mathrm {length} (c_{k})\approx -\log _{2}\left(p_{k}\right)}$

y por lo tanto

${\displaystyle R=\sum _{k=1}^{M}-p_{k}\cdot \log _{2}\left(p_{k}\right)}$.

El uso de esta aproximación permite separar el problema del diseño de la codificación de entropía del diseño del cuantificador en sí. Las técnicas modernas de codificación de entropía, como la codificación aritmética, pueden alcanzar tasas de bits muy cercanas a la entropía real de una fuente, dado un conjunto de probabilidades conocidas (o estimadas adaptativamente).${\displaystyle \{p_{k}\}_{k=1}^{M}}$.

En algunos diseños, en lugar de optimizar para un número particular de regiones de clasificación${\displaystyle M}$, el problema de diseño del cuantificador puede incluir la optimización del valor de${\displaystyle M}$Asimismo. Para algunos modelos de fuentes probabilísticas, el mejor rendimiento puede lograrse cuando${\displaystyle M}$se acerca al infinito.

En la formulación anterior, si se ignora la restricción de la tasa de bits estableciendo${\displaystyle \lambda }$igual a 0, o equivalentemente si se supone que se utilizará un código de longitud fija (FLC) para representar los datos cuantificados en lugar de un código de longitud variable (o alguna otra tecnología de codificación de entropía, como la codificación aritmética, que sea mejor que un FLC en el sentido de tasa-distorsión), el problema de optimización se reduce a la minimización de la distorsión.${\displaystyle D}$solo.

Los índices producidos por un${\displaystyle M}$El cuantificador de nivel se puede codificar utilizando un código de longitud fija.${\displaystyle R=\lceil \log _{2}M\rceil }$bits/símbolo. Por ejemplo, cuando${\displaystyle M=}$256 niveles, la tasa de bits FLC${\displaystyle R}$es de 8 bits/símbolo. Por esta razón, a veces se le llama cuantificador de 8 bits. Sin embargo, el uso de un FLC elimina la mejora de compresión que se puede obtener mediante una mejor codificación de entropía.

Suponiendo un FLC con${\displaystyle M}$niveles, el problema de minimización de la tasa-distorsión se puede reducir a la minimización de la distorsión únicamente. El problema reducido se puede plantear de la siguiente manera: dada una fuente${\displaystyle X}$con PDF${\displaystyle f(x)}$y la restricción de que el cuantificador debe usar solo${\displaystyle M}$regiones de clasificación, encontrar los límites de decisión${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$y niveles de reconstrucción${\displaystyle \{y_{k}\}_{k=1}^{M}}$para minimizar la distorsión resultante

${\displaystyle D=E[(x-Q(x))^{2}]=\int _{-\infty }^{\infty }(x-Q(x))^{2}f(x)dx=\sum _{k=1}^{M}\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx=\sum _{k=1}^{M}d_{k}}$.

Encontrar una solución óptima al problema anterior da como resultado un cuantificador a veces llamado solución MMSQE (error de cuantificación cuadrático medio mínimo), y el cuantificador optimizado por PDF (no uniforme) resultante se denomina cuantificador de Lloyd-Max , llamado así por dos personas que desarrollaron independientemente métodos iterativos ^{[ 6 ] [ 21 ] [ 22 ]} para resolver los dos conjuntos de ecuaciones simultáneas resultantes de${\displaystyle {\partial D/\partial b_{k}}=0}$y