Clasificación temporal conexionista

La clasificación temporal conexionista ( CTC ) es una función de pérdida y una representación de salida que se utiliza para entrenar redes neuronales en tareas de etiquetado de secuencias donde la entrada y la salida no están alineadas en el tiempo. Se puede utilizar para tareas como el reconocimiento de escritura a mano en línea ^{[ 1 ]} o el reconocimiento de voz . La CTC se refiere a las salidas y la puntuación, y es independiente de la estructura subyacente de la red neuronal. Se introdujo en 2006 ^{[ 2 ].}

La entrada es una secuencia de observaciones y las salidas son una secuencia de etiquetas, que pueden incluir salidas en blanco. La dificultad del entrenamiento radica en que hay muchas más observaciones que etiquetas. Por ejemplo, en el audio del habla puede haber múltiples segmentos de tiempo que corresponden a un solo fonema. Dado que no conocemos la alineación de la secuencia observada con las etiquetas objetivo, predecimos una distribución de probabilidad en cada paso de tiempo. ^{[ 3 ]} Una red CTC tiene una salida continua (por ejemplo, softmax ), que se ajusta mediante entrenamiento para modelar la probabilidad de una etiqueta. CTC no intenta aprender límites ni tiempos: las secuencias de etiquetas se consideran equivalentes si difieren solo en la alineación, ignorando los espacios en blanco. Las secuencias de etiquetas equivalentes pueden ocurrir de muchas maneras, lo que hace que la puntuación sea una tarea no trivial, pero existe un algoritmo eficiente de avance-retroceso para ello.

Posteriormente, las puntuaciones CTC se pueden utilizar con el algoritmo de retropropagación para actualizar los pesos de la red neuronal.

Entre los enfoques alternativos a una red neuronal ajustada a CTC se incluye un modelo oculto de Markov (HMM).

En 2009, una red LSTM entrenada con Clasificación Temporal Conexionista (CTC) fue la primera RNN en ganar concursos de reconocimiento de patrones al ganar varias competiciones en reconocimiento de escritura a mano conectada . ^{[ 4 ] [ 5 ]}

En 2014, la empresa china Baidu utilizó una RNN bidireccional (no una LSTM) entrenada en la función de pérdida CTC para romper el conjunto de datos de reconocimiento de voz 2S09 Switchboard Hub5'00 ^{[ 6 ]} sin utilizar ningún método tradicional de procesamiento de voz. ^{[ 7 ]}

En 2015, se utilizó en la búsqueda por voz y el dictado de Google en dispositivos Android . ^{[ 8 ]}

CTC se limita a la alineación monótona, lo cual no es un problema para el reconocimiento de voz, pero puede serlo para la traducción de idiomas, ya que las palabras posteriores en un idioma A pueden corresponder a palabras anteriores en el idioma B, dado que el orden de las palabras es diferente para distintos idiomas. ^{[ 3 ]}

• Sección 16.4, "CTC" en Procesamiento del habla y del lenguaje de Jurafsky y Martin , 3.ª edición.
• Hannun, Awni (27 de noviembre de 2017). "Modelado de secuencias con CTC" . Distill . 2 (11): e8. doi : 10.23915/distill.00008 . ISSN 2476-0757 .