Articulo de referencia

Seguimiento de dedos

Seguimiento de los dedos de dos pianistas tocando la misma pieza (cámara lenta, sin sonido) [ 1 ] En el campo del reconocimiento de gestos y el procesamiento de imágenes , el se...

Seguimiento de los dedos de dos pianistas tocando la misma pieza (cámara lenta, sin sonido) [ 1 ]

En el campo del reconocimiento de gestos y el procesamiento de imágenes , el seguimiento de dedos es una técnica de alta resolución que se emplea para conocer la posición de los dedos de un usuario en el espacio tridimensional . Se desarrolló por primera vez en 1969.

El seguimiento de los dedos se puede utilizar como dispositivo de entrada de un ordenador .

Introducción

El sistema de seguimiento de dedos se centra en la interacción usuario-datos, donde el usuario interactúa con datos virtuales, manipulando con los dedos el volumen de un objeto 3D que se desea representar. Este sistema nació a partir del problema de la interacción persona-ordenador . El objetivo es facilitar la comunicación entre ambos y hacer más intuitivo el uso de gestos y movimientos de la mano. Se han creado sistemas de seguimiento de dedos que rastrean en tiempo real la posición en 3D y 2D de la orientación de los dedos de cada marcador y utilizan los movimientos y gestos intuitivos de la mano para interactuar.

Tipos de seguimiento

Existen muchas opciones para la implementación del seguimiento de dedos, principalmente aquellas que se utilizan con o sin interfaz .

Seguimiento con interfaz

Este sistema utiliza principalmente sistemas de captura de movimiento inerciales y ópticos .

Guantes de captura de movimiento inercial

Los sistemas de captura de movimiento inercial permiten registrar el movimiento de los dedos mediante la lectura de la rotación de cada segmento en el espacio 3D. Al aplicar estas rotaciones a la cadena cinemática , se puede rastrear la mano humana completa en tiempo real, sin oclusión y de forma inalámbrica.

Los sistemas de captura de movimiento inercial de la mano, como por ejemplo los guantes Synertial, utilizan pequeños sensores basados ​​en IMU ubicados en cada dedo. Para una captura precisa se requieren al menos 16 sensores. También existen modelos de guantes con menos sensores (13/7), en los que el resto de los segmentos de los dedos se interpolan (segmentos proximales) o se extrapolan (segmentos distales). Los sensores suelen estar integrados en el guante textil, lo que facilita su uso.

Los sensores inerciales pueden capturar el movimiento en las 3 direcciones, lo que significa que se puede detectar la flexión, la extensión y la abducción de los dedos y el pulgar.

esqueleto de la mano

Dado que los sensores inerciales solo registran rotaciones, estas deben aplicarse a un esqueleto de la mano para obtener una respuesta precisa. Para lograr una respuesta exacta (por ejemplo, poder tocar las yemas de los dedos), el esqueleto de la mano debe escalarse adecuadamente para que coincida con la mano real. Para ello, se puede utilizar la medición manual de la mano o la extracción automática de datos.

Seguimiento de la posición de la mano

Además del seguimiento de los dedos, muchos usuarios requieren el seguimiento de la posición de toda la mano en el espacio. Para ello se pueden utilizar varios métodos:

  • Captura del cuerpo completo mediante un sistema de captura de movimiento inercial (el esqueleto de la mano se une al final de la cadena cinemática del esqueleto corporal). La posición de la palma se determina a partir del cuerpo.
  • Captura de la posición de la palma (antebrazo) mediante un sistema óptico de captura de movimiento.
  • Capturar la posición de la palma (antebrazo) utilizando otro método de seguimiento de posición, ampliamente utilizado en visores de realidad virtual (por ejemplo, HTC Vive Lighthouse).
Desventajas de los sistemas de captura de movimiento inercial

Los sensores inerciales tienen dos desventajas principales relacionadas con el seguimiento de los dedos:

  • Problemas para capturar la posición absoluta de la mano en el espacio.
  • interferencia magnética
  • Los materiales metálicos suelen interferir con los sensores. Este problema se hace evidente principalmente porque las manos están en contacto frecuente con diversos objetos, a menudo metálicos. Las generaciones actuales de guantes de captura de movimiento son resistentes a las interferencias magnéticas. El grado de inmunidad a estas interferencias depende del fabricante, el precio y la cantidad de sensores que incorporan. Cabe destacar que los sensores de estiramiento son condensadores de silicona que no se ven afectados por las interferencias magnéticas.

Sistemas de captura de movimiento óptico

Se realiza un seguimiento de la ubicación de los marcadores y patrones en 3D; el sistema los identifica y etiqueta cada marcador según la posición de los dedos del usuario. Las coordenadas 3D de las etiquetas de estos marcadores se generan en tiempo real con otras aplicaciones.

Marcadores

Algunos sistemas ópticos , como Vicon o ART, son capaces de capturar el movimiento de la mano mediante marcadores. En cada mano, hay un marcador por cada dedo activo. Tres cámaras de alta resolución se encargan de capturar cada marcador y medir su posición. Esto solo se produce cuando la cámara puede detectarlos. Los marcadores visuales, generalmente conocidos como anillos o pulseras, se utilizan para reconocer gestos del usuario en 3D . Además, como indica la clasificación, estos anillos actúan como una interfaz en 2D .

La oclusión como método de interacción

La oclusión visual es un método muy intuitivo para proporcionar una perspectiva más realista de la información virtual en tres dimensiones. Las interfaces ofrecen técnicas de interacción 3D más naturales que las basadas en el sistema 6.

Funcionalidad del marcador

Los marcadores operan a través de puntos de interacción , que generalmente ya están definidos y conocemos las regiones. Por eso, no es necesario seguir cada marcador todo el tiempo; los multipunteros pueden tratarse de la misma manera que cuando solo hay un puntero operativo. Para detectar dichos punteros a través de una interacción, habilitamos sensores infrarrojos de ultrasonido . El hecho de que muchos punteros puedan manejarse como uno solo resolvería problemas. En el caso de que estemos expuestos a operar en condiciones difíciles como mala iluminación , desenfoque por movimiento , malformación del marcador u oclusión.

El sistema permite seguir el objeto, incluso si algunos marcadores no son visibles. Gracias a que se conocen las relaciones espaciales de todos los marcadores, las posiciones de los marcadores no visibles se pueden calcular utilizando los marcadores conocidos. Existen varios métodos para la detección de marcadores, como los métodos de marcadores de borde y de marcadores estimados.

  • La técnica Homer incluye la selección por rayos con manipulación directa: se selecciona un objeto y luego se maneja su posición y orientación como si estuviera conectado directamente a la mano.
  • La técnica de Conner presenta un conjunto de widgets 3D que permiten una interacción indirecta con los objetos virtuales a través de un widget virtual que actúa como intermediario.
Fusión de datos con sistemas de captura de movimiento óptico

Debido a la oclusión de los marcadores durante la captura, el seguimiento de los dedos es la parte más difícil para los sistemas de captura de movimiento óptico (por ejemplo, Vicon, Optitrack o ART).

Los usuarios de sistemas de captura de movimiento ópticos afirman que la mayor parte del trabajo de posprocesamiento se debe generalmente a la captura de los dedos. Dado que los sistemas de captura de movimiento inerciales (si están correctamente calibrados) prácticamente no requieren posprocesamiento, el uso típico para usuarios avanzados de captura de movimiento consiste en fusionar datos de sistemas de captura de movimiento inerciales (dedos) con sistemas de captura de movimiento ópticos (cuerpo + posición en el espacio).

El proceso de fusión de datos de captura de movimiento se basa en la coincidencia de los códigos de tiempo de cada fotograma para las fuentes de datos de los sistemas de captura de movimiento inercial y óptico. De esta forma, cualquier software de terceros (por ejemplo, MotionBuilder, Blender) puede aplicar movimientos de ambas fuentes, independientemente del método de captura de movimiento utilizado.

Seguimiento de dedos mediante sensor de estiramiento

Los sistemas de captura de movimiento con sensores de estiramiento utilizan condensadores de placas paralelas flexibles para detectar diferencias de capacitancia cuando los sensores se estiran, doblan, cortan o se someten a presión. Los sensores de estiramiento suelen ser de silicona, lo que significa que no se ven afectados por interferencias magnéticas, oclusiones o deriva posicional (problemas comunes en sistemas inerciales). Las cualidades de robustez y flexibilidad de estos sensores permiten un seguimiento de dedos de alta fidelidad y se incorporan en los guantes de captura de movimiento fabricados por StretchSense. [ 2 ]

Seguimiento de la mano articulada

El seguimiento de manos articuladas es más sencillo y económico que muchos otros métodos, ya que solo requiere una cámara . Esta simplicidad se traduce en una menor precisión. Proporciona una nueva base para nuevas interacciones en el modelado, el control de la animación y un mayor realismo. Utiliza un guante compuesto por un conjunto de colores asignados según la posición de los dedos. Esta prueba de color se limita al sistema de visión de los ordenadores y, basándose en la función de captura y la posición del color, se conoce la posición de la mano.

Seguimiento sin interfaz

En términos de percepción visual , las piernas y las manos pueden modelarse como mecanismos articulados, sistemas de cuerpos rígidos conectados entre sí mediante articulaciones con uno o más grados de libertad. Este modelo puede aplicarse a una escala reducida para describir el movimiento de la mano y a una escala amplia para describir el movimiento completo del cuerpo. Por ejemplo, un determinado movimiento de los dedos puede reconocerse a partir de sus ángulos habituales y no depende de la posición de la mano con respecto a la cámara.

Muchos sistemas de seguimiento se basan en un modelo enfocado en un problema de estimación de secuencia, donde se da una secuencia de imágenes y un modelo de cambio, estimamos la configuración 3D para cada foto. Todas las configuraciones posibles de la mano están representadas por vectores en un espacio de estados , que codifica la posición de la mano y los ángulos de la articulación del dedo. Cada configuración de la mano genera un conjunto de imágenes a través de la detección de los bordes de la oclusión de la articulación del dedo. La estimación de cada imagen se calcula encontrando el vector de estado que mejor se ajusta a las características medidas. Las articulaciones de los dedos tienen 21 estados adicionales más que el movimiento de cuerpo rígido de las palmas; esto significa que el costo computacional de la estimación aumenta. La técnica consiste en etiquetar cada enlace de la articulación del dedo se modela como un cilindro. Hacemos los ejes en cada articulación y la bisectriz de este eje es la proyección de la articulación. Por lo tanto, usamos 3 DOF, porque solo hay 3 grados de movimiento.

En este caso, es igual que en la tipología anterior , ya que existe una amplia variedad de tesis de implementación sobre este tema. Por lo tanto, los pasos y la técnica de tratamiento difieren según el propósito y las necesidades de la persona que utilizará esta técnica. De todos modos, podemos decir que, de forma muy general y en la mayoría de los sistemas, se deben seguir los siguientes pasos:

  • Sustracción de fondo: la idea es convolucionar todas las imágenes capturadas con un filtro Gauss de 5x5, y luego escalarlas para reducir el ruido de los datos de píxeles.
  • Segmentación: se utiliza una aplicación de máscara binaria para representar con color blanco los píxeles que pertenecen a la mano y aplicar el color negro a la imagen de la piel en primer plano.
  • Extracción de regiones: detección de la mano izquierda y derecha mediante una comparación entre ellas.
  • Extracción de características: ubicación de las yemas de los dedos y detección de picos o valles. Para clasificar el punto (picos o valles), se transforma en vectores 3D, generalmente denominados pseudovectores en el plano xy, y luego se calcula el producto vectorial. Si el signo de la componente z del producto vectorial es positivo, se considera que el punto es un pico; si el resultado es negativo, se trata de un valle.
  • Reconocimiento de gestos de señalar y pellizcar: teniendo en cuenta los puntos de referencia visibles (las yemas de los dedos), se asocia un gesto determinado.
  • Estimación de la postura : procedimiento que consiste en identificar la posición de las manos mediante el uso de algoritmos que calculan las distancias entre posiciones.

Otras técnicas de seguimiento

También es posible realizar un seguimiento activo de los dedos. El Smart Laser Scanner es un sistema de seguimiento de dedos sin marcadores que utiliza un escáner/proyector láser modificado, desarrollado en la Universidad de Tokio entre 2003 y 2004. Es capaz de adquirir coordenadas tridimensionales en tiempo real sin necesidad de ningún procesamiento de imagen (esencialmente, es un escáner de telémetro que, en lugar de escanear continuamente todo el campo de visión, restringe su área de escaneo a una ventana muy estrecha, del tamaño exacto del objetivo). Se ha demostrado el reconocimiento de gestos con este sistema. La frecuencia de muestreo puede ser muy alta (500  Hz), lo que permite adquirir trayectorias suaves sin necesidad de filtrado (como el de Kalman). Asimismo, se están desarrollando individualmente en todo el mundo rastreadores geométricos concisos y compatibles con HSV, basados ​​en cámaras web económicas, que son completamente deterministas, lo que evita alucinaciones y reduce los costos de computación.

Solicitud

El seguimiento de manos se puede utilizar en realidad virtual y realidad aumentada . Su aplicación ha alcanzado el nivel profesional en el modelado 3D . Por ello, estos sistemas rara vez se han utilizado en aplicaciones de consumo debido a su elevado precio y complejidad. En cualquier caso, el objetivo principal es facilitar la ejecución de comandos al ordenador mediante lenguaje natural o gestos interactivos.

Uno de los principales objetivos del seguimiento de dedos es facilitar el uso de las computadoras mediante la interacción por gestos. Esta tecnología ofrece numerosas posibilidades, entre las que destacan la creación de esculturas, edificios y modelos 3D virtuales en tiempo real a través de una computadora.

Véase también

Referencias

  1. Goebl, W.; Palmer, C. (2013). Balasubramaniam, Ramesh (ed.). "Control temporal y eficiencia del movimiento de las manos en la interpretación musical experta" . PLOS ONE . 8 (1) e50901. Bibcode : 2013PLoSO...850901G . doi : 10.1371/journal.pone.0050901 . PMC 3536780. PMID 23300946 .  
  2. "El guante de captura de movimiento líder en el mundo" . StretchSense . Consultado el 24 de noviembre de 2020 .
  • Anderson, D., Yedidia, J., Frankel, J., Marks, J., Agarwala, A., Beardsley, P., Hodgins, J., Leigh, D., Ryall, K., & Sullivan, E. (2000). Interacción tangible + interpretación gráfica: un nuevo enfoque para el modelado 3D . SIGGRAPH. págs.  393-402.
  • Angelidis, A., Cani, M.-P., Wyvill, G., & King, S. (2004). Swirling-Sweepers: modelado de volumen constante . Pacific Graphics. págs.  10-15.
  • Grossman, T., Wigdor, D., & Balakrishnan, R. (2004). Interacción gestual multifinger con pantallas volumétricas 3D . UIST. págs.  61-70.
  • Freeman, W. y Weissman, C. (1995). Control de la televisión mediante gestos con las manos . Taller internacional sobre reconocimiento automático de rostros y gestos. págs.  179-183.
  • Ringel, M., Berg, H., Jin, Y., & Winograd, T. (2001). Barehands: interacción sin implementos con una pantalla montada en la pared . Resúmenes extendidos de CHI. págs.  367-368.
  • Cao, X. y Balakrishnan, R. (2003). VisionWand: técnicas de interacción para pantallas grandes mediante una varita pasiva con seguimiento en 3D . UIST. págs.  173-182.
  • A. Cassinelli, S. Perrin y M. Ishikawa, Escáner láser inteligente para interfaz hombre-máquina 3D , ACM SIGCHI 2005 (CHI '05) Conferencia internacional sobre factores humanos en sistemas informáticos, Portland, OR, EE. UU., 2-7 de abril de 2005, págs.  1138-1139 (2005).
  • http://www.synertial.com/
  • http://www.vicon.com/
  • https://stretchsense.com
  • http://www.dgp.toronto.edu/~ravin/videos/graphite2006_proxy.mov
  • https://web.archive.org/web/20091211043000/http://actuality-medical.com/Home.html
  • http://www.dgp.toronto.edu/
  • http://www.k2.tu-tokyo.ac.jp/perception/SmartLaserTracking/
  • Seguimiento de dedos con o sin marcadores
  • Seguimiento de manos en 3D