Hispanopedia Wiki
Articulo de referencia

Privacidad del asistente virtual

Los asistentes virtuales son tecnologías de software que ayudan a los usuarios a completar diversas tareas. [ 1 ] Entre los asistentes virtuales más conocidos se encuentran Amaz...

Hispanopedia WikiContenido en espanolLectura gratuita

Los asistentes virtuales son tecnologías de software que ayudan a los usuarios a completar diversas tareas. [ 1 ] Entre los asistentes virtuales más conocidos se encuentran Amazon Alexa y Siri , de Apple. Otras empresas, como Google y Microsoft , también cuentan con asistentes virtuales. Existen problemas de privacidad relacionados con la información que se puede compartir con las empresas externas que operan los asistentes virtuales y cómo se pueden utilizar estos datos . [ 2 ]

Debido a que los asistentes virtuales, al igual que los robots u otras inteligencias artificiales, suelen considerarse entidades que brindan apoyo, los consumidores pueden pasar por alto posibles controversias y valorar más su comodidad que su privacidad. Al interactuar con dispositivos, los humanos tienden a sentirse más cercanos a aquellos que realizan funciones humanas, como hacen los asistentes virtuales. [ 3 ] Para brindar a los usuarios tanto comodidad como asistencia, la privacidad desde el diseño y el Botón de Seguridad Virtual (Botón VS) proponen métodos que permiten que ambas sean posibles.

Autenticación de una capa frente a autenticación multicapa

El botón de seguridad virtual, que detectaría el movimiento, se ha propuesto como un método para añadir autenticación multicapa a dispositivos que actualmente solo tienen una capa; los dispositivos con autenticación de una sola capa solo requieren una voz para activarse. Esta voz podría ser de cualquier persona, no necesariamente del ser humano previsto, lo que hace que el método no sea fiable. [ 4 ] La autenticación multicapa requiere múltiples capas de seguridad para autorizar el funcionamiento de un asistente virtual. El botón de seguridad virtual proporcionaría una segunda capa de autenticación para dispositivos como Alexa, que se activaría mediante la combinación de movimiento y voz. [ 4 ]

Un ejemplo específico de problemas relacionados con la falta de verificación necesaria para desbloquear el acceso a los asistentes virtuales y darles órdenes es cuando se deja un Amazon Alexa sin supervisión en una vivienda. [ 4 ] Actualmente, solo existe una capa de autenticación: la voz; no hay ninguna que requiera la presencia del propietario del asistente virtual. Por lo tanto, con una sola barrera para acceder a toda la información a la que tienen acceso los asistentes virtuales, surgen preocupaciones sobre la seguridad de la información intercambiada. Estas preocupaciones sobre la privacidad han impulsado al sector tecnológico a buscar formas de añadir más verificación, como un botón de seguridad virtual. [ 4 ]

Autenticación por voz con Siri

La función "Oye Siri" permite que el iPhone escuche a través del sonido ambiente hasta que detecte la frase ("Oye Siri"). Una vez detectada, Siri se activa para responder. [ 5 ] Para que el usuario de iPhone no esté siempre escuchando, puede desactivar la función "Oye Siri". Sin esta función activada, el dispositivo no estará siempre atento a esas dos palabras y no se escuchará otra información durante el proceso. [ 5 ] Esta autenticación por voz funciona como una capa única, ya que solo se utiliza la voz para autenticar al usuario.

Ejemplos de asistentes virtuales

Amazon Alexa

Este asistente virtual está vinculado al altavoz " Echo " creado por Amazon y es principalmente un dispositivo controlado por voz que puede reproducir música, brindar información al usuario y realizar otras funciones. [ 6 ] Dado que el dispositivo se controla por voz, no hay botones involucrados en su uso. El dispositivo no tiene una medida para determinar si la voz escuchada es realmente la del consumidor. [ 4 ] El Botón de Seguridad Virtual (Botón VS) se ha propuesto como un método potencial para agregar más seguridad a este asistente virtual. [ 4 ]

Beneficios de añadir un botón VS a Alexa

El botón VS utiliza tecnología de redes wifi para detectar movimientos cinemáticos humanos . [ 4 ] El robo en el hogar representa un peligro, ya que la tecnología de cerradura inteligente puede activarse al detectar movimiento. [ 4 ] Por lo tanto, el botón VS, al proporcionar un método de doble verificación antes de permitir el uso de Alexa, reduciría la probabilidad de que ocurran tales escenarios peligrosos. [ 4 ] La introducción del botón de Seguridad Virtual agregaría otro nivel de autenticación, aumentando así la privacidad del dispositivo. [ 4 ]

Siri de Apple

Siri es el asistente virtual de Apple Corporation y se utiliza en el iPhone. Siri recopila la información que los usuarios ingresan y tiene la capacidad de utilizar estos datos. [ 2 ] El ecosistema de la interfaz tecnológica es vital para determinar el grado de privacidad; el ecosistema es donde reside la información. Otra información que puede verse comprometida es la información de ubicación si se utiliza la función GPS del iPhone . [ 7 ] Cualquier información, como la ubicación de una persona, que se comparte en un intercambio con un asistente virtual se almacena en estos ecosistemas. [ 7 ]

Hola Siri

«Oye Siri» permite activar Siri mediante la voz. El dispositivo sigue captando sonidos ambientales hasta que encuentra las palabras «Oye Siri». [ 5 ] Esta función puede ser útil para las personas con discapacidad visual, ya que pueden acceder a las aplicaciones de su teléfono únicamente con su voz. [ 8 ]

Nivel de autenticación de Siri

Siri de Apple también cuenta con un único nivel de autenticación. Si se dispone de un código de acceso, para utilizar diversas funciones, Siri requerirá que se introduzca dicho código. Sin embargo, los consumidores valoran la comodidad, por lo que los códigos de acceso no están presentes en todos los dispositivos. [ 4 ]

Cortana

Cortana, el asistente virtual de Microsoft , es otro asistente virtual activado por voz que solo requiere la voz; por lo tanto, también utiliza únicamente una forma de autenticación. [ 6 ] El dispositivo no utiliza el botón VS descrito anteriormente para tener una segunda forma de autenticación. Los comandos que utiliza el dispositivo tienen que ver principalmente con preguntar el clima, llamar a uno de los contactos del usuario o dar indicaciones. Todos estos comandos requieren información sobre la vida del usuario porque, al responder estas consultas, el dispositivo examina datos, lo que representa un riesgo para la privacidad.

Asistente de Google

Google Assistant, originalmente llamado Google Now , es el asistente virtual más parecido a un humano. [ 6 ] Las similitudes entre los humanos y este asistente virtual provienen del lenguaje natural que utiliza, así como del hecho de que este asistente virtual en particular conoce muy bien las tareas que los humanos desean que complete antes de que el usuario las realice. Este conocimiento previo hace que la interacción sea mucho más natural. Algunas de estas interacciones se denominan específicamente comandos promocionales. [ 6 ]

Asistentes virtuales automatizados en el transporte compartido

Las empresas de transporte compartido como Uber y Lyft utilizan inteligencia artificial para ampliar su alcance comercial. Para crear precios adaptables que varíen según la oferta y la demanda de viajes, estas empresas emplean algoritmos tecnológicos para determinar precios dinámicos o en horas punta. [ 9 ] Además, esta función de inteligencia artificial ayuda a mitigar las preocupaciones sobre la privacidad con respecto al posible intercambio de información confidencial de los usuarios entre empleados de Uber y Lyft. Sin embargo, incluso la inteligencia artificial utilizada puede interactuar entre sí, por lo que estas preocupaciones sobre la privacidad siguen siendo relevantes para las empresas. [ 9 ]

Riesgos potenciales para la privacidad asociados a los asistentes virtuales

Fuente: [ 10 ]

  • El canal de voz de acceso público que utilizan
  • La complejidad de su arquitectura
  • Su dependencia de las funcionalidades de la IA
  • La utilización de diversas tecnologías subyacentes

Accesibilidad de los términos de uso

Los términos de uso que se deben aceptar al adquirir un dispositivo son los que otorgan a empresas como Apple acceso a la información. Estos acuerdos describen las funciones de los dispositivos, la información privada y cualquier otra información que la empresa considere necesaria divulgar. [ 11 ] Incluso para los clientes que leen esta información, a menudo se interpreta de forma vaga e imprecisa. El texto tiene una fuente pequeña y suele considerarse demasiado extenso para el usuario promedio. [ 11 ]

Privacidad desde el diseño

La privacidad desde el diseño hace que la interfaz sea más segura para el usuario. La privacidad desde el diseño se refiere a cuando el diseño de un producto incorpora aspectos de privacidad en la forma en que se crea el objeto o programa. [ 12 ] Incluso los usos de la tecnología que tienen poco que ver con la ubicación tienen la capacidad de rastrear la ubicación de una persona. Por ejemplo, las redes WiFi son un peligro para quienes intentan mantener su ubicación privada. Varias organizaciones están trabajando para que la privacidad desde el diseño esté más regulada para que más empresas la adopten. [ 12 ]

Si un producto no incorpora privacidad desde su diseño, el fabricante podría considerar añadirle mecanismos de privacidad. El objetivo es que se formen organizaciones que garanticen que la privacidad desde el diseño se implemente mediante un estándar; este estándar la haría más fiable y segura que la privacidad por elección. [ 12 ] El estándar debería ser lo suficientemente estricto como para evitar lagunas que vulneren la información, y dichas normas podrían aplicarse a los asistentes virtuales.

Diversas patentes han regulado el requisito de que la tecnología, como la inteligencia artificial, incluya diversos modos de privacidad por naturaleza. Estas propuestas incluyen la Privacidad por Diseño, que se produce cuando los aspectos de privacidad se incorporan al diseño de un dispositivo. [ 13 ] De esta forma, las empresas no tendrán que incorporar la privacidad en sus diseños en el futuro; los diseños se pueden redactar teniendo en cuenta la privacidad. Esto permitiría un método más seguro para garantizar que los algoritmos de privacidad no excluyan ni siquiera los casos extremos. [ 12 ]

Inteligencia artificial

La inteligencia artificial en su conjunto intenta emular las acciones humanas y proporcionar los servicios rutinarios que los humanos realizan, pero con los que no deberían tener que molestarse. [ 14 ] En el proceso de automatización de estas acciones, se forman diversas interfaces tecnológicas.

El problema que debe resolverse tiene que ver con el concepto de que, para procesar información y realizar sus funciones, los asistentes virtuales organizan información. [ 14 ] El uso de esta información y los riesgos de que se vea comprometida son vitales para evaluar tanto en el campo de los asistentes virtuales como en el de la inteligencia artificial en general.

Controversia

Han surgido controversias en torno a las opiniones que pueden tener los asistentes virtuales. A medida que la tecnología ha evolucionado, existe la posibilidad de que los asistentes virtuales adopten posturas polémicas sobre diversos temas, lo que puede generar revuelo. Estas opiniones pueden ser políticas, lo que puede tener un impacto en la sociedad dado el amplio uso de los asistentes virtuales. [ 15 ]

El crowdsourcing también es controvertido; si bien permite la innovación por parte de los usuarios, puede servir como excusa para que las empresas se atribuyan el mérito cuando, en realidad, los clientes han creado una nueva innovación. [ 16 ]

Enfoque del Mago de Oz

Una forma de investigar la interacción humano-robot se denomina enfoque del Mago de Oz. Específicamente, este enfoque busca que un líder humano de un estudio reemplace a un robot mientras el usuario completa una tarea con fines de investigación. [ 17 ] Además de que los humanos evalúan la inteligencia artificial y los robots, se está introduciendo el enfoque del Mago de Oz. Cuando la tecnología se acerca a ser similar a un humano, el enfoque del Mago de Oz afirma que esta tecnología tiene la capacidad de evaluar y mejorar otras tecnologías de inteligencia artificial. Además, el método también sugiere que la tecnología, para ser utilizada, no necesariamente tiene que ser similar a un humano. [ 17 ] Por lo tanto, para ser utilizados, siempre que tengan características útiles, los asistentes virtuales no tienen que centrar toda su innovación en volverse más similares a los humanos.

Referencias

  1. ↑ Sistema y método para plataformas de asistentes virtuales distribuidos (patente) , consultado el 9 de noviembre de 2018.
  2. ^ Sadún , Erica; Sande, Steve (2012). Hablando con Siri . Que Editorial. ISBN 9780789749734.
  3. ↑ Turkle, Sherry. "Una cultura robótica naciente: nuevas complicidades para la compañía" (PDF) . MIT .
  4. 1 2 3 4 5 6 7 8 9 10 11 Lei, Xinyu; Tu, Guan-Hua; Liu, Alex X.; Li, Chi-Yu; Xie, Tian (2017). "La inseguridad de los asistentes de voz digitales domésticos: Amazon Alexa como estudio de caso". arXiv : 1712.03327 .{{cite journal}}: Para citar una revista se requiere |journal=( ayuda )
  5. 1 2 3 Zhang, Guoming; Yan, Chen; Ji, Xiaoyu; Zhang, Tianchen; Zhang, Taimin; Xu, Wenyuan (2017). "DolphinAttack". Actas de la Conferencia ACM SIGSAC de 2017 sobre Seguridad Informática y de Comunicaciones - CCS '17 . págs. 103–117 . arXiv : 1708.09537 . doi : 10.1145/3133956.3134052 . ISBN  9781450349468. S2CID 2419970 . 
  6. 1 2 3 4 López, Gustavo; Quesada, Luis; Guerrero, Luis A. (2018). "Alexa vs. Siri vs. Cortana vs. Google Assistant: Una comparación de interfaces de usuario naturales basadas en voz". Avances en factores humanos e interacción de sistemas . Avances en sistemas inteligentes y computación. Vol. 592. pp. 241–250 . doi : 10.1007/978-3-319-60366-7_23 . hdl : 10669/74729 . ISBN   978-3-319-60365-0.
  7. ^ Andrienko , Gennady; Gkoulalas-Divanis, Aris; Gruteser, Marco; Kopp, Christine; Liebig, Thomas; Rechert, Klaus (2013). "Informe de Dagstuhl" . Revisión de comunicaciones y computación móvil de ACM SIGMOBILE . 17 (2): 7.doi : 10.1145 /2505395.2505398 . S2CID 1357034 . 
  8. ↑ Ye, Hanlu; Malu, Meethu; Oh, Uran; Findlater, Leah (2014). "Uso actual y futuro de dispositivos móviles y portátiles por personas con discapacidad visual". Actas de la 32.ª conferencia anual de la ACM sobre factores humanos en sistemas informáticos - CHI '14 . págs. 3123–3132 . CiteSeerX 10.1.1.453.6994 . doi : 10.1145/2556288.2557085 . ISBN   9781450324731. S2CID 2787361 . 
  9. 1 2 Ballard, Dyllan; Naik, Amar. "ALGORITMOS, INTELIGENCIA ARTIFICIAL Y CONDUCTA CONJUNTA" (PDF) . Competition Policy International .
  10. ↑ Edu, Jide S., Jose M. Such y Guillermo Suarez-Tangil. "Asistentes personales para el hogar inteligente: una revisión de seguridad y privacidad". ACM Computing Surveys (CSUR) 53.6 (2020): 1-36.
  11. 1 2 Stylianou, Konstantinos K. (2010). "Un estudio evolutivo de los términos de privacidad de los servicios de computación en la nube" . John Marshall Journal of Computer & Information Law . 27 (4).
  12. 1 2 3 4 Cavoukian, Ann; Bansal, Nilesh; Koudas, Nick. "Integración de la privacidad en el análisis de ubicación móvil (MLA) mediante la privacidad desde el diseño" (PDF) . Privacidad desde el diseño . FTC. Archivado del original (PDF) el 16 de octubre de 2019. Recuperado el 9 de noviembre de 2018 .
  13. ↑ Asistente virtual personal (patente) , consultado el 30 de octubre de 2018
  14. 1 2 McCorduck, Pamela (2004). Máquinas que piensan : una investigación personal sobre la historia y las perspectivas de la inteligencia artificial ( edición actualizada del 25.º aniversario). Natick, Mass.: AK Peters. ISBN   978-1568812052OCLC 52197627​​ 
  15. ↑ Barberá, Pablo; Jost, John T.; Nagler, Jonathan; Tucker, Joshua A.; Bonneau, Richard (2015). "Tuiteando de izquierda a derecha". Psychological Science . 26 (10): 1531– 1542. doi : 10.1177/0956797615594620 . PMID 26297377. S2CID 4649581 .  
  16. ↑ Budak, Ceren; Goel, Sharad; Rao, Justin M. (2016). "¿Justo y equilibrado? Cuantificando el sesgo de los medios a través del análisis de contenido colaborativo". Public Opinion Quarterly . 80 : 250–271 . doi : 10.1093/poq/nfw007 .
  17. 1 2 Dahlbäck, Nils; Jönsson, Arne; Ahrenberg, Lars (1993). "Estudios del Mago de Oz" . Actas de la 1.ª conferencia internacional sobre interfaces de usuario inteligentes - IUI '93 . Nueva York, NY, EE. UU.: ACM. págs. 193–200 . doi : 10.1145/169891.169968 . ISBN  9780897915564. S2CID 1611353 .