Hispanopedia Wiki
Articulo de referencia

GPTZero

GPTZero es un software de detección de inteligencia artificial desarrollado para identificar texto generado artificialmente, como los producidos por grandes modelos de lenguaje ...

Hispanopedia WikiContenido en espanolLectura gratuita

GPTZero es un software de detección de inteligencia artificial desarrollado para identificar texto generado artificialmente, como los producidos por grandes modelos de lenguaje . [3] [4] [5] [6]

Si bien GPTZero fue elogiado por sus esfuerzos para prevenir la deshonestidad académica, muchos medios de comunicación criticaron la tasa de falsos positivos de la herramienta , que puede ser especialmente dañina en entornos académicos. [7]

Historia

GPTZero fue desarrollado por Edward Tian, ​​un estudiante de pregrado de la Universidad de Princeton , y se lanzó en línea en enero de 2023 en respuesta a las preocupaciones sobre el uso generado por IA en el plagio académico . [8] [2] GPTZero dijo en mayo de 2023 que recaudó más de 3,5 millones de dólares en financiación inicial . [9] [10]

En la primera semana de su lanzamiento, GPTZero tuvo 30.000 usos, lo que provocó una caída. La empresa de aplicaciones web Streamlit le dio soporte y, como respuesta, le asignó más recursos del servidor. [11] En julio de 2024, tenía 4 millones de usuarios, en comparación con el millón del año anterior. [12]

En el verano de 2024, GPTZero recaudó 10 millones de dólares en financiación de la ronda Serie A. [13]

En septiembre de 2024, GPTZero anunció un software de seguimiento de autoría que permite "compilar y compartir datos sobre el proceso de escritura, como su historial de copiar y pegar, la cantidad de editores que tuvieron y el tiempo que llevó la edición", en un esfuerzo por "alejarse de un paradigma de todo o nada en torno a la escritura con IA hacia uno más matizado". [13]

Mecanismo

GPTZero utiliza cualidades que denomina perplejidad y ráfaga para intentar determinar si un pasaje fue escrito por una IA. [14] Según la empresa, la perplejidad es cuán aleatorio es el texto en la oración y si la forma en que está construida la oración es inusual o "sorprendente" para la aplicación. Se basa en modelos de lenguaje y, cuantos más modelos haya, mayor será la probabilidad de que una persona no haya escrito el texto. [15] Por el contrario, la ráfaga compara oraciones entre sí, determinando su similitud. El texto humano es más discontinuo, lo que significa que los humanos tienden a escribir con más variación de oraciones que la IA . [2]

Casos de uso

La comunidad académica ha intentado utilizar GPTZero para abordar las preocupaciones sobre el plagio de contenido generado por IA . [16] [15] [14] Las instituciones educativas, incluida la Universidad de Princeton , han discutido el uso de GPTZero para combatir el contenido generado por IA en entornos académicos, con opiniones encontradas. [2] [17] En octubre de 2023, GPTZero se asoció con la Federación Estadounidense de Maestros . [18]

Para 2024, Tian informó que GPTZero también "recibió mucha adopción entre los gerentes de contratación, con el reclutamiento [y] el análisis de cartas de presentación". [13]

Eficacia

En un artículo de marzo de 2023 titulado "¿Se puede detectar de forma fiable el texto generado por IA?", [19] los científicos informáticos Vinu Sankar Sadasivan, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang y Soheil Feizi de la Universidad de Maryland demuestran empírica y teóricamente que varios detectores de texto generados por IA no son fiables en escenarios prácticos. [20] [21]

El sitio web tecnológico Futurism probó la herramienta y dijo que si bien los "resultados son impresionantes", en función de su tasa de error, los profesores que confían en la herramienta terminarían "acusando falsamente a casi el 20 por ciento de [estudiantes inocentes] de mala conducta académica". [22]

El Washington Post señaló en agosto de 2023 que GPTZero sufre de falsos positivos, enfatizando que "incluso una pequeña tasa de error de 'falso positivo' significa que algunos estudiantes podrían ser acusados ​​​​erróneamente [de mala conducta académica]". [7]

El sitio web de noticias Ars Technica comentó que los humanos aún pueden escribir oraciones de una manera muy regular, lo que lleva a falsos positivos. El escritor, Benj Edwards, continuó afirmando que el puntaje de perplejidad solo se ocupa de lo que es "sorprendente" para la IA, lo que lleva a casos en los que textos muy comunes, como la Constitución de los EE. UU. , se etiquetan como probablemente generados por la IA. [23]

Véase también

Referencias

  1. ^ ab "Conozca al inventor del detector ChatGPT nacido en Etobicoke". Toronto Life . 16 de febrero de 2023. Archivado desde el original el 24 de abril de 2024.
  2. ^ abcd "El software GPTZERO de Edward Tian tiene como objetivo detectar el plagio generado por inteligencia artificial". The Daily Princetonian .
  3. ^ "GPTZERO: una nueva herramienta para detectar contenido generado por IA en ChatGPT". The Washington Post .
  4. ^ "Cómo las aplicaciones como GPTZero detectan contenido escrito por IA" CNBC . 24 de julio de 2023 . Consultado el 21 de septiembre de 2023 .
  5. ^ "La aplicación GPTZero busca frustrar el plagio de inteligencia artificial en las escuelas y los medios en línea". Bloomberg.com . 8 de mayo de 2023 . Consultado el 21 de octubre de 2023 .
  6. ^ "La Federación Estadounidense de Maestros se asocia con la plataforma de identificación de IA, GPTZero". CBS News . 17 de octubre de 2023 . Consultado el 21 de octubre de 2023 .
  7. ^ ab Fowler, Geoffrey (14 de agosto de 2023). «Qué hacer cuando te acusan de hacer trampa con una IA». The Washington Post . Consultado el 20 de octubre de 2023 .
  8. ^ "Cómo un estudiante universitario de 23 años creó una de las principales herramientas de detección de inteligencia artificial". Business Insider . Consultado el 21 de septiembre de 2023 .
  9. ^ "Esta herramienta de detección de inteligencia artificial recaudó 3,5 millones de dólares para buscar en Internet trabajos generados por ordenador". Fast Company . 2023.
  10. ^ Shrivastava, Rashi. "Con la financiación inicial asegurada, la herramienta de detección de IA GPTZero lanza un nuevo complemento para navegador". Forbes . Consultado el 17 de mayo de 2023 .
  11. ^ "GPTZERO: un nuevo detector de inteligencia artificial que busca combatir el plagio de ChatGPT". NPR . 9 de enero de 2023.
  12. ^ "Detectores de IA acusan falsamente a estudiantes de hacer trampa, con grandes consecuencias". Bloomberg.com . 18 de octubre de 2024 . Consultado el 19 de octubre de 2024 .
  13. ^ abc https://www.inc.com/brian-contreras/como-puedes-detectar-texto-generado-por-ai-esta-startup-tiene-algunas-ideas-convincentes.html
  14. ^ ab "¿Qué es GPTZERO? Explicación de la herramienta de detección de ChatGPT". Tech Learning . 27 de enero de 2023.
  15. ^ ab "Detector de IA para educadores: ¿Qué es GPTZERO?". Revista Jumpstart . 2 de marzo de 2023.
  16. ^ Tribune.com.pk (22 de febrero de 2023). "GPTZero: una herramienta de detección de ChatGPT". The Express Tribune .
  17. ^ "GPTZero ayuda a los profesores a gestionar los ensayos de los estudiantes generados por ChatGPT". The Indian Express . 12 de enero de 2023 . Consultado el 21 de septiembre de 2023 .
  18. ^ "El sindicato de docentes de Estados Unidos prohíbe ChatGPT e implementa GPTZero para detectar trampas". MobileAppAaily . Consultado el 21 de octubre de 2023 .
  19. ^ Vinu Sankar Sadasivan; Kumar, Aounon; Balasubramanian, Sriram; Wang, Wenxiao; Feizi, Soheil (17 de marzo de 2023). "¿Se puede detectar de forma fiable el texto generado por IA?". arXiv : 2303.11156 [cs.CL].
  20. ^ Knibbs, Kate. "Investigadores probaron marcas de agua de IA y las rompieron todas". Wired . ISSN  1059-1028 . Consultado el 21 de octubre de 2023 .
  21. ^ "No hay una forma fiable de detectar el texto generado por IA, suspiran los científicos". The Register . 21 de marzo de 2023 . Consultado el 25 de septiembre de 2023 .
  22. ^ "Hay un problema con esa aplicación que detecta texto escrito en GPT: no es muy precisa". Futurismo . 9 de enero de 2023 . Consultado el 21 de octubre de 2023 .
  23. ^ Edwards, Benj (14 de julio de 2023). «Por qué los detectores de IA creen que la Constitución de Estados Unidos fue escrita por IA». Ars Technica . Consultado el 14 de diciembre de 2023 .
  • Cassidy, Caitlin (11 de enero de 2023). "Estudiante universitario afirma que la aplicación puede detectar ensayos escritos por el chatbot ChatGPT". The Guardian .
Retrieved from "https://en.wikipedia.org/w/index.php?title=GPTZero&oldid=1260929085"