Hispanopedia WikiOpenAI Codex es un modelo de inteligencia artificial desarrollado por OpenAI . Analiza el lenguaje natural y genera código como respuesta. Es el motor de GitHub Copilot , una herramienta de autocompletado de programación para IDEs selectos , como Visual Studio Code y Neovim . [1] Codex es un descendiente del modelo GPT-3 de OpenAI , optimizado para su uso en aplicaciones de programación.
OpenAI lanzó una API para Codex en versión beta cerrada . [1] En marzo de 2023, OpenAI cerró el acceso a Codex. [2] Debido a las apelaciones públicas de los investigadores, OpenAI cambió de postura. [3] El modelo Codex aún puede ser utilizado por los investigadores del Programa de Acceso a la Investigación de OpenAI. [4]
Capacidades
Basado en GPT-3, una red neuronal entrenada en texto, Codex fue entrenado adicionalmente en 159 gigabytes de código Python de 54 millones de repositorios de GitHub . [5] [6] Un caso de uso típico de Codex es que un usuario escriba un comentario, como " //compute the moving average of an array for a given window size", y luego use la IA para sugerir un bloque de código que satisfaga esa solicitud de comentario. [7] OpenAI afirmó que Codex puede completar aproximadamente el 37% de las solicitudes y está destinado a hacer que la programación humana sea más rápida en lugar de reemplazarla. Según el blog de OpenAI, Codex se destaca más en "mapear... problemas simples a código existente", lo que describen como "probablemente la parte menos divertida de la programación". [8] [9] Jeremy Howard , cofundador de Fast.ai , afirmó que " Codex es una forma de escribir código sin tener que escribir tanto código", y que "no siempre es correcto, pero está lo suficientemente cerca". [10] Según un artículo escrito por investigadores de OpenAI, cuando Codex intentó cada caso de prueba 100 veces, generó soluciones funcionales para el 70,2 % de las indicaciones. [11]
OpenAI afirma que Codex puede crear código en más de una docena de lenguajes de programación, incluidos Go , JavaScript , Perl , PHP , Ruby , Shell , Swift y TypeScript , aunque es más eficaz en Python. [1] Según VentureBeat , las demostraciones subidas por OpenAI mostraron impresionantes capacidades de resolución de correferencia . Los demostradores pudieron crear un juego de navegador en JavaScript y generar gráficos de ciencia de datos utilizando matplotlib . [9]
Un modelo de lenguaje muy potente llamado OpenAI Codex fue creado expresamente para generar código en respuesta a comandos de lenguaje natural. Es capaz de comprender y producir código en una multitud de áreas porque es compatible con una gran cantidad de lenguajes de programación y bibliotecas. Codex es una herramienta útil para los desarrolladores que desean optimizar sus procesos de codificación porque puede depurar, analizar consultas de lenguaje natural y proporcionar finalizaciones de código. [12]
OpenAI demostró que Codex puede interactuar con servicios y aplicaciones como Mailchimp , Microsoft Word , Spotify y Google Calendar . [9] [13] Según se informa, Microsoft está interesado en explorar [ vago ] las capacidades de Codex. [13]
Asuntos
Las demostraciones de OpenAI mostraron fallas como código ineficiente y peculiaridades puntuales en muestras de código. [9] En una entrevista con The Verge , el director de tecnología de OpenAI, Greg Brockman, dijo que "a veces [Codex] no sabe exactamente qué estás preguntando" y que puede requerir algo de prueba y error. [13] Los investigadores de OpenAI descubrieron que Codex tiene dificultades con indicaciones de varios pasos y de alto nivel [ aclaración necesaria ] , y a menudo falla o produce un comportamiento contraintuitivo. Además, plantearon varios problemas de seguridad, como la confianza excesiva por parte de programadores novatos, sesgos basados en los datos de entrenamiento e impactos de seguridad debido al código vulnerable. [11]
VentureBeat afirmó que debido a que Codex está entrenado con datos públicos, podría ser vulnerable al "envenenamiento de datos" a través de cargas intencionales de código malicioso. [9] Según un estudio realizado por investigadores de la Universidad de Nueva York , aproximadamente el 40% del código generado por GitHub Copilot (que usa Codex) en escenarios relevantes para CWE de alto riesgo incluía fallas u otros defectos de diseño explotables. [14]
Derechos de autor
La Free Software Foundation expresó su preocupación por el hecho de que los fragmentos de código generados por Copilot y Codex podrían violar los derechos de autor , en particular la condición de la GPL que requiere que las obras derivadas se licencien bajo términos equivalentes. [15] Las cuestiones que plantearon incluyen si la capacitación en repositorios públicos cae dentro del uso justo o no, cómo los desarrolladores podrían descubrir el código generado infractor, si los modelos de aprendizaje automático entrenados podrían considerarse código fuente modificable o una compilación de los datos de entrenamiento, y si los modelos de aprendizaje automático podrían estar sujetos a derechos de autor y por quién. [15] [16] Un estudio interno de GitHub encontró que aproximadamente el 0,1% del código generado contenía copias directas de los datos de entrenamiento. En un ejemplo, el modelo generó el código de datos de entrenamiento que implementaba el algoritmo de raíz cuadrada inversa rápida , incluidos comentarios y un aviso de derechos de autor incorrecto . [7]
En respuesta, OpenAI afirmó que “la incertidumbre legal sobre las implicaciones de los derechos de autor en el entrenamiento de sistemas de IA impone costos sustanciales a los desarrolladores de IA y, por lo tanto, debería resolverse de manera autoritaria”. [7]
Los problemas de derechos de autor con Codex se han comparado con el caso judicial Authors Guild, Inc. v. Google, Inc. , en el que los jueces dictaminaron que el uso por parte de Google Books de fragmentos de texto de millones de libros escaneados constituía un uso justo. [7] [17] Sin embargo, el uso de fragmentos de texto de libros proporciona una referencia confiable del propietario de los derechos de autor, a diferencia de los trabajos compilados utilizados para los datos del algoritmo de entrenamiento donde el resultado final se realiza sin dicha referencia.
Referencias
- ^ abc Zaremba, Wojciech (10 de agosto de 2021). «OpenAI Codex». OpenAI . Archivado desde el original el 2023-02-03 . Consultado el 2021-09-03 .
- ^ Kemper, Jonathan (22 de marzo de 2023). «OpenAI elimina su modelo de código Codex y recomienda GPT3.5 en su lugar». THE DECODER . Archivado desde el original el 1 de junio de 2023. Consultado el 29 de marzo de 2023 .
- ^ Logan Kilpatrick [@OfficialLoganK] (22 de marzo de 2023). "Hola Carolyn, seguiremos apoyando el acceso al Codex a través de nuestro Programa de acceso para investigadores. Lamentamos cualquier confusión y esperamos que la investigación vaya bien". ( Tweet ) . Consultado el 8 de abril de 2023 – vía Twitter .
- ^ "Solicitud de acceso para investigadores". openai.com . Archivado desde el original el 2023-10-10 . Consultado el 2023-04-08 .
- ^ Wiggers, Kyle (8 de julio de 2021). «OpenAI advierte que la IA detrás de Copilot de GitHub puede ser susceptible a sesgos». VentureBeat . Archivado desde el original el 2023-02-03 . Consultado el 2021-09-03 .
- ^ Alford, Anthony (31 de agosto de 2021). «OpenAI anuncia un códice de IA para la generación de códigos de parámetros de 12 mil millones». InfoQ . Archivado desde el original el 2022-07-09 . Consultado el 2021-09-03 .
- ^ abcd Anderson, Tim; Quach, Katyanna (6 de julio de 2021). "Surgen problemas con el codificador automático de GitHub Copilot, desde secretos aparentemente revelados hasta código erróneo, pero a algunos les encanta". The Register . Archivado desde el original el 2023-06-02 . Consultado el 2021-09-04 .
- ^ Dorrier, Jason (15 de agosto de 2021). «El Codex de OpenAI traduce el lenguaje cotidiano en código informático». SingularityHub . Archivado desde el original el 26 de mayo de 2023. Consultado el 3 de septiembre de 2021 .
- ^ abcde Dickson, Ben (16 de agosto de 2021). «Qué esperar de la API Codex de OpenAI». VentureBeat . Archivado desde el original el 2023-02-03 . Consultado el 2021-09-03 .
- ^ Metz, Cade (9 de septiembre de 2021). «La IA ahora puede escribir su propio código informático. Son buenas noticias para los humanos». The New York Times . Archivado desde el original el 30 de marzo de 2022. Consultado el 16 de septiembre de 2021 .
- ^ ab Chen, Mark; Tworek, Jerry; Jun, Heewoo; Yuan, Qiming; Pinto, Henrique Ponde de Oliveira; Kaplan, Jared; Edwards, Harri; Burda, Yuri; Joseph, Nicholas; Brockman, Greg; Ray, Alex (14 de julio de 2021). "Evaluación de modelos de lenguaje grandes entrenados en código". arXiv : 2107.03374 [cs].
- ^ "Los mejores generadores de disparos a la cabeza con IA" . Consultado el 12 de marzo de 2024 .
- ^ abc Vincent, James (10 de agosto de 2021). «OpenAI puede traducir el inglés a código con su nuevo software de aprendizaje automático Codex». The Verge . Archivado desde el original el 2021-09-02 . Consultado el 2021-09-03 .
- ^ Pearce, Hammond; Ahmad, Baleegh; Tan, Benjamin; Dolan-Gavitt, Brendan; Karri, Ramesh (16 de diciembre de 2021). "¿Dormido frente al teclado? Evaluación de la seguridad de las contribuciones de código de GitHub Copilot". arXiv : 2108.09293 [cs.CR].
- ^ ab Krill, Paul (2 de agosto de 2021). "GitHub Copilot es 'inaceptable e injusto', dice la Free Software Foundation". InfoWorld . Archivado desde el original el 2021-09-03 . Consultado el 2021-09-03 .
- ^ Robertson, Donald (28 de julio de 2021). «Convocatoria financiada por la FSF para la presentación de documentos técnicos sobre cuestiones filosóficas y legales en torno a Copilot: envíen sus trabajos antes del lunes 23 de agosto de 2021». Free Software Foundation . Archivado desde el original el 11 de agosto de 2021. Consultado el 4 de septiembre de 2021 .
- ^ Barber, Gregory (12 de julio de 2021). «La herramienta de inteligencia artificial comercial de GitHub se creó a partir de código fuente abierto». WIRED . Archivado desde el original el 25 de julio de 2021. Consultado el 4 de septiembre de 2021 .
