PauseAI

PauseAI es un movimiento político global fundado en los Países Bajos con el objetivo declarado de lograr la coordinación global para detener el desarrollo de sistemas de inteligencia artificial general más potentes , al menos hasta que se sepa cómo construirlos de forma segura y mantenerlos bajo control democrático. ^{[ 1 ]} El movimiento fue establecido en Utrecht en mayo de 2023 por el empresario de software Joep Meindertsma. ^{[ 2 ] [ 3 ] [ 4 ]}

El objetivo declarado de PauseAI es "implementar una pausa temporal en el entrenamiento de los sistemas de IA generales más potentes". Su sitio web enumera algunos pasos propuestos para lograr este objetivo: ^{[ 1 ]}

• Crear una agencia internacional de seguridad de la IA, similar al OIEA .
• Solo se permitirá el entrenamiento de sistemas de IA generales si se puede garantizar su seguridad.
• Solo se permitirá la implementación de modelos una vez que no presenten capacidades peligrosas.

Durante finales de la década de 2010 y principios de la de 2020, se produjo una rápida mejora en las capacidades de los modelos de inteligencia artificial, conocida como el auge de la IA , que incluyó el lanzamiento del modelo de lenguaje a gran escala GPT-3 , su sucesor más potente, GPT-4 , y los modelos de generación de imágenes Midjourney y DALL-E . Esto generó una mayor preocupación por los riesgos de la IA avanzada, lo que llevó al Future of Life Institute a publicar una carta abierta en la que solicitaba que "todos los laboratorios de IA suspendieran inmediatamente, durante al menos seis meses, el entrenamiento de sistemas de IA más potentes que GPT-4". La carta fue firmada por miles de investigadores de IA y directores ejecutivos de la industria, como Yoshua Bengio , Stuart Russell y Elon Musk . ^{[ 5 ] [ 6 ] [ 7 ]}

El fundador Joep Meindertsma se preocupó por primera vez por el riesgo existencial de la inteligencia artificial tras leer el libro de 2014 del filósofo Nick Bostrom , Superinteligencia: Caminos, Peligros, Estrategias . Fundó PauseAI en mayo de 2023, dejando temporalmente su trabajo como director ejecutivo de una empresa de software. Meindertsma afirmó que el ritmo de progreso en la investigación sobre alineación de IA está por detrás del progreso en las capacidades de la IA, y dijo que "existe la posibilidad de que nos enfrentemos a la extinción en un corto período de tiempo". Por ello, sintió la necesidad de organizar a la gente para que actuara. ^{[ 3 ] [ 8 ] [ 4 ]}

La primera acción pública de PauseAI fue protestar frente a la oficina de cabildeo de Microsoft en Bruselas en mayo de 2023 durante un evento sobre inteligencia artificial. ^{[ 4 ]} En noviembre del mismo año, protestaron frente a la Cumbre inaugural de Seguridad de la IA en Bletchley Park . ^{[ 9 ]} La Declaración de Bletchley que se firmó en la cumbre, que reconocía el potencial de riesgos catastróficos derivados de la IA, fue percibida por Meindertsma como un pequeño primer paso. Pero, argumentó que se necesitan "tratados internacionales vinculantes". Mencionó el Protocolo de Montreal y los tratados que prohíben las armas láser cegadoras como ejemplos de acuerdos globales exitosos anteriores. ^{[ 3 ]}

En febrero de 2024, miembros de PauseAI se reunieron frente a la sede de OpenAI en San Francisco , en parte debido a que OpenAI cambió su política de uso que prohibía el uso de sus modelos con fines militares. ^{[ 10 ]}

El 13 de mayo de 2024, se llevaron a cabo protestas en trece países antes de la Cumbre de IA de Seúl , incluyendo Estados Unidos, Reino Unido, Brasil, Alemania, Australia y Noruega. Meindertserma afirmó que quienes asistían a la cumbre "deben darse cuenta de que son los únicos que tienen el poder de detener esta carrera". Los manifestantes en San Francisco portaban pancartas con los lemas "Ante la duda, detente" y "Renuncia a tu trabajo en OpenAI. Confía en tu conciencia". ^{[ 11 ] [ 12 ] [ 3 ] [ 13 ]}

• Regulación de la inteligencia artificial
• Suspender los experimentos gigantescos de IA: una carta abierta

• Sitio web oficial