Instituto del Futuro de la Vida

FLI fue fundada en marzo de 2014 ^{[ 4 ]} por el cosmólogo del MIT Max Tegmark , el cofundador de Skype Jaan Tallinn , la científica investigadora de DeepMind Viktoriya Krakovna, la investigadora postdoctoral de la Universidad de Tufts Meia Chita-Tegmark y el físico de la UCSC Anthony Aguirre .

Desde 2017, FLI otorga anualmente el premio "Futuro de la Vida", cuyo primer galardonado fue Vasili Arkhipov . Ese mismo año, FLI estrenó Slaughterbots , un cortometraje que promueve el control de armas. FLI lanzó una secuela en 2021 y otra en 2025. ^{[ 5 ]}

En 2018, FLI redactó una carta en la que solicitaba "leyes contra las armas autónomas letales". Entre los firmantes figuraban Elon Musk , Demis Hassabis , Shane Legg y Mustafa Suleyman . ^{[ 6 ]}

En enero de 2023, la revista sueca Expo informó que el FLI había ofrecido una subvención de 100.000 dólares a una fundación creada por Nya Dagbladet , un periódico en línea sueco de extrema derecha . ^{[ 7 ] [ 8 ]} En respuesta, Tegmark dijo que el instituto solo se había enterado de Nya Dagbladetlas posiciones de durante los procesos de debida diligencia unos meses después de que se ofreció inicialmente la subvención, y que la subvención había sido revocada inmediatamente. ^{[ 8 ]}

En marzo de 2023, FLI publicó una carta titulada " Pausar los experimentos gigantes de IA: una carta abierta ". En ella, instaba a los principales desarrolladores de IA a acordar una pausa verificable de seis meses en cualquier sistema "más potente que GPT-4 " y a utilizar ese tiempo para establecer un marco que garantizara la seguridad; o, en su defecto, que los gobiernos intervinieran con una moratoria. La carta decía: "En los últimos meses, los laboratorios de IA se han visto inmersos en una carrera descontrolada para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puede comprender, predecir ni controlar de forma fiable". ^{[ 9 ]} La carta hacía referencia a la posibilidad de "un cambio profundo en la historia de la vida en la Tierra", así como a los riesgos potenciales de propaganda generada por IA, pérdida de empleos, obsolescencia humana y pérdida de control en toda la sociedad. ^{[ 10 ] [ 11 ]}

Entre los firmantes destacados de la carta se encontraban Elon Musk , Steve Wozniak , Evan Sharp , Chris Larsen y Gary Marcus ; los directores ejecutivos de laboratorios de IA Connor Leahy y Emad Mostaque ; el político Andrew Yang ; el investigador de aprendizaje profundo Yoshua Bengio ; y Yuval Noah Harari . ^{[ 12 ]} Marcus declaró que "la carta no es perfecta, pero el espíritu es correcto". Mostaque declaró: "No creo que una pausa de seis meses sea la mejor idea ni estoy de acuerdo con todo, pero hay algunas cosas interesantes en esa carta". Por el contrario, Bengio respaldó explícitamente la pausa de seis meses en una conferencia de prensa. ^{[ 13 ] [ 14 ]} Musk predijo que "los principales desarrolladores de AGI no prestarán atención a esta advertencia, pero al menos se dijo". ^{[ 15 ]} Algunos firmantes, incluido Musk, dijeron que estaban motivados por temores de riesgo existencial por la inteligencia artificial general . ^{[ 16 ]} Algunos de los otros firmantes, como Marcus, dijeron en cambio que firmaron por preocupación sobre riesgos como la propaganda generada por IA. ^{[ 17 ]}

Los autores de uno de los artículos citados en la carta de FLI, « Sobre los peligros de los loros estocásticos: ¿Pueden los modelos de lenguaje ser demasiado grandes? » ^{[ 18 ]} , entre ellos Emily M. Bender , Timnit Gebru y Margaret Mitchell , criticaron la carta. ^{[ 19 ]} Mitchell afirmó que «al dar por ciertas muchas ideas cuestionables, la carta impone un conjunto de prioridades y una narrativa sobre la IA que beneficia a los partidarios de FLI. Ignorar los daños actuales es un privilegio que algunos de nosotros no tenemos». ^{[ 19 ]}

En octubre de 2025, se publicó otra carta, la "Declaración sobre la superinteligencia". ^{[ 20 ]} En ella se solicitaba la prohibición del desarrollo de la superinteligencia, que no se levantaría hasta que existiera un "amplio consenso científico de que se realizaría de forma segura y controlable" y una "fuerte aceptación pública". El presidente de FLI, Anthony Aguirre, explicó que "el tiempo se acaba", anticipando que la tecnología podría llegar en tan solo uno o dos años y confiando en una "conciencia generalizada entre la sociedad en todos sus niveles" para detenerla. Añadió que "ya sea pronto o tarde un tiempo, después de desarrollar la superinteligencia, las máquinas estarán al mando" y "ese no es un experimento hacia el que queramos precipitarnos". ^{[ 21 ]}

La lista de firmantes incluía a los premios Nobel ^{[ 21 ]} Geoffrey Hinton , Daron Acemoglu , Beatrice Fihn , Frank Wilczek y John C. Mather, así como al también "padrino" de la IA moderna, Yoshua Bengio , ^{[ 22 ]} Steve Wozniak , Steve Bannon , Paolo Benanti , el príncipe Harry, duque de Sussex y Meghan, duquesa de Sussex . La carta también fue firmada por los actores Joseph Gordon-Levitt y Stephen Fry , el rapero Will.i.am y el autor Yuval Noah Harari . La exasesora de seguridad nacional Susan Rice y el miembro del personal técnico de OpenAI , Leo Gao, también firmaron la carta. ^{[ 21 ]}

Una encuesta publicada junto con la carta mostró que el 64% de los estadounidenses estaba de acuerdo en que la superinteligencia "no debería desarrollarse hasta que sea demostrablemente segura y controlable" y solo el 5% creía que debería desarrollarse lo más rápido posible. ^{[ 21 ]}

En marzo de 2026, FLI organizó la Declaración Pro-Humana de la IA, que solicita una declaración multipartidista que aboga por que la IA sirva a la humanidad en lugar de reemplazarla. La declaración describió cinco principios que abarcan el control humano de los sistemas de IA: ^{[ 23 ] [ 24 ]}

1. Mantener a los humanos al mando
2. Evitar la concentración de potencia
3. Proteger la experiencia humana
4. Capacidad de acción humana y libertad
5. Responsabilidad y rendición de cuentas para las empresas de IA

Entre los partidarios figuraban la exasesora de Seguridad Nacional de EE. UU. , Susan Rice ; el defensor de los consumidores , Ralph Nader ; los comentaristas conservadores Steve Bannon y Glenn Beck ; y el laureado con el Premio Turing, Yoshua Bengio . La declaración exigía medidas como la prohibición del desarrollo de superinteligencia hasta que se demostrara su seguridad, pruebas de seguridad obligatorias previas al despliegue para los sistemas de IA destinados al consumidor y responsabilidad penal para los ejecutivos responsables de daños catastróficos o prohibidos causados ​​por la IA. ^{[ 25 ] [ 26 ]}

FLI ha contribuido activamente a la formulación de políticas sobre IA. En octubre de 2023, por ejemplo, el líder de la mayoría del Senado de los Estados Unidos, Chuck Schumer, invitó a FLI a compartir su perspectiva sobre la regulación de la IA con senadores seleccionados. ^{[ 27 ]} En marzo de 2026, el gobernador de Florida, Ron DeSantis, ordenó a las agencias estatales que se asociaran con FLI para producir un plan de estudios de capacitación para consejeros de crisis y un formulario estatal de denuncia de daños relacionados con la IA dirigido a aplicaciones complementarias de IA peligrosas. ^{[ 28 ]}

En Europa, FLI abogó con éxito por la inclusión de sistemas de IA más generales, como GPT-4 , en la Ley de Inteligencia Artificial de la UE . ^{[ 29 ]}

En política militar, el FLI coordinó el apoyo de la comunidad científica al Tratado sobre la Prohibición de las Armas Nucleares . ^{[ 30 ]} En la ONU y en otros lugares, el instituto también ha abogado por un tratado sobre armas autónomas . ^{[ 31 ] [ 32 ]}

El programa de investigación de FLI comenzó en 2015 con una donación inicial de $10 millones de Elon Musk. ^{[ 33 ] [ 34 ] [ 35 ]} En esta ronda inicial, se otorgó un total de $7 millones a 37 proyectos de investigación. ^{[ 36 ]} En julio de 2021, FLI anunció que lanzaría un nuevo programa de subvenciones de $25 millones con financiamiento del programador ruso-canadiense Vitalik Buterin . ^{[ 37 ]}

En 2014, el Future of Life Institute celebró su evento inaugural en el MIT : una mesa redonda sobre "El futuro de la tecnología: beneficios y riesgos", moderada por Alan Alda . ^{[ 38 ] [ 39 ]} Los panelistas fueron el biólogo sintético George Church , el genetista Ting Wu , el economista Andrew McAfee , el físico y premio Nobel Frank Wilczek y el cofundador de Skype , Jaan Tallinn . ^{[ 40 ] [ 41 ]}

Desde 2015, FLI ha organizado conferencias bianuales con el propósito declarado de reunir a investigadores de IA de la academia y la industria. A partir de abril de 2023 Se han celebrado las siguientes conferencias:

• Conferencia «El futuro de la IA: oportunidades y desafíos» en Puerto Rico (2015). El objetivo declarado era identificar líneas de investigación prometedoras que pudieran ayudar a maximizar los beneficios futuros de la IA. ^{[ 42 ]} En la conferencia, FLI distribuyó una carta abierta sobre la seguridad de la IA que posteriormente fue firmada por Stephen Hawking , Elon Musk y muchos investigadores de inteligencia artificial. ^{[ 43 ]}
• La conferencia Beneficial AI en Asilomar, California (2017), ^{[ 44 ]} una reunión privada de lo que The New York Times llamó "figuras destacadas de la IA" (incluidos Yann LeCun , Elon Musk y Nick Bostrom ). ^{[ 45 ]} El instituto publicó un conjunto de principios para el desarrollo responsable de la IA que surgieron de la discusión en la conferencia, firmados por Yoshua Bengio , Yann LeCun y muchos otros investigadores de IA. ^{[ 46 ]} Estos principios pueden haber influido en la regulación de la inteligencia artificial y en iniciativas posteriores, como los Principios de la OCDE sobre Inteligencia Artificial. ^{[ 47 ]}
• La conferencia beneficiosa sobre IAG en Puerto Rico (2019). ^{[ 48 ]} El objetivo declarado de la reunión fue responder preguntas a largo plazo con el fin de asegurar que la inteligencia artificial general sea beneficiosa para la humanidad. ^{[ 49 ]}
• Una conferencia en Nueva Orleans , Luisiana (2026), reunió a tecnólogos, especialistas en ética, legisladores y líderes religiosos para debatir sobre cómo equilibrar el desarrollo de la IA con la seguridad y «qué significa mantener el futuro humano» en la era de la IA avanzada. Las reuniones tuvieron como objetivo definir las metas de un movimiento pro-humano, orientando el desarrollo de la IA hacia el beneficio de la vida en lugar de su reemplazo. ^{[ 50 ]}