ADMB

El trabajo realizado por David Fournier en la década de 1970 sobre el desarrollo de modelos estadísticos integrados altamente parametrizados en la pesca impulsó el desarrollo de la biblioteca AUTODIF y, posteriormente, de ADMB. Las ecuaciones de verosimilitud en estos modelos suelen ser no lineales y las estimaciones de los parámetros se obtienen mediante métodos numéricos.

Al inicio del trabajo de Fournier, quedó claro que las soluciones numéricas generales a estos problemas de verosimilitud solo podían obtenerse de forma fiable mediante algoritmos de minimización de funciones que incorporaran información precisa sobre los gradientes de la superficie de verosimilitud. El cálculo de los gradientes (es decir, las derivadas parciales de la verosimilitud con respecto a todas las variables del modelo) también debe realizarse con la misma precisión que el cálculo de la verosimilitud en sí.

Fournier desarrolló un protocolo para escribir código que calculara las derivadas requeridas basándose en la regla de la cadena del cálculo diferencial. Este protocolo es muy similar al conjunto de métodos que se conoció como diferenciación automática en modo inverso . ^{[ 13 ]}

Los modelos estadísticos que utilizan estos métodos ^{[ 14 ] [ 15 ] [ 16 ] [ 17 ]} normalmente incluían ocho segmentos de código constituyentes:

1. la función objetivo;
2. código adjunto para calcular las derivadas parciales de la función objetivo con respecto a los parámetros que se van a estimar;
3. memoria dedicada para contener datos intermedios para cálculos de derivadas, conocida como "pila de gradiente", y el software para gestionarla;
4. un minimizador de funciones;
5. un algoritmo para comprobar que las derivadas son correctas con respecto a las aproximaciones de diferencias finitas;
6. un algoritmo para insertar parámetros del modelo en un vector que puede ser manipulado por el minimizador de la función y el código de la derivada correspondiente;
7. un algoritmo para devolver los valores de los parámetros al cálculo de la verosimilitud y al código de derivada correspondiente; y
8. un algoritmo para calcular las segundas derivadas parciales de la función objetivo con respecto a los parámetros a estimar, la matriz hessiana .

Los desarrolladores de modelos generalmente solo están interesados ​​en el primero de estos componentes. Cualquier herramienta de programación que pueda reducir la complejidad del desarrollo y mantenimiento de los otros siete aumentará considerablemente su productividad.

Bjarne Stroustrup comenzó el desarrollo de C++ en la década de 1970 en los Laboratorios Bell como una mejora del lenguaje de programación C. C++ se extendió ampliamente y, para 1989, ya existían compiladores de C++ para computadoras personales. El polimorfismo de C++ permite concebir un sistema de programación en el que todos los operadores y funciones matemáticas pueden sobrecargarse para calcular automáticamente las contribuciones derivadas de cada operación numérica diferenciable en cualquier programa informático.

Fournier fundó Otter Research Ltd. en 1989, y para 1990 la biblioteca AUTODIF incluía clases especiales para el cálculo de derivadas y las funciones sobrecargadas necesarias para todos los operadores de C++ y todas las funciones de la biblioteca matemática estándar de C++. La biblioteca AUTODIF calcula automáticamente las derivadas de la función objetivo con la misma precisión que la propia función objetivo, liberando así al desarrollador de la ardua tarea de escribir y mantener código de derivadas para modelos estadísticos. Igualmente importante desde el punto de vista del desarrollo de modelos, la biblioteca AUTODIF incluye una "pila de gradiente", un minimizador de funciones cuasi-Newton, un verificador de derivadas y clases contenedoras para vectores y matrices. La primera aplicación de la biblioteca AUTODIF se publicó en 1992 ^{[ 18 ].}

Sin embargo, la biblioteca AUTODIF no libera por completo al desarrollador de la necesidad de escribir todos los componentes del modelo mencionados anteriormente. En 1993, Fournier simplificó aún más la escritura de modelos estadísticos mediante la creación de ADMB, un lenguaje de plantillas especial que simplifica la especificación del modelo al generar las herramientas para transformar los modelos escritos con dichas plantillas en aplicaciones de la biblioteca AUTODIF. ADMB genera código para gestionar el intercambio de parámetros entre el modelo y el minimizador de funciones, calcula automáticamente la matriz hessiana y la invierte para proporcionar una estimación de la covarianza de los parámetros estimados. De este modo, ADMB libera por completo al desarrollador del modelo de la tediosa tarea de gestionar la optimización no lineal, permitiéndole centrarse en los aspectos más interesantes del modelo estadístico.

A mediados de la década de 1990, el ADMB ya era ampliamente aceptado por investigadores que trabajaban en todos los aspectos de la gestión de recursos. Los modelos poblacionales basados ​​en el ADMB se utilizan para monitorear diversas especies, tanto en peligro de extinción como poblaciones de peces de gran valor comercial, incluyendo ballenas, delfines, leones marinos, pingüinos, albatros, abulones, langostas, atunes, marlines, tiburones, rayas, anchoas y abadejos. El ADMB también se ha utilizado para reconstruir los movimientos de muchas especies de animales rastreadas con etiquetas electrónicas.

En 2002, Fournier se asoció con Hans Skaug para introducir efectos aleatorios en ADMB. Este desarrollo incluyó el cálculo automático de segundas y terceras derivadas y el uso de diferenciación automática en modo directo, seguida de dos barridos del modelo AD inverso en ciertos casos.

En 2007, un grupo de usuarios de ADMB, entre los que se encontraban John Sibert, Mark Maunder y Anders Nielsen, se mostraron preocupados por el desarrollo y mantenimiento a largo plazo de ADMB. Se llegó a un acuerdo con Otter Research para vender los derechos de autor de ADMB con el fin de convertirlo en un proyecto de código abierto y distribuirlo gratuitamente. Se creó la Fundación ADMB, una organización sin ánimo de lucro, para coordinar el desarrollo y promover el uso de ADMB. La Fundación ADMB elaboró ​​una propuesta para la Fundación Gordon y Betty Moore solicitando fondos para la compra de ADMB a Otter Research. A finales de 2007, la Fundación Moore otorgó una subvención al Centro Nacional de Análisis y Síntesis Ecológica de la Universidad de California en Santa Bárbara para que los Regentes de dicha universidad pudieran adquirir los derechos de ADMB. La compra se completó a mediados de 2008, y las bibliotecas completas de ADMB se publicaron en el sitio web del Proyecto ADMB en diciembre de ese mismo año. En mayo de 2009, se habían registrado más de 3000 descargas de las bibliotecas. El código fuente se publicó en diciembre de 2009. A mediados de 2010, ADMB era compatible con todos los sistemas operativos comunes (Windows, Linux, MacOS y Sun/SPARC), con todos los compiladores de C++ comunes (GCC, Visual Studio, Borland) y con arquitecturas de 32 y 64 bits.

Durante los dos primeros años del proyecto ADMB, la Fundación ADMB se ha centrado en automatizar la compilación de ADMB para diferentes plataformas, simplificar la instalación y crear entornos de trabajo intuitivos. Entre los desarrollos técnicos previstos se incluyen la paralelización de los cálculos internos, la implementación de MCMC híbrido y la mejora de la matriz dispersa de gran tamaño para su uso en modelos de efectos aleatorios.