Los principios matemáticos del refuerzo ( PMR ) constituyen un conjunto de ecuaciones matemáticas establecidas por Peter Killeen y sus colegas que intentan describir y predecir los aspectos más fundamentales del comportamiento (Killeen y Sitomer, 2003).
Los tres principios clave de la MPR (activación, restricción y acoplamiento) describen cómo los incentivos motivan la respuesta, cómo el tiempo la limita y cómo los reforzadores se asocian con respuestas específicas, respectivamente. Se proporcionan modelos matemáticos para estos principios básicos con el fin de articular los detalles necesarios de los datos reales.
Primer principio: la excitación
El primer principio básico del condicionamiento de respuesta múltiple (CRM) es la activación . La activación se refiere a la respuesta conductual mediante la presentación de incentivos . Un aumento en el nivel de actividad tras la presentación repetida de incentivos es un aspecto fundamental del condicionamiento . Killeen, Hanson y Osborne (1978) propusieron que las conductas complementarias (o inducidas por el programa) forman parte del repertorio habitual de un organismo. La administración de incentivos incrementa la frecuencia de las conductas complementarias al generar un mayor nivel de actividad general, o activación, en los organismos.
Killeen y Hanson (1978) expusieron palomas a una única presentación diaria de alimento en la cámara experimental y midieron la actividad general durante 15 minutos después de la alimentación. Demostraron que el nivel de actividad aumentaba ligeramente inmediatamente después de la alimentación y luego disminuía lentamente con el tiempo. La tasa de disminución se puede describir mediante la siguiente función:
- b 1 = intersección con el eje y (respuestas por minuto)
- t = tiempo en segundos desde la alimentación
- = constante de tiempo
- e = base del logaritmo natural
La evolución temporal de todo el modelo teórico de actividad general se modela mediante la siguiente ecuación:
- A = excitación
- I = inhibición temporal
- C = comportamientos competitivos
Para comprender mejor este modelo, imaginemos cómo se vería la tasa de respuesta con cada uno de estos procesos individualmente. En ausencia de inhibición temporal o respuestas competitivas, el nivel de excitación se mantendría alto y la tasa de respuesta se representaría como una línea casi horizontal con una pendiente negativa muy pequeña. Inmediatamente después de la presentación de la comida, la inhibición temporal está en su nivel máximo. Disminuye rápidamente a medida que transcurre el tiempo, y se esperaría que la tasa de respuesta aumentara hasta el nivel de excitación en poco tiempo. Los comportamientos competitivos, como el seguimiento del objetivo o la inspección del comedero, están en su nivel mínimo inmediatamente después de la presentación de la comida. Estos comportamientos aumentan a medida que transcurre el intervalo, por lo que la medida de la actividad general disminuiría lentamente. La resta de estas dos curvas da como resultado el nivel de actividad general previsto.
Killeen et al. (1978) luego aumentaron la frecuencia de alimentación de diaria a cada segundo de tiempo fijo. Demostraron que el nivel de actividad general aumentó sustancialmente desde el nivel de presentación diaria. Las asíntotas de la tasa de respuesta fueron más altas para las tasas más altas de refuerzo. Estos experimentos indican que el nivel de excitación es proporcional a la tasa de incitación, y el nivel asintótico aumenta con presentaciones repetidas de incentivos. El aumento en el nivel de actividad con la presentación repetida de incentivos se llama acumulación de excitación. El primer principio de MPR establece que el nivel de excitación es proporcional a la tasa de refuerzo ,, dónde:
A = nivel de excitación
a = activación específica
r = tasa de refuerzo
(Killeen y Sitomer, 2003).
Segundo principio: restricción
Un factor obvio, pero a menudo pasado por alto, al analizar las distribuciones de respuesta es que estas no son instantáneas, sino que requieren cierto tiempo para emitirse (Killeen, 1994). Estos límites en la tasa de respuesta suelen explicarse por la competencia con otras respuestas, pero con menos frecuencia por el hecho de que las respuestas no siempre pueden emitirse al mismo ritmo al que se generan (Killeen y Sitomer, 2003). Este factor limitante debe tenerse en cuenta para caracterizar correctamente lo que la respuesta podría ser teóricamente y lo que será empíricamente.
Un organismo puede recibir impulsos para responder a una determinada tasa. A bajas tasas de refuerzo, la tasa elicitada y la tasa emitida se aproximarán entre sí. Sin embargo, a altas tasas de refuerzo, esta tasa elicitada se ve atenuada por la cantidad de tiempo que tarda en emitirse una respuesta. Tasa de respuesta,, se mide típicamente como el número de respuestas que ocurren en una época dividido por la duración de una época. El recíproco deda la medida típica de la respuesta intermedia (IRT), el tiempo promedio desde el inicio de una respuesta hasta el inicio de otra (Killeen y Sitomer, 2003). En realidad, este es el tiempo de ciclo en lugar del tiempo entre respuestas. Según Killeen y Sitomer (2003), el IRT consta de dos subintervalos , el tiempo requerido para emitir una respuesta,más el tiempo entre respuestas,Por lo tanto, la tasa de respuesta se puede medir dividiendo el número de respuestas por el tiempo del ciclo:
- ,
o como el número de respuestas dividido por el tiempo real transcurrido entre las respuestas:
- .
Esta tasa instantánea,puede ser la mejor medida a utilizar, ya que la naturaleza del operando puede cambiar arbitrariamente dentro de un experimento (Killeen y Sitomer, 2003).
Killeen, Hall, Reilly y Kettle (2002) demostraron que si la tasa instantánea de respuesta es proporcional a la tasa de refuerzo,, entonces una ecuación fundamental para los resultados de MPR. Killeen y Sitomer (2003) demostraron que:
si
entonces,
y reordenando se obtiene:
Si bien las respuestas pueden obtenerse a una tasa proporcional a, solo pueden ser emitidos a una tasadebido a la restricción. El segundo principio de MPR establece que el tiempo requerido para emitir una respuesta restringe la tasa de respuesta (Killeen y Sitomer, 2003).
Tercer principio: acoplamiento
El acoplamiento es el concepto final de la MPR que vincula todos los procesos y permite predicciones específicas del comportamiento con diferentes programas de reforzamiento. El acoplamiento se refiere a la asociación entre respuestas y reforzadores. La respuesta objetivo es la respuesta de interés para el experimentador, pero cualquier respuesta puede asociarse con un reforzador. Las contingencias de reforzamiento se refieren a cómo se programa un reforzador con respecto a la respuesta objetivo (Killeen y Sitomer, 2003), y los programas de reforzamiento específicos determinan, en efecto, cómo se acoplan las respuestas al reforzador. El tercer principio de la MPR establece que el grado de acoplamiento entre una respuesta y un reforzador disminuye con la distancia entre ellos (Killeen y Sitomer, 2003). Los coeficientes de acoplamiento , designados comoSe proporcionan para los diferentes programas de refuerzo. Cuando se insertan los coeficientes de acoplamiento en el modelo de activación-restricción, se derivan modelos completos de condicionamiento:
Esta es la ecuación fundamental de MPR. El punto después deles un marcador de posición para las contingencias específicas de refuerzo que se están estudiando (Killeen y Sitomer, 2003).
Programas de refuerzo de ratio fijo
La tasa de reforzamiento para programas de razón fija es fácil de calcular, ya que la tasa de reforzamiento es directamente proporcional a la tasa de respuesta e inversamente proporcional al requisito de razón (Killeen, 1994). Por lo tanto, la función de retroalimentación del programa es:
- .
Sustituyendo esta función en el modelo completo se obtiene la ecuación de movimiento para los programas de razón (Killeen y Sitomer, 2003). Killeen (1994, 2003) demostró que la respuesta más reciente en una secuencia de respuestas tiene el mayor peso y se le asigna un peso de, partidapara las respuestas restantes. La penúltima respuesta recibe, el tercer corredor recibe. ElLa respuesta se pondera de
La suma de esta serie es el coeficiente de acoplamiento para los programas de relación fija:
La aproximación continua de esto es:
dóndees la tasa intrínseca de decaimiento de la memoria. Al insertar la tasa de refuerzo y el coeficiente de acoplamiento en el modelo de restricción de activación, se obtienen las tasas de respuesta previstas para los programas FR:
Esta ecuación predice bajas tasas de respuesta en requisitos de razón bajos debido al desplazamiento de la memoria por el comportamiento consumatorio. Sin embargo, estas bajas tasas no siempre se encuentran. El acoplamiento de respuestas puede extenderse más allá del reforzador precedente y un parámetro adicional,se añade para tener esto en cuenta. Killeen y Sitomer (2003) demostraron que el coeficiente de acoplamiento para los esquemas FR se convierte entonces en:
es el número de respuestas que preceden al reforzador previo y que contribuyen a la fuerza de la respuesta.que varía de 0 a 1 es entonces el grado de borrado de la respuesta objetivo de la memoria con la administración de un reforzador.) Si, el borrado es completo y se puede utilizar la ecuación FR más simple.
Programas de refuerzo de razón variable
Según Killeen y Sitomer (2003), la duración de una respuesta puede afectar la tasa de deterioro de la memoria. Cuando las duraciones de las respuestas varían, ya sea dentro o entre organismos, entonces se necesita un modelo más completo, yes reemplazado porflexible:
Programas de razón variable idealizados con un requisito de respuesta media detener una probabilidad constante dede una respuesta que termina en refuerzo (Bizo, Kettle y Killeen, 2001). La última respuesta que termina en refuerzo siempre debe ocurrir y recibe fortalecimiento deLa penúltima respuesta ocurre con probabilidady recibe un fortalecimiento de. La suma de este proceso hasta el infinito es (Killeen 2001, Apéndice):
El coeficiente de acoplamiento para los horarios de realidad virtual resulta ser:
Multiplicando por el grado de borrado de memoria se obtiene:
El coeficiente de acoplamiento puede entonces insertarse en el modelo de restricción de activación, al igual que el coeficiente de acoplamiento para los programas FR, para obtener tasas de respuesta previstas bajo programas VR:
En los programas de intervalos, la función de retroalimentación del programa es
dóndees el tiempo promedio mínimo entre reforzadores (Killeen, 1994). El acoplamiento en los programas de intervalo es más débil que en los programas de razón, ya que los programas de intervalo fortalecen por igual todas las respuestas que preceden al objetivo en lugar de solo la respuesta objetivo. Solo una cierta proporciónde la memoria se fortalece. Con un requisito de respuesta, la respuesta final y objetivo debe recibir fuerza de. Todas las respuestas anteriores, objetivo o no objetivo, reciben un fortalecimiento de.
Los programas de tiempo fijo son los programas dependientes del tiempo más simples, en los que los organismos simplemente deben esperar t segundos para recibir un incentivo. Killeen (1994) reinterpretó los requisitos temporales como requisitos de respuesta e integró el contenido de la memoria de un incentivo al siguiente. Esto da como resultado que el contenido de la memoria sea:
norte
MN= lò e-lndn
0
Este es el grado de saturación en la memoria de todas las respuestas, tanto objetivo como no objetivo, suscitadas en el contexto (Killeen, 1994). Al resolver esta ecuación se obtiene el coeficiente de acoplamiento para programas de tiempo fijo:
c=r(1-e-lbt)
dóndees la proporción de respuestas objetivo en la trayectoria de respuesta. Al expandirla en una serie de potencias, se obtiene la siguiente aproximación:
c» rlbt
1+lbt
Esta ecuación predice una grave inestabilidad en los programas de refuerzo no contingentes.
Los programas de intervalo fijo garantizan un fortalecimiento de una respuesta objetivo, b=w1, ya que el reforzamiento depende de esta respuesta final y contigua (Killeen, 1994). Este acoplamiento es equivalente al acoplamiento en los programas FR 1.
w1=b=1-el.
El acoplamiento restante se debe a la memoria del comportamiento precedente. El coeficiente de acoplamiento para los esquemas FI es:
c = b + r(1 - b - e - lbt).
Los programas de tiempo variable son similares a los programas de razón aleatoria en que existe una probabilidad constante de refuerzo, pero estos reforzadores se establecen en el tiempo en lugar de en las respuestas. La probabilidad de que no ocurra ningún refuerzo antes de un tiempo t' es una función exponencial de ese tiempo, donde la constante de tiempo t es el intervalo inter-respuesta promedio del programa (Killeen, 1994). Para obtener el coeficiente de acoplamiento, se debe integrar la probabilidad de que el programa no haya terminado, ponderada por el contenido de la memoria.
∞
M= lò e-n't/te-ln' dn'
0
En esta ecuación, t'=n't, donde t es una pequeña unidad de tiempo. Killeen (1994) explica que el primer término exponencial es la distribución del refuerzo, mientras que el segundo término es la ponderación de esta distribución en la memoria. Resolviendo esta integral y multiplicando por la constante de acoplamiento r, se obtiene el grado de llenado de la memoria en los programas VT:
c=rlbt
1+lbt
Este coeficiente de acoplamiento es el mismo que el de un programa FT, con la diferencia de que se trata de una solución exacta para los programas VT, en lugar de una aproximación. Una vez más, la función de retroalimentación en estos programas no contingentes predice una grave inestabilidad en la respuesta.
Al igual que con los programas FI, los programas de intervalo variable garantizan un acoplamiento de respuesta objetivo de b. Simplemente sumando b a la ecuación VT se obtiene:
∞
M= b+ lò e-n't/te-ln' dn'
1
Resolviendo la integral y multiplicando por r se obtiene el coeficiente de acoplamiento para los esquemas VI:
c = b + (1-b) rlbt
1+lbt
Los coeficientes de acoplamiento para todos los programas se insertan en el modelo de restricción de activación para obtener la tasa de respuesta global prevista. El tercer principio de la MPR establece que el acoplamiento entre una respuesta y un reforzador disminuye a medida que aumenta el tiempo transcurrido entre ellos (Killeen y Sitomer, 2003).
Los principios matemáticos del reforzamiento describen cómo los incentivos impulsan la conducta, cómo el tiempo la limita y cómo las contingencias la dirigen. Se trata de una teoría general del reforzamiento que combina la contigüidad y la correlación como procesos explicativos de la conducta. Muchas respuestas previas al reforzamiento pueden correlacionarse con el reforzador, pero la respuesta final es la que recibe mayor peso en la memoria. Se proporcionan modelos específicos para los tres principios básicos con el fin de articular patrones de respuesta previstos en diversas situaciones y bajo diferentes programas de reforzamiento. Se derivan los coeficientes de acoplamiento para cada programa de reforzamiento y se insertan en la ecuación fundamental para obtener las tasas de respuesta previstas generales.
Referencias
Fuentes
- Bizo, LA, Kettle, LC y Killeen, PR (2001). "Los animales no siempre responden más rápido a cambio de más comida: El efecto de incentivo paradójico." Animal Learning & Behavior , 29 , 66-78.
- Killeen, PR (1994). "Principios matemáticos del refuerzo." Behavioral and Brain Sciences , 17 , 105-172.
- Killeen, PR, Hall, SS, Reilly, MP y Kettle, LC (2002). "Análisis moleculares de los componentes principales de la fuerza de respuesta." Journal of the Experimental Analysis of Behavior , 78 , 127-160.
- Killeen, PR, Hanson, SJ y Osborne, SR (1978). «Activación: su génesis y manifestación como tasa de respuesta». Psychological review . Vol. 85, n.º 6 , págs. 571-81.
- Killeen, PR y Sitomer, MT (2003). "MPR." Procesos conductuales , 62 , 49-64
- Conceptos de comportamiento
- Análisis cuantitativo del comportamiento