Articulo de referencia

Selección basada en recompensas

La selección basada en recompensas es una técnica utilizada en algoritmos evolutivos para seleccionar soluciones potencialmente útiles para la recombinación. La probabilidad de ...

La selección basada en recompensas es una técnica utilizada en algoritmos evolutivos para seleccionar soluciones potencialmente útiles para la recombinación. La probabilidad de que un individuo sea seleccionado es proporcional a la recompensa acumulada que ha obtenido. Esta recompensa acumulada se calcula como la suma de la recompensa individual y la heredada de sus progenitores.

Descripción

La selección basada en recompensas se puede utilizar dentro del marco del problema del bandido multi-brazo para la optimización multiobjetivo para obtener una mejor aproximación del frente de Pareto . [ 1 ]

El recién nacidoa(gramo+1){\displaystyle a'^{(g+1)}}y sus padres reciben una recompensar(gramo){\displaystyle r^{(g)}}, sia(gramo+1){\displaystyle a'^{(g+1)}}fue seleccionado para nueva poblaciónQ(gramo+1){\displaystyle Q^{(g+1)}}De lo contrario, la recompensa es cero. Son posibles varias definiciones de recompensa:

  • 1.r(gramo)=1{\displaystyle r^{(g)}=1}, si el individuo recién nacidoa(gramo+1){\displaystyle a'^{(g+1)}}fue seleccionado para nueva poblaciónQ(gramo+1){\displaystyle Q^{(g+1)}}.
  • 2.r(gramo)=1ranortek(a(gramo+1))μ si a(gramo+1)Q(gramo+1){\displaystyle r^{(g)}=1-{\frac {rank(a'^{(g+1)})}{\mu }}{\mbox{ si }}a'^{(g+1)}\in Q^{(g+1)}}, dónderanortek(a(gramo+1)){\displaystyle rank(a'^{(g+1)})}es el rango del individuo recién insertado en la población deμ{\displaystyle \mu }individuos. El rango se puede calcular utilizando un procedimiento de ordenación no dominada bien conocido . [ 2 ]
  • 3.r(gramo)=aQ(gramo+1)ΔH(a,Q(gramo+1))aQ(gramo)ΔH(a,Q(gramo)){\displaystyle r^{(g)}=\sum _{a\in Q^{(g+1)}}\Delta {H}(a,Q^{(g+1)})-\sum _{a\in Q^{(g)}}\Delta {H}(a,Q^{(g)})}, dóndeΔH(a,Q(gramo)){\displaystyle \Delta {H}(a,Q^{(g)})}es la contribución del indicador de hipervolumen del individuoa{\displaystyle a}a la poblaciónQ(gramo){\displaystyle Q^{(g)}}La recompensar(gramo)>0{\displaystyle r^{(g)}>0}si el individuo recién insertado mejora la calidad de la población, que se mide como su contribución de hipervolumen en el espacio objetivo.
  • 4. Una relajación de la recompensa anterior, que implica una penalización basada en el rango para los puntos pork{\displaystyle k}-º frente de Pareto dominado:r(gramo)=12k1(nortedometrok(Q(gramo+1))ΔH(a,nortedometrok(Q(gramo+1)))nortedometrok(Q(gramo))ΔH(a,nortedometrok(Q(gramo)))){\displaystyle r^{(g)}={\frac {1}{2^{k-1}}}\left(\sum _{ndom_{k}(Q^{(g+1)})}\Delta {H}(a,ndom_{k}(Q^{(g+1)}))-\sum _{ndom_{k}(Q^{(g)})}\Delta {H}(a,ndom_{k}(Q^{(g)}))\right)}

La selección basada en recompensas puede identificar rápidamente las direcciones de búsqueda más fructíferas al maximizar la recompensa acumulada de los individuos.

Véase también

Referencias

  1. Loshchilov, I.; M. Schoenauer; M. Sebag (2011). "No todos los padres son iguales para MO-CMA-ES" (PDF) . Optimización multicriterio evolutiva 2011 (EMO 2011) . Springer Verlag, LNCS 6576. pp. 31–45 . Archivado del original (PDF) el 4 de junio de 2012. 
  2. Deb, K.; Pratap, A.; Agarwal, S.; Meyarivan, T. (2002). "Un algoritmo genético multiobjetivo rápido y elitista: NSGA-II". IEEE Transactions on Evolutionary Computation . 6 (2): 182– 197. CiteSeerX 10.1.1.17.7771 . doi : 10.1109/4235.996017 .