Proiect PEAG

Studiu comparativ intre algoritmii ES2M si HC

  Metoda de tip “hill climbing” este o tehnică de iterativitate îmbunătăţită, aplicată unui
singur punct din spaţiul de căutare. La o iteraţie este selectat un nou punct aflat într-o
vecinătate a punctului curent procesat. Dacă acest punct determină o valoare mai bună
(din punct de vedere al criteriului de optim considerat) pentru funcţia obiectiv, el devine
punct curent. Altfel, este selectată o altă vecinătate a punctului curent, procesul
desfăşurându-se ulterior similar. Algoritmul se încheie când nici un punct vecin celui
curent nu aduce îmbunătăţiri valorilor funcţiei obiectiv. Sunt obţinute de obicei la valori
de optim local, depinzând de punctul de start. Pentru a creşte performanţele unor astfel
de modele, acestea se utilizează pentru un număr mare de punct de start.
 Caracteristici ES:
- Reprezentarea cromozomială - vectori cu numere din mulțimea R
- Mutația este principalul operator de variație care produce indivizi noi
- Mutația - zgomot gaussian, de obicei N ( 0 , σ ) (mutație neuniformă sau fluaj) σ este
modificat pe parcursul evoluției algoritmului.
- Recombinarea este directa sau intermediara(aritmetica)
- Selectia parintilor se realizeaza astfel:
Pop curenta = pop de parinti
Realizarea perechilor de crossover este aleatoare, conform distributiei uniforme de
probabilitate.
- Selectia supravietuitorilor este de tipul (µ, λ) sau (µ+ λ).
- Auto-adapterea dimensiunii mutatiei ∂.

ES2M(Strategia ecolutiva cu 2 membri) este printre primii algoritmi care implementează

auto-adaptarea si este considerat algoritmul primar ES.

În ES2M σ controlează magnitudinea cu care este modificată fiecare componentă

i ,i ∈ { 1,2 , … , n } prin aplicarea operatorului de mutație neuniformă (fluaj). σ - dimensiunea
pasului de mutație.

1 1
Actualizare de tip auto-adaptare la rata de succes : dacă rata de succes este mai mare decât ,
5 5
atunci valoarea lui σ este mărită, altfel este micșorată, căutarea fiind concentrată în jurul
punctului curent.

Regula este aplicată la intervale egale, de exemplu, după fiecare k iterații, astfel. Fie ps frecvența
relativă a succesului efectuării mutației măsurată pe ultimele k perioade de timp și c un
parametru dat, în general c ∈ [ 0.817,1 ] .

 Exemplu implementare pe aceeasi functie:

Funcția Ackley este definită prin
n
f : R → R , x=( x1 , … , x n )

{ √ }
n

∑ x 2i
{ }
n
1
f ( x )=−20∙ exp −0.2∙ i =1
−exp ∙ ∑ cos ( 2∙ π ∙ x i ) +20+ e
n n i=1

Scopul - calculul minimul funcției.

Funcția Ackley are valoarea minimă 0, atinsă în punctul x=( 0 , … , 0 ) .

1. Implementarea HILL CLIMBING

Alegerea vecinilor: esentiala pentru calitatea algoritmului; sunt variante multiple

Varianta aleasa: fie ε > 0; pentru fiecare x=( x 1 , … , x n ) sunt calculați 2 ×n vecini astfel

v ( x )=¿ i=1 ¿ n {( x 1 , … , x i−1 , x i−ε , x i+1 , … , x n ) , ( x 1 , … , x i−1 , xi + ε , x i+1 , … , xn ) }

Exemple de utilizare:

n=2, generarea aleatoare a punctului inițial - 1 ≤i ≤2 ,−2≤ x 0 ( i ) ≤2

−2
ε =10
În general calculeaza un optim local cu precizie de 10−2 , 10−3

2. Implementarea ES2M:
n=2
Setări:
generarea aleatoare a punctului inițial 1 ≤i ≤2 ,−2≤ x 0 ( i ) ≤2
𝑘=30, c=0.83
250000 iterații
dimensiunea pasului la momentul inițial - 𝜎_0=0.2

In general, algoritmul ES2M este superior algoritmului Hill Climbing deoarece obține mai des
optimul global.

 Bibliografie:
https://machinelearningmastery.com/stochastic-hill-climbing-in-python-from-scratch/
https://www.indusmic.com/post/ackley-function
https://online.ase.ro/pluginfile.php/403167/mod_resource/content/1/040%20-%20Cap.
%204%20-%20Strategii%20evolutive.pdf

-Cursurile 9, 10