Iterated Hill-climbing & Simulated Annealing

February 28, 2006

Laborator Algoritmi Genetici, 2006 1

 Hill-climbing

• O tehnica de imbunatatire pas-cu-pas, similar metodelor de cautare

locala

• O iteratie:
1. selecteaza o solutie candidat din vecinatatea celei curente;

2. daca noua solutie este mai buna decat cea curenta conform unei
functii de evaluare, atunci aceasta devine solutie curenta; altfel este
selectat un alt vecin si testat;

3. metoda se termina cand criteriul de terminare este satisfacut (de

exemplu, cand nu mai e posibila nici o imbunatatire).

Laborator Algoritmi Genetici, 2006 2

 Algoritm

procedure iterated hillclimber

begin
t←0
initialize best
repeat
local ← F ALSE
select a current point vc at random
evaluate vc
repeat
select all new points in the neighborhood of vc
select the point vn from the set of new points
with the best value of evaluation function eval
if eval(vn ) is better than eval(vc )
then vc ← vn
else local ← T RU E
until local
t←t+1
if vc is better than best
then best ← vc
until t = M AX
end

Laborator Algoritmi Genetici, 2006 3

 Variante ale algoritmului

• Difera prin modul in care o noua solutie e selectata pentru a fi

comparata cu cea curenta.

• Steepest ascent hill-climbing:

Se considera toti vecinii punctului curent vc , si se alege cel mai bun
vn pentru a fi testat cu vc .
Daca functia de evaluare eval(vn ) este mai buna decat eval(vc ), atunci
noua solutie vn devine solutie curenta. Altfel, nu e posibila nici o
imbunatatire locala: algoritmul a ajuns intr-un optim local sau global
(local=TRUE). Urmatoarea iteratie (t ← t + 1) va porni cu un nou
punct generat aleator.

Laborator Algoritmi Genetici, 2006 4

 Hill-climbing

Trebuiesc definite: reprezentarea, functia de evaluare, si notiunea de

vecinatate.

Metoda nu garanteaza obtinerea optimului global; aceasta poate

furniza optime locale care depind de punctul initial ales. Pentru
probleme cu optime locale multiple, este dificil a determina optimul
global.

Imbunatatire: executam algoritmul cu puncte de start diferite. Punctul

initial poate fi ales aleator, dupa un anumit pattern, sau pe baza unor
informatii apriori disponibile.

Nu exista o margine locala pentru timpul de calcul.

Laborator Algoritmi Genetici, 2006 5

 Exploatare vs. explorare

Metodele de cautare eficace furnizeaza un mecanism pentru

echilibrarea a doua obiective:

– exploatarea celor mai bune solutii gasite pana la momentul

respectiv

– explorarea spatiului de cautare

Tehnicile Hill-climbing exploateaza cea mai buna solutie gasita pentru

o posibila imbunatatire, dar neglijeaza explorarea unei mari portiuni
din spatiul de cautare.

Laborator Algoritmi Genetici, 2006 6

 Probleme

• Cum scap dintr-un optim local?

• Cum echilibrez explorarea si exploatarea?

• Cum fac cautarea independenta de configuratia initiala?

Laborator Algoritmi Genetici, 2006 7

 Simulated Annealing

procedure simulated annealing

begin
t←0
initialize T
select a current point vc at random
evaluate vc
repeat
repeat
select a new point vn in the neighborhood of vc
if eval(vc ) < eval(vn )
then vc ← vn
eval(vn )−eval(vc )
else if random[0,1) < e T
then vc ← vn
until (termination-condition)
T ← g(T, t)
t←t+1
until (halting-criterion)
end

Laborator Algoritmi Genetici, 2006 8

 Simulated Annealing

Metoda Simulated Annealing (Monte Carlo annealing, probababilistic

hill-climbing, etc) este inspirata din termodinamica.

Nu mai verificam toate punctele din vecinatatea celui curent si selectam pe

cel mai mai bun ca la Hill-climbing, vom selecta un singur punct, vn din
vecinatate.

O noua solutie candidat este acceptata, vc ← vn cu o anumita probabilitate

care depinde de valoarea functiei de evaluare.

Parametrul temperatura modifica probabilitatea mutarii dintr-un punct al

spatiului de cautare in altul.
La inceput T va lua valori mari, permitand si solutiilor mai slabe sa fie alese.
Dupa care valoarea lui T descreste gradual. In final T va avea valori mici,
acceptand astfel un nou punct doar daca e mai bun decat cel curent.

Laborator Algoritmi Genetici, 2006 9

 Parametri

• reprezentarea unei solutii

• vecinatate

• functia cost (de evaluare)

• generarea solutiei initiale

• temperatura initiala T

• functia de modificare a temperaturii g(T, t)

• criteriul de oprire

Laborator Algoritmi Genetici, 2006 10