Projet 2A

Le recuit simul : analyse thorique et applications

propos par Sbastien Loustau (loustau@cmi.univ-mrs.fr)

Introduction

La recherche des maxima globaux dune fonction est un des problmes importants des mathmatiques appliques. Si on considre une fonction direntiable sur Rd , il peut paratre naturel, partir dun point arbitraire, de se dplacer dans la direction du gradient, tant que la fonction dcrot. Malheureusement une telle mthode conduit trouver un minimum local, et non global. Ce projet sintresse la mthode du "recuit simul", qui introduit des perturbations alatoires par rapport la mthode du gradient, permettant de sortir des bassins dattractions des minima locaux. Le principe de cet algorithme stochastique est dintroduire des perturbations qui sattnuent aucours du temps, de telle sorte que lon espre nalement aboutir des minima globaux.

Modlisation

Supposons que lon cherche maximiser une fonction U : E ] ,0] telle que, pour simplier les notations, max U (x) = 0.
xE

On cherche x E qui ralise ce maximum. Pour tout > 0, on dnit la probabilit sur E par :
1 U (x) e , x E, ,x = Z

o Z = xE eU (x) . Le paramtre est appel inverse de la temprature. Quand +, la probabilit converge vers la probabilit uniforme sur les maxima de U . , n 0} irrductible A chaque > 0, on associe la matrice de transition dune chane de Markov {Xn apriodique de probabilit invariante (on verra que cela est toujours possible). Si est x, la loi de Xn converge vers lorsque n +. Lide de lalgorithme du recuit simul est de faire varier en fonction de n, de telle sorte que Xn converge vers lensemble des maximum de la fonction U . Cela est vrai si := (n) + susamment lentement lorsque n +.

Contenu du projet

Ce projet propose ltude de la mthode du recuit simul, dun point de vue thorique et appliqu. On commencera par montrer la convergence thorique de lalgorithme, en manipulant les processus stochastiques. Parralllement, on propose dappliquer ces rsultats la recherche de maxima de fonctions, en programmant lalgorithme stochastique du recuit laide dun logiciel de calcul (Scilab par exemple). Si le temps le permet, on tudiera lapplication dune telle mthode en statistique.

Prol des candidats

Ltude du recuit simul ncessite la manipulation doutils (processus stochastiques, convergences) assez ns. Ainsi ce projet est plutt destin un(e) tudiant(e) ayant suivi le cours dOG Rouge "Processus markoviens et applications". Lautonomie et la motivation seront les principaux atouts des candidat(e)s. Une part importante du travail sera consacre la lecture et la comprhension de chapitres de livres sur le recuit simul ou de survols scientiques du sujet, parfois en anglais. De plus, lutilisation dun logiciel de calcul est indispensable la programmation de lalgorithme.

Rfrences
1. Processus de Markov et applications, E. Pardoux. SMAI, 2007. 2. La mthode du recuit simul, P. Siarrry et G. Dreyfus. IDSET, Paris, 1988. 3. Simulated annealing : theory and applications, P.J.M. Laarhoven and E.H.L. Aarts. Kluwer Academic Publishers, 1989.