IRISAINSTITUTDERECHERCHEENINFORMATIQUEETSYST?MESAL?ATOIRESP

U

B

L

I

C

A

T

I

O

NI

N

T

E

R

N

ENoI

R

I

S

A

CAMPUS

UNIVERSITAIRE

DE

BEAULIEU

RENNES

CEDEX

FRANCE

ISSN

1166-8687 901

ALGORITHMES

GE

NE

TIQUES

SE

QUENTIELS

ET

PARALLE?LES

POUR

UNE

REPRE?SENTATION

AFFINE

DES

PROXIMITE?S

I.

C.

LERMAN

R.

F.

NGOUENET

INSTITUT

DE

RECHERCHE

EN

INFORMATIQUE

ET

SYSTE?MES

ALE

ATOIRES

Campus

de

Beaulieu

Rennes

Cedex

France

Te

l.

-LRB-

-RRB-

Fax

-LRB-

-RRB-

Algorithmes

g?en?etiques

s?equentiels

et

parall?eles

pour

une

repr?esentation

affine

des

proximit?es

I.

C.

Lerman

R.

F.

Ngouenet

Programme

Intelligence

artificielle

syst?emes

cognitifs

et

interaction

homme-machine

Projet

Repco

Publication

interne

n

Janvier

pages

R?esum?e

Dans

ce

rapport

nous

pr?esentons

une

nouvelle

approche

de

la

repr?esentation

affine

des

matrices

de

proximit?e

utilisant

les

algorithmes

g?en?etiques

-LRB-

AG

-RRB-

Les

AG

sont

des

techniques

d'optimisation

stochastiques

inspir?ees

directement

de

la

th?eorie

darwinienne

sur

les

m?ecanismes

de

l'

evolution

naturelle

des

etres

vivants

et

de

la

g?en?etique

De

tels

algorithmes

poss?edent

un

co

ut

d'ex

ecution

assez

important

pour

les

matrices

de

grande

taille

En

prenant

en

consid?eration

certaines

propri?et?es

inh?erentes

aux

AG

nous

proposons

d'une

part

une

strat?egie

d'hybridation

et

d'autre

part

un

algorithme

parall?ele

orient?e

architecture

multi-processeur

a

m?emoire

distribu?ee

Une

impl?ementation

sur

la

machine

Paragon

donne

un

speed-up

presque

lin?eaire

Nous

pr?esentons

des

r?esultats

num?eriques

attestant

de

la

validit?e

de

la

m?ethode

Mots-cl

e

Repr?esentation

affine

Algorithme

g?en?etique

parall?ele

Paragon

speedup

-LRB-

Abstract

pto

-RRB-

CENTRE

NATIONAL

DE

LA

RECHERCHESCIENTIFIQUE

Centre

National

de

la

Recherche

Scientifique

Institut

National

de

Recherche

en

Informatique

-LRB-

URA

-RRB-

Universite

de

Rennes

Insa

de

Rennes

et

en

Automatique

unite

de

recherche

de

Rennes

Serial

and

parallel

genetic

algorithms

for

multidimensional

scaling

Abstract

In

this

paper

a

new

approach

to

multidimensional

scaling

-LRB-

MDS

-RRB-

using

genetic

algorithms

-LRB-

GAs

-RRB-

and

its

acceleration

by

parallelization

are

presented

GAs

are

stochastic

search

and

optimization

techniques

based

on

the

mechanics

of

natural

selection

and

natural

genetics

Unfortunately

serial

standard

GAs

with

large

populations

suffer

from

lack

of

efficiency

-LRB-

quite

high

execution

time

-RRB-

Thus

an

hybridization

strategy

is

suggested

and

a

massively

parallel

genetic

algorithm

for

MDS

is

proposed

An

implementation

on

Intel

Paragon

supercomputer

is

given

and

the

parallel

algorithm

shows

a

nearlinear

speed-up

We

illustrate

the

usefulness

of

the

approach

by

providing

some

application

examples

AG

s?equentiels

et

parall?eles

pour

la

MDS

Table

des

mati?eres

Introduction

Les

Algorithmes

g?en?etiques

Pr?eambule

Algorithme

g?en?etique

canonique

Principe

de

l'AGC

Les

param?etres

G?en?eration

d'une

nouvelle

population

Le

th?eor?eme

fondamental

des

A.G.

Les

sch?emata

Th?eor?eme

des

sch?emata

Parall?elisme

implicite

Codage

des

solutions

Convergence

de

l'AGC

Cha

ines

de

Markov

finies

Analyse

de

l'AGC

par

les

Cha

ines

de

Markov

Adaptation

des

AG

a

la

repr?esentation

euclidienne

Pr?eambule

Fitness

et

espace

de

recherche

Repr?esentation

chromosomique

codage

des

individus

Croisement

et

Mutation

Description

des

algorithmes

Hybridation

de

nos

AG

Croisement

AE-aire

M?ethode

de

Powell

M?ethode

de

Hooke

et

Jeeves

La

fonction

de

partage

-LRB-

sharing

function

-RRB-

Parall?elisation

massive

des

AG

pour

la

M.D.S

Expression

du

Parall?elisme

Types

d'Architectures

Implantation

des

donn?ees

T

aches

Graphe

d'ordonnancement

Mesure

des

performances

Parall?elisation

des

AG

pour

la

MDS

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

La

machine

PARAGON

XP/S

d'Intel

Mise

en

oeuvre

des

algorithmes

Tests

num?eriques

Conclusion

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Introduction

Ce

travail

est

a

la

crois?ee

de

trois

domaines

l'analyse

m?etrique

des

donn?ees

les

algorithmes

g?en?etiques

et

le

calcul

parall?ele

Le

probl?eme

a

r?esoudre

concerne

plus

pr?ecis?ement

la

repr?esentation

affine

le

plus

souvent

planaire

d'une

matrice

de

proximit?es

-LRB-

dissimilarit?es

ou

similarit?es

-RRB-

fffiij

i

j

ng

sur

un

ensemble

fini

E

d'entit

es

L'origine

ou

le

mode

de

construction

d'une

telle

matrice

ne

nous

concernent

aucunement

ici

Les

m?ethodes

num?eriques

couramment

employ?ees

pour

obtenir

des

solutions

difficilement

evaluables

de

cette

probl?ematique

sont

regroup?ees

sous

le

terme

g?en?erique

MDS

-LRB-

MultiDimensional

Scaling

-RRB-

-LSB-

-RSB-

Ces

m?ethodes

proc?edent

en

optimisant

des

fonctions

co

ut

dont

la

forme

analytique

est

difficile

a

g?erer

-LSB-

-RSB-

Toutefois

lorsque

la

matrice

est

euclidienne

une

solution

analytique

de

ce

probl?eme

PCA

ou

AFTD

s

obtient

a

partir

de

la

d?ecomposition

spectrale

de

la

matrice

W

-LRB-

-RRB-

de

Torgerson

-LSB-

-RSB-

Les

solutions

que

nous

avons

propos?ees

dans

-LSB-

-RSB-

et

que

nous

reprenons

ici

avec

plus

de

d?etails

consistent

a

adopter

pour

l'optimisation

de

ces

fonctions

co

ut

et

ceci

ind?ependamment

des

mod?eles

de

la

MDS

une

approche

bas?ee

sur

les

Algorithmes

G?en?etiques

-LRB-

AG

-RRB-

Les

AG

constituent

une

large

famille

d'algorithmes

stochastiques

dont

la

premi?ere

version

pr?esent?ee

dans

la

premi?ere

partie

et

couramment

appel?ee

Algorithme

G?en?etique

Canonique

-LRB-

AGC

-RRB-

fut

introduite

par

Holland

-LSB-

-RSB-

redynamis?ee

et

popularis?ee

par

Goldberg

-LSB-

-RSB-

Nous

pr?esentons

egalement

dans

cette

partie

une

mod?elisation

et

une

etude

du

comportement

asymptotique

de

l'AGC

au

moyen

d'une

cha

ine

de

Markov

Le

r?esultat

important

qu'on

d?emontre

est

que

tout

AGC

ne

converge

pas

n?ecessairement

vers

un

optimum

global

quel

que

soit

le

param?etrage

que

l'on

se

fixe

-LSB-

cf.

-RSB-

Ces

algorithmes

inspir?es

directement

de

la

th?eorie

darwinienne

sur

l'

evolution

des

etres

vivants

op?erent

une

recherche

stochastique

sur

un

espace

de

taille

exponentielle

avec

trois

op?erations

fondamentales

reproduction

croisement

et

mutation

Nous

donnons

dans

la

deuxi?eme

partie

a

chacune

de

ces

op?erations

et

au

codage

des

individus

une

expression

synth?etique

directement

li?ee

a

la

s?emantique

de

notre

probl?eme

de

repr?esentation

affine

-LSB-

cf.

-RSB-

Ainsi

nous

ma

itrisons

la

signification

g?eom?etrique

de

ces

op?erateurs

tout

en

diminuant

consid?erablement

la

taille

de

l'espace

de

recherche

Cependant

la

complexit?e

de

nos

algorithmes

demeure

importante

D'

o?u

une

proposition

d'hybridation

de

nos

algorithmes

par

des

algorithmes

de

des

Principal

Coordinate

Analysis

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

cente

-LSB-

cf.

-RSB-

Nous

d?ecrivons

les

effets

du

sharing

fonction

de

partage

-LRB-

-LSB-

-RSB-

et

-LSB-

-RSB-

-RRB-

dans

la

convergence

de

nos

algorithmes

-LSB-

cf.

-RSB-

Une

approche

r?ecente

-LSB-

-RSB-

a

consist?e

a

construire

des

configurations

initiales

avec

l'algorithme

stochastique

de

recuit

simul?e

Une

grande

part

des

calculs

que

suppose

un

algorithme

g?en?etique

etant

par

nature

parall?elisable

nous

proposons

dans

la

troisi?eme

partie

des

versions

parall?eles

de

nos

algorithmes

pour

les

calculateurs

multiprocesseurs

a

m?emoire

distribu?ee

C'est

dans

cette

partie

que

nous

prenons

connaissance

des

outils

et

des

termes

du

parall?elisme

La

quatri?eme

partie

regroupe

des

exemples

d?emonstratifs

sur

des

donn?ees

r?eelles

Nous

terminons

par

une

conclusion

evoquant

de

nouvelles

perspectives

Les

Algorithmes

g?en?etiques

Pr?eambule

Les

Algorithmes

G?en?etiques

-LRB-

AG

-RRB-

repr?esentent

une

famille

assez

riche

et

tr?es

int?eressante

d'algorithmes

d'optimisation

stochastique

fond?es

sur

les

m?ecanismes

de

la

s?election

naturelle

et

de

la

g?en?etique

Les

champs

d'application

sont

fort

diversifi?es

On

les

retrouve

aussi

bien

en

th?eorie

des

graphes

qu'en

compression

d'images

num?eris?ees

ou

encore

en

programmation

automatique

-LSB-

-RSB-

-LSB-

-RSB-

-LSB-

-RSB-

-LSB-

-RSB-

Les

raisons

de

ce

nombre

d'applications

sont

claires

Leur

prinicipe

est

d'op

erer

une

recherche

stochastique

sur

un

important

espace

a

travers

un

ensemble

une

population

de

pseudo-solutions

Ces

algorithmes

sont

simples

et

tr?es

performants

dans

leur

recherche

d'am

elioration

De

plus

ils

ne

sont

pas

limit?es

par

des

hypoth?eses

contraignantes

sur

le

domaine

d'exploration

Ainsi

le

math?ematicien

abordant

le

sujet

n

a

gu?ere

a

se

pr?eoccuper

de

la

continuit?e

et

de

la

diff?erentiabilit?e

de

la

fonction

a

optimiser

Une

autre

technique

d'exploration

stochastique

qui

a

actuellement

beaucoup

de

succ?es

le

recuit

simul?e

utilise

un

processus

al?eatoire

pour

aider

a

guider

la

recherche

d?etats

d'

energie

minimale

Elle

est

fond?ee

sur

une

analogie

avec

le

recuit

physique

des

solides

qui

consiste

a

chauffer

un

mat?eriau

a

haute

temp?erature

et

a

le

faire

refroidir

tr?es

lentement

afin

de

laisser

le

syst?eme

atteindre

son

energie

minimale

Toutefois

les

algorithmes

de

recuit

simul?e

font

evoluer

une

seule

pseudosolution

Cette

caract?eristique

majeure

fait

d'ailleurs

du

recuit

simul?e

une

m?ethode

fondamentalement

s?equentielle

-LSB-

-RSB-

et

-LSB-

-RSB-

Un

ouvrage

r?ecent

-LSB-

-RSB-

explore

les

relations

entre

le

recuit

simul?e

et

les

algorithmes

g?en?etiques

Une

re

Un

algorithme

de

recuit

simul?e

est

d?ecrit

en

page

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

marque

importante

qui

en

sort

est

qu'une

exploration

pseudo-al

eatoire

n'implique

pas

n?ecessairement

une

exploration

sans

direction

En

resum?e

les

algorithmes

g?en?etiques

diff?erent

fondamentalement

des

autres

m?ethodes

selon

quatre

axes

principaux

Les

AG

utilisent

un

codage

des

param?etres

et

non

les

param?etres

eux

m

emes

Les

AG

travaillent

sur

une

population

de

points

au

lieu

d'un

point

unique

Les

AG

n'utilisent

que

les

valeurs

de

la

fonction

etudi?ee

pas

sa

d?eriv?ee

ou

une

autre

connaissance

auxiliaire

Les

AG

utilisent

des

r?egles

de

transition

probabilistes

et

non

d?eterministes

Afin

de

bien

appr?ehender

la

dynamique

des

algorithmes

g?en?etiques

introduisons

les

principaux

el?ements

du

jargon

utilis?e

dans

la

litt?erature

Individu

ou

Chromosome

une

solution

potentielle

Population

un

ensemble

de

chromosomes

ou

de

points

de

l'espace

de

recherche

Environnement

l'espace

de

recherche

Fitness

ou

Fonction

d'

evaluation

la

fonction

positive

que

l'on

cherche

a

maximiser

Ce

petit

lexique

qui

fait

montre

d'une

prudente

analogie

avec

la

biologie

a

naturellement

une

simple

fonction

m?etaphorique

Leur

emploi

n'obeit

qu

a

un

souci

pragmatique

Nous

les

utilisons

dans

l'introduction

de

l'algorithme

g?en?etique

standard

consid?er?e

desormais

par

maintes

auteurs

d'

algorithme

g?en?etique

canonique

d?efini

par

Holland

-LSB-

-RSB-

et

redynamis?e

par

Goldberg

-LSB-

-RSB-

Dans

ce

paragraphe

nous

d?eveloppons

de

fa?con

pr?ecise

les

principaux

aspects

de

la

th?eorie

des

Algorithmes

g?en?etiques

Nous

commencerons

par

exprimer

au

paragraphe

en

quoi

consiste

l'Algorithme

g?en?etique

canonique

-LRB-

AGC

-RRB-

Nous

y

d?ecrivons

les

op?erateurs

fondamentaux

des

AG

qui

sont

le

croisement

et

la

mutation

Au

paragraphe

nous

pr?esentons

le

th?eor?eme

fondamental

des

AG

Nous

terminerons

ce

paragraphe

par

une

analyse

de

la

convergence

des

AG

fond?ee

sur

la

th?eorie

markovienne

des

processus

stochastiques

dans

un

espace

d'

etats

fini

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Algorithme

recuit

simul?e

D?ebut

i

T

temp?erature

initiale

Xc

solution

initiale

Evaluer

Xc

R?ep?eter

R?ep?eter

G?en?erer

une

autre

solution

Xn

dans

le

voisinage

de

Xc

Si

f

-LRB-

Xc

-RRB-

f

-LRB-

Xn

-RRB-

alors

Xc

Xn

Sinon

p

r?eel

tir?e

dans

-LRB-

-RRB-

p

expf

-LRB-

f

-LRB-

Xn

-RRB-

f

-LRB-

Xc

-RRB-

-RRB-

Tg

Si

p

p

alors

Xc

Xn

fsinon

fsi

jusqu

a

condition

pos?ee

T

g

-LRB-

T

i

-RRB-

T

diminuer

la

temp?erature

i

i

jusqu

a

arret

Fin

Algorithme

g?en?etique

canonique

Avant

d'examiner

les

m?ecanismes

et

la

puissance

d'un

Algorithme

G?en?etique

Canonique

-LRB-

AGC

-RRB-

presentons

clairement

l'objectif

vis?e

Le

probl?eme

de

l'AGC

peut

etre

r?esum?e

de

la

mani?ere

suivante

on

dispose

d'une

fonction

f

non

constante

d?efinie

sur

le

cube

logique

N

entier

naturel

a

valeurs

dans

IR

et

on

se

fixe

pour

objectif

de

localiser

l'ensemble

f

des

maxima

globaux

de

f

ou

a

d?efaut

de

trouver

le

plus

rapidement

et

le

plus

efficacement

possible

des

points

sous-optimaux

Formellement

il

s

agit

d'une

optimisation

sans

contrainte

du

type

maxff

-LRB-

x

-RRB-

x

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Tr?es

souvent

comme

dans

notre

probl?eme

de

la

MDS

on

s

int?eresse

plut

ot

aux

minima

d'une

fonction

f

et

dans

ce

contexte

les

r?esultats

suivant

sont

utilis?es

-LRB-

Optimisation

des

fonctions

-RRB-

Soit

f

une

fonction

r?eelle

a

une

ou

plusieurs

variables

Les

probl?emes

d'optimisation

suivants

sont

equivalents

-LRB-

-RRB-

minxf

-LRB-

x

-RRB-

-LRB-

-RRB-

maxxf?f

-LRB-

x

-RRB-

g

De

plus

la

fonction

optimis?ee

par

une

AG

f

doit

avoir

des

valeurs

positives

dans

l'espace

de

recherche

Dans

le

cas

contraire

il

est

n?ecessaire

d'ajouter

aux

valeurs

de

f

une

constante

positive

ad?equate

C

conform?ement

a

l'

equivalence

des

probl?emes

d'optimisation

suivants

-LRB-

a

-RRB-

maxxf

-LRB-

x

-RRB-

-LRB-

b

-RRB-

maxxfC

f

-LRB-

x

-RRB-

g

C

En

d?efinitive

l'objectif

de

l'AG

est

de

r?egler

les

diff?erents

param?etres

d'un

probl?eme

donn?e

pour

obtenir

la

plus

grande

valeur

du

fitness

f

possible

Principe

de

l'AGC

L'organigramme

-LSB-

cf.

figure

-RSB-

nous

montre

succinctement

le

fonctionnement

de

l'AGC

et

indique

clairement

ses

diff?erents

op?erateurs

de

base

Ces

op?erateurs

sont

inspir?es

directement

des

m?ecanismes

de

la

s?election

naturelle

et

des

ph?enom?enes

g?en?etiques

Ainsi

le

principe

de

l'AGC

ce

qui

d'ailleurs

justifie

son

nom

est

de

faire

evoluer

une

population

de

fa?con

a

adapter

les

individus

a

l'environnement

en

place

comme

le

ferait

un

ensemble

d'

etres

vivants

Ce

principe

s

apparente

convenablement

a

celui

de

la

th?eorie

de

Darwin

sur

l'

evolution

selon

laquelle

la

vie

est

une

comp?etition

et

seuls

les

mieux

adapt?es

survivent

et

se

reproduisent

Techniquement

une

nouvelle

g?en?eration

s

obtient

g?en?eralement

au

bout

d'un

cycle

-LSB-

cf.

figure

-RSB-

compos?e

de

trois

op?erateurs

standards

-LSB-

-RSB-

reproduction

croisement

et

mutation

Reproduction

L'op

erateur

de

reproduction

directement

inspir?e

de

la

s?election

naturelle

consiste

a

dupliquer

chaque

individu

de

la

population

proportionnellement

a

sa

valeur

d'adaptation

Il

s

agit

en

quelque

sorte

de

r?ealiser

autant

de

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Population

condition

croisement

STOP

d'arret

FitnessEvaluation

Initiale

Xo

genetiques

operations

selection

mutation

Nouvelle

population

Fig.

Organigramme

de

l'ACG

tirages

avec

remise

a

la

mani?ere

de

la

technique

du

Bootstrap

qu'il

y

a

d'

el?ements

dans

la

population

Chaque

el?ement

etant

tir?e

avec

une

probabilit?e

li?ee

a

sa

valeur

d'

evaluation

que

le

statisticien

peut

bien

interpr?eter

comme

des

probabilit?es

de

survie

Ainsi

les

individus

ayant

un

fitness

grand

ont

plus

de

chance

d'

etre

s?electionn?es

pour

la

g?en?eration

suivante

On

parle

alors

de

s?election

proportionnelle

L'op

erateur

de

reproduction

peut

etre

mis

en

oeuvre

sous

forme

algorithmique

de

diff?erentes

fa?cons

La

plus

facile

est

de

cr?eer

une

roue

de

loterie

biais?ee

-LSB-

cf.

figure

Bien

que

ce

mot

evoque

le

fait

de

se

soulever

soi-m

eme

en

tirant

sur

ses

lacets

son

principe

reste

une

id?ee

tr?es

importante

en

statistique

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

-RSB-

pour

laquelle

chaque

individu

de

la

population

courante

occupe

une

section

de

la

roue

proportionnelle

a

son

adaptation

Fig.

Roue

de

loterie

biais?ee

Pour

r?ealiser

la

reproduction

il

suffit

de

faire

tourner

la

roue

biais?ee

ainsi

d?efinie

autant

de

fois

qu'on

a

besoin

de

descendant

Le

groupe

ainsi

obtenu

constitue

l'

ebauche

de

la

nouvelle

g?en?eration

qui

est

ensuite

soumise

a

d'autres

op?erateurs

g?en?etiques

Etant

donn?e

un

fitness

positif

f

et

une

taille

de

la

population

n

une

telle

reproduction

peut

etre

d?ecrite

sch?ematiquement

par

le

pseudo

code

suivant

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Algorithme

roue

biais?ee

D?ebut

Evaluer

le

fitness

fi

de

chaque

individu

Xi

Calculer

F

le

fitness

total

de

la

population

F

Pni

fi

Pour

i

n

pi

fi

F

probabilit?e

de

s?election

de

Xi

qi

Pour

j

i

qi

qi

pj

fpour

qi

fixe

la

probabilit?e

cumulative

de

Xi

fpour

Pour

i

n

p

r?eel

tir?e

dans

-LSB-

-RSB-

Si

p

S?electionner

Sinon

S?electionner

Xk

k

n

tel

que

qk

p

qk

fsi

fpour

Fin

L'inconv

enient

majeur

de

ce

type

de

reproduction

vient

du

fait

qu'elle

peut

favoriser

la

domination

d'un

individu

ne

repr?esentant

pas

v?eritablement

le

meilleur

De

plus

elle

peut

aussi

engendrer

une

perte

de

diversit?e

par

la

domination

d'un

superindividu

Ainsi

dans

l'exemple

ci-dessus

-LSB-

cf.

figure

-RSB-

o?u

la

population

courante

est

on

peut

malheureusement

obtenir

a

la

g?en?eration

suivante

une

population

constitu?ee

du

m

eme

individu

Par

exemple

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

qui

n'est

manifestement

pas

une

bonne

population

Pour

pallier

cet

inconv?enient

on

pr?ef?ere

tr?es

souvent

des

m?ethodes

de

reproduction

plus

justes

qui

n'autorisent

en

aucun

cas

la

naissance

d'un

super-individu

Par

exemple

la

s?election

proportionnelle

au

rang

ou

d'autres

techniques

faisant

intervenir

des

notions

de

voisinage

entre

chromosomes

Apr?es

la

reproduction

un

croisement

permet

de

g?en?erer

les

nouveaux

individus

Croisement

Relativement

a

deux

individus

parents

consid?er?es

a

cette

occasion

comme

des

vecteurs

la

dynamique

de

l'op

erateur

croisement

inspir?ee

directement

du

processus

de

multiplication

des

chromosomes

humains

consiste

a

g?en?erer

deux

nouveaux

individus

enfants

de

la

fa?con

suivante

Croisement

a

un

site

Un

site

de

croisement

est

tir?e

al?eatoirement

sur

l'individu

puis

les

segments

finaux

des

deux

parents

sont

echang?es

autour

de

ce

site

Illustrons

cette

op?eration

dans

le

cas

o?u

notre

espace

de

recherche

est

un

espace

d'arbres

dont

les

l'

etiquetage

des

noeuds

se

fait

de

gauche

a

droite

Pour

cela

consid?erons

deux

graphes

et

ayant

noeuds

-LSB-

cf.

figure

-RSB-

En

supposant

que

le

site

de

croisement

issu

d'un

tirage

au

sort

est

le

noeud

-LRB-

resp

-RRB-

pour

le

graphe

-LRB-

resp

-RRB-

on

obtient

conform?ement

a

-LRB-

-RRB-

deux

enfants

et

donn?es

par

la

figure

Croisement

uniforme

Chaque

composante

du

nouveau

vecteur

est

tir?ee

al?eatoirement

parmi

les

composantes

des

parents

ayant

le

m

eme

indice

G?en?eralement

le

second

enfant

est

construit

en

prenant

le

compl?ementaire

du

premier

enfant

comme

nous

l'indique

le

sch?ema

Les

op?erations

de

croisement

que

nous

venons

de

d?ecrire

sont

les

plus

utilis?es

dans

la

litt?erature

des

AG

Il

en

existe

bien

d'autres

tels

que

le

croisement

multi-site

ou

bien

des

croisements

sp?ecialis?es

li?es

a

la

s?emantique

du

probl?eme

trait?e

et/ou

a

la

structure

du

codage

consid?er?e

Signalons

d?ej?a

que

cette

op?eration

de

croisement

prendra

dans

le

cadre

de

la

MDS

un

aspect

tr?es

sp?ecifique

et

original

Notons

au

passage

que

l'op

erateur

de

croisement

ne

modifie

pas

n?ecessairement

compte

tenu

du

caract?ere

al?eatoire

qu'il

rev

et

tous

les

individus

ayant

surv?ecu

a

la

reproduction

Mutation

L'op

eration

de

mutation

consiste

a

modifier

de

mani?ere

al?eatoire

avec

une

probabilit?e

g?en?eralement

faible

la

valeur

d'une

composante

de

l'individu

Dans

le

cas

du

codage

binaire

de

l'AGC

un

bool?een

w

choisi

al?eatoirement

est

remplac?e

par

son

inverse

w.

Techniquement

la

combinaison

de

la

reproduction

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Graphe

Graphe

Fig.

Graphes

a

croiser

et

du

croisement

est

suffisante

pour

assurer

l'

evolution

de

la

population

mais

il

peut

arriver

que

certaines

informations

essentielles

composantes

dans

la

cas

des

vecteurs

disparaissent

de

la

population

Le

r

ole

premier

de

la

mutation

est

donc

de

pallier

a

cet

inconv?enient

Prise

isol?ement

la

mutation

constitue

une

exploration

al?eatoire

de

l'espace

des

cha

ines

Mais

une

utilisation

parcimonieuse

avec

la

reproduction

et

le

croisement

constitue

une

police

d'assurance

prot?egeant

de

la

perte

pr?ematur?ee

de

composantes

importantes

Du

r

ole

secondaire

de

l'op

erateur

de

mutation

dans

l'AGC

nous

retiendrons

que

la

fr?equence

de

mutation

conseill?ee

pour

obtenir

de

bons

r?esultats

dans

les

etudes

empiriques

se

situe

autour

d'une

mutation

tous

les

bits

-LRB-

positions

-RRB-

Les

taux

de

mutation

sont

egalement

faibles

dans

les

populations

naturelles

ce

qui

nous

conduit

a

penser

que

la

mutation

est

consid?er?ee

a

juste

titre

comme

un

m?ecanisme

d'adaptation

s?econdaire

pour

les

AG

Nous

illustrons

a

la

figure

pour

un

codage

binaire

un

sch?ema

de

mutation

Un

rapprochement

plus

profond

des

AG

a

la

biologie

mol?eculaire

a

permis

la

mise

en

evidence

d'autre

op?erateurs

g?en?etiques

et

d'autres

m?ecanismes

de

reproduction

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Graphe

Graphe

Fig.

Graphes

issus

du

croisement

Parents

Enfants

-LRB-

-RRB-

-LRB-

-RRB-

Fig.

Croisement

uniforme

On

peut

citer

entre

autre

l'inversion

la

combinaison

de

l'inversion

et

du

croisement

etc.

Ces

op?erateurs

ont

et?e

utilis?es

avec

succ?es

dans

plusieurs

contextes

-LSB-

-RSB-

Cependant

les

trois

op?erateurs

et

que

nous

avons

etudi?es

dans

cette

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

site

de

mutation

Fig.

Mutation

du

caract?ere

en

partie

ont

fait

la

preuve

de

leur

simplicit?e

de

mise

en

oeuvre

algorithmique

et

de

leur

efficacit?e

pour

r?esoudre

un

nombre

important

de

probl?emes

d'optimisation

par

les

AG

f

-LRB-

x

-RRB-

f

-LRB-

x

-RRB-

espace

de

recherche

espace

de

recherche

x

x

x

x

x

x

x

xx

x

x

xx

x

x

x

x

x

xxxxxxxx

xxxx

Population

initiale

aleatoire

Population

apres

convergence

Fig.

Evolution

de

la

population

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Les

param?etres

Les

op?erateurs

de

l'AGC

sont

guid?es

par

un

certain

nombre

de

param?etres

g?en?eralement

fix?es

a

l'avance

et

dont

d?epend

tr?es

fortement

la

bonne

convergence

de

l'algorithme

Pr?esentons

bri?evement

les

principaux

param?etres

de

l'AGC

La

taille

de

la

population

et

la

longueur

du

codage

de

chaque

individu

Il

est

conseill?e

de

prendre

comme

taille

de

la

population

la

valeur

correspondant

a

la

longueur

du

codage

des

individus

En

effet

si

la

taille

de

la

population

est

tr?es

grande

l'

evaluation

de

tous

les

individus

de

la

population

peut

s

av?erer

trop

longue

Par

contre

si

elle

est

tr?es

petite

l'algorithme

peut

converger

trop

rapidement

la

probabilit?e

de

croisement

pc

Elle

d?epend

de

la

forme

de

la

fonction

d'

evaluation

Son

choix

est

g?en?eralement

exp?erimental

et

sa

valeur

est

tr?es

souvent

prise

entre

et

Plus

elle

est

elev?ee

plus

la

population

subit

des

changements

importants

Ainsi

la

convergence

est

tr?es

rapide

si

le

taux

de

croisement

est

proche

de

la

probabilit?e

de

mutation

pm

Le

taux

de

mutation

est

g?en?eralement

faible

le

risque

d'un

taux

elev?e

etant

de

modifier

les

meilleurs

individus

et

ainsi

de

s

eloigner

de

l'optimalit

e.

Il

ressort

clairement

des

divers

d?etails

donn?es

sur

les

param?etres

de

l'AGC

que

la

fixation

des

diff?erentes

valeurs

num?eriques

des

pr?ec?edents

param?etres

reste

une

t

ache

assez

complexe

En

fait

la

d?elicate

gestion

des

diff?erents

param?etres

de

l'AGC

n'est

qu'une

traduction

de

la

difficile

ma

itrise

de

ceux-ci

au

niveau

mol?eculaire

A

ce

propos

voici

quelques

remarques

d'un

biologiste

-LSB-

-RSB-

au

sujet

du

taux

de

la

mutation

Le

taux

de

mutation

est

g?en?eralement

tr?es

faible

et

pour

obtenir

une

estimation

pr?ecise

il

est

n?ecessaire

d'

etudier

un

grand

nombre

de

g?enes

Les

g?en?eticiens

classiques

ont

d?etermin?e

que

le

taux

de

mutation

qui

change

des

caract?eres

ph?enotypiques

ou

provoque

des

effets

mortels

est

de

l'ordre

de

par

locus

par

g?en?eration

dans

les

organismes

sup?erieurs

comme

l'homme

la

drosophile

et

le

ma?is

Cependant

on

en

sait

tr?es

peu

sur

la

nature

de

ces

mutations

au

niveau

de

l'ADN

En

outre

la

plupart

de

ces

mutations

sont

d?el?et?eres

et

contribuent

peu

aux

changements

dans

l'

evolution

des

organismes

R?ecemment

il

y

a

eu

de

nombreuses

tentatives

de

mesurer

le

taux

de

mutation

au

niveau

mol?eculaire

En

etudiant

loci

d'enzyme

et

g?en?erations

de

g?enes

-LRB-

nombre

de

g?enes

examin?es

nombre

de

g?en?erations

-RRB-

Voelker

et

al

-LSB-

-RSB-

ont

estim?e

que

les

taux

des

changements

de

mobilit?e

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

electrophor?etique

et

des

mutations

nulles

etaient

de

et

par

locus

et

par

g?en?eration

respectivement

G?en?eration

d'une

nouvelle

population

Nous

avons

d?ecrit

un

ensemble

suffisant

d'op

erateurs

standards

dont

se

sert

le

programmeur

pour

g?en?erer

les

nouveaux

individus

a

partir

des

descendants

de

la

population

courante

Ces

op?erateurs

peuvent

constituer

une

etape

directe

ou

indirecte

dans

le

protocole

de

cr?eation

d'une

nouvelle

g?en?eration

d'individus

Ainsi

la

litt?erature

-LSB-

-RSB-

des

AG

offre

une

collection

fort

vari?ee

de

strat?egies

dont

il

convient

ici

d'en

citer

quelques

unes

-LRB-

-RRB-

la

nouvelle

population

est

compos?ee

uniquement

des

enfants

On

laisse

alors

dispara

itre

tous

les

individus

de

la

population

courante

L'inconv

enient

majeur

de

cette

approche

est

le

risque

de

perdre

le

meilleur

individu

lorsqu'on

ne

le

conserve

pas

automatiquement

dans

la

nouvelle

population

-LRB-

-RRB-

les

enfants

remplacent

d'une

fa?con

r?eguli?ere

les

individus

les

moins

forts

de

la

g?en?eration

courante

-LRB-

-RRB-

la

nouvelle

g?en?eration

est

constitu?ee

des

n

meilleurs

individus

de

la

population

interm?ediaire

form?ee

des

enfants

et

des

parents

Le

th?eor?eme

fondamental

des

A.G.

Les

Algorithmes

g?en?etiques

font

intervenir

constamment

des

op?erateurs

al?eatoires

Cependant

l'influence

de

l'arbitraire

du

choix

est

bien

moindre

qu'on

peut

avoir

tendance

a

le

croire

Afin

de

bien

comprendre

le

processus

de

fond

appel?e

th?eor?eme

fondamental

qui

guide

l'algorithme

g?en?etique

introduisons

la

notion

de

sch?ema

Les

sch?emata

Une

bonne

partie

des

etudes

men?ees

sur

les

AG

repose

sur

leur

approche

par

information

globale

Ainsi

plusieurs

auteurs

se

sont

int?eress?es

aux

similarit?es

entre

les

individus

d'une

population

La

formalisation

de

cette

recherche

de

similarit?es

entre

les

individus

utilise

des

m?eta

symboles

ou

des

sous

ensembles

particuliers

de

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

l'espace

de

recherche

appel?e

sch?ema

Cette

notion

se

retrouve

d'ailleurs

dans

les

travaux

de

I.C.

Lerman

sous

le

nom

de

Cylindre

a

base

ponctuelle

-LSB-

-RSB-

D?efinition

Soit

X

Xn

une

s?equence

de

longueur

n

sur

l'alphabet

binaire

g

o?u

est

une

ind?etermin?ee

bool?eenne

susceptible

de

prendre

l'une

des

deux

valeurs

logiques

ou

Une

cha

ine

binaire

b

bn

est

dite

instance

du

motif

X

si

et

seulement

si

ng

bi

Xi

ou

Xi

D?efinition

L'ensemble

des

cha

ines

binaires

de

longueur

n

qui

sont

des

instances

d'un

motif

sp?ecifi?e

S

de

longueur

n

est

appel?e

sch?ema

Par

exemple

le

sch?ema

S

repr?esente

l'ensemble

des

individus

suivants

class?es

dans

l'ordre

lexicographique

Relativement

a

la

notion

de

sch?ema

introduisons

deux

caract?eristiques

couramment

utilis?ees

dans

la

th?eorie

des

AG

-LCB-

L'ordre

d'un

sch?ema

S

not?e

o

-LRB-

S

-RRB-

correspond

au

nombre

de

positions

instanci?ees

dans

le

sch?ema

S.

-LCB-

La

longueur

de

d?efinition

not?ee

l

-LRB-

S

-RRB-

d?esigne

la

distance

entre

la

premi?ere

et

la

derni?ere

position

instanci?ee

du

sch?ema

S

-LSB-

cf.

figure

-RSB-

Ainsi

dans

l'exemple

ci-dessus

S

a

pour

ordre

o

-LRB-

S

-RRB-

et

pour

longueur

de

d?efinition

l

-LRB-

S

-RRB-

Au

pluriel

sch?emata

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

longueur

Fig.

Longueur

de

d?efinition

d'un

sch?ema

Th?eor?eme

des

sch?emata

Nous

consid?erons

un

AG

canonique

op?erant

sur

une

fonction

f

d?efinie

sur

le

cube

logique

IB

N

entier

naturel

a

valeurs

dans

IR

D?esignons

par

P

une

population

d'individus

cha

ine

binaire

de

longueur

N

A

IB

on

associe

la

suite

des

valeurs

ff

-LRB-

w

-RRB-

w

IBg

D?efinition

L'utilit

e

d'un

sch?ema

S

vis

a

vis

de

la

population

P

se

mesure

par

l'expression

u

-LRB-

P

S

-RRB-

jS

P

j

X

P

f

-LRB-

w

-RRB-

o?u

jS

P

j

d?esigne

le

cardinal

de

l'ensemble

S

P

D?esignons

par

-LRB-

Pt

-RRB-

t

IN

les

diff?erentes

populations

successives

obtenues

par

l'AGC

Le

th?eor?eme

fondamental

des

algorithmes

g?en?etiques

indique

que

la

fr?equence

relative

de

pr?esence

de

repr?esentants

dans

la

population

Pt

appartenant

a

un

sch?ema

S

a

d'autant

plus

tendance

a

augmenter

dans

la

population

Pt

que

l'utilit

e

de

S

est

meilleure

Formellement

ce

th?eor?eme

se

traduit

par

l'in

egalit?e

suivante

-LSB-

-RSB-

Th?eor?eme

-LRB-

des

sch?emata

-RRB-

Si

-LRB-

Pt

-RRB-

t

IN

d?esigne

les

populations

successives

obtenues

par

l'AGC

alors

E

-LRB-

-LSB-

S

Pt

-RSB-

-RRB-

jS

Ptj

u

-LRB-

Pt

S

-RRB-

u

-LRB-

Pt

IB

-RRB-

-LRB-

c

-LRB-

Pt

S

-RRB-

m

-LRB-

Pt

S

-RRB-

-RRB-

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

o?u

E

d?esigne

l'esp

erance

math?ematique

et

c

-LRB-

:-RRB-

-LRB-

resp

m

-LRB-

:-RRB-

approximent

les

probabilit?es

qu'une

instance

de

S

soit

d?etruite

n'apparaisse

pas

dans

la

g?en?eration

suivante

par

l'op

erateur

de

croisement

-LRB-

resp

mutation

-RRB-

Ce

r?esultat

peut

se

formuler

en

utilisant

les

diff?erents

param?etres

de

l'AGC

et

les

caract?eristiques

du

sch?ema

S.

Pour

le

croisement

nous

nous

limitons

au

croisement

a

un

seul

site

En

effet

la

probabilit?e

qu'un

sch?ema

S

de

taille

N

soit

d?etruit

n'est

plus

de

repr?esentant

dans

la

g?en?eration

est

quantifi?ee

par

l

-LRB-

S

-RRB-

-LRB-

N

-RRB-

-LRB-

-RRB-

o?u

l

-LRB-

S

-RRB-

est

la

longueur

de

d?efinition

du

sch?ema

S.

Ainsi

un

sch?ema

ayant

une

grande

longueur

de

d?efinition

a

plus

de

chance

d'

etre

d?etruit

par

l'op

erateur

de

croisement

Le

croisement

etant

appliqu?e

avec

une

probabilit?e

pc

la

survie

du

sch?ema

S

apr?es

croisement

simple

un

seul

site

de

croisement

est

alors

minor?ee

par

la

probabilit?e

pc

l

-LRB-

S

-RRB-

-LRB-

N

-RRB-

-LRB-

-RRB-

D'autre

part

un

chromosome

du

sch?ema

peut

subir

des

changements

sous

l'effet

de

la

mutation

Le

sch?ema

restera

inchang?e

si

aucune

des

o

-LRB-

S

-RRB-

positions

instanci?ees

ne

subit

l'influence

de

l'op

erateur

de

mutation

Ainsi

la

destruction

du

sch?ema

S

par

une

mutation

de

probabilit?e

petite

pm

se

traduit

par

la

probabilit?e

-LRB-

pm

-RRB-

o

-LRB-

S

-RRB-

ss

o

-LRB-

S

-RRB-

pm

-LRB-

-RRB-

En

d?efinitive

nous

avons

c

-LRB-

Pt

S

-RRB-

pc

l

-LRB-

S

-RRB-

-LRB-

N

-RRB-

et

m

-LRB-

Pt

S

-RRB-

o

-LRB-

S

-RRB-

pm

Dans

ces

conditions

l'in

egalit?e

du

th?eor?eme

des

sch?emata

se

pr?esente

sous

la

forme

E

-LRB-

-LSB-

S

Pt

-RSB-

-RRB-

jS

Ptj

u

-LRB-

Pt

S

-RRB-

u

-LRB-

Pt

IB

-RRB-

-LRB-

pc

l

-LRB-

S

-RRB-

-LRB-

N

-RRB-

o

-LRB-

S

-RRB-

pm

-RRB-

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

A

travers

cette

reformulation

on

peut

remarquer

que

les

building

blocks

sch?emata

de

courte

longueur

de

d?efinition

et

de

faible

ordre

auront

tendance

a

se

multiplier

consid?erablement

dans

la

population

Ainsi

la

bonne

convergence

de

l'AG

reposerait

sur

la

capacit?e

de

recombiner

ces

building

blocks

par

croisement

pour

obtenir

des

chromosomes

de

plus

en

plus

performants

L'utilit

e

relative

des

sch?emata

u

-LRB-

Pt

S

-RRB-

devient

alors

un

aspect

fondamental

de

la

mesure

de

performance

d'un

algorithme

g?en?etique

-LSB-

-RSB-

-LSB-

-RSB-

-LSB-

-RSB-

-LSB-

-RSB-

Parall?elisme

implicite

Lorsqu'on

regarde

l'AG

comme

un

m?ega

op?erateur

sur

l'espace

des

sch?emata

une

des

cons?equences

pratiques

du

th?eor?eme

des

sch?emata

est

le

ph?enom?ene

appel?e

parall?elisme

implicite

des

op?erations

En

fait

chaque

evaluation

d'un

individu

fournit

une

information

sur

les

sch?emata

qu'il

repr?esente

Une

population

de

m

chromosomes

engendre

entre

et

m

sch?emata

Le

nombre

de

sch?emata

trait?es

est

en

moyenne

de

l'ordre

de

Ainsi

plus

large

est

l'espace

de

recherche

plus

int?eressant

est

l'emploi

d'un

AG

par

rapport

a

d'autres

technique

-LSB-

-RSB-

Le

parall?elisme

implicite

peut

se

r?esumer

dans

l'

enonc?e

plus

pr?ecis

suivant

-LSB-

-RSB-

Th?eor?eme

-LRB-

Sur

le

parall?elisme

implicite

-RRB-

Soit

P

une

population

de

taille

m

l

dont

les

individus

sont

choisis

ind?ependamment

et

uniform?ement

de

fa?con

al?eatoire

dans

IB

Notons

p

alors

pour

le

nombre

moyen

de

sch?emata

disjoints

qui

se

propagent

avec

une

probabilit?e

inf?erieure

a

p

d'

etre

d?etruit

par

application

de

l'op

erateur

de

croisement

est

au

moins

de

l

l

-LRB-

e?l

-RRB-

Cette

expression

nous

donne

une

borne

inf?erieure

d'ordre

pour

et

une

borne

inf?erieure

d'ordre

pour

En

outre

avec

une

probabilit?e

sup?erieure

a

l

le

nombre

de

sch?emata

qui

se

propagent

est

au

moins

l

l

-LRB-

e?l

-RRB-

Terminologie

emprunt?e

a

Goldberg

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Codage

des

solutions

Dans

un

Algorithme

g?en?etique

il

est

n?ecessaire

compte

tenu

de

la

complexit?e

des

objets

manipul?es

de

travailler

a

un

niveau

synth?etique

notamment

pour

les

deux

op?erations

fondamentales

que

sont

le

croisement

et

la

mutation

Les

solutions

sont

alors

repr?esent?es

sous

forme

de

codes

qui

tiennent

compte

au

mieux

de

la

nature

du

probl?eme

pos?e

Pour

notre

probl?eme

de

la

MDS

nous

codons

comme

nous

le

verrons

plus

loin

une

configuration

directement

par

un

vecteur

de

r?eels

Cependant

les

premi?eres

g?en?erations

des

AG

en

particulier

l'AGC

utilisaient

essentiellement

l'alphabet

binaire

conform?ement

aux

travaux

de

Holland

-LSB-

-RSB-

qui

montre

avec

la

th?eorie

des

sch?emata

que

le

code

optimal

pour

un

AG

est

un

code

ayant

un

alphabet

le

plus

petit

possible

Dans

ce

contexte

le

d?ecodage

d'une

cha

ine

binaire

s

-LRB-

sn

-RRB-

en

un

nombre

r?eel

x

-LSB-

a

b

-RSB-

est

directe

et

compl?etement

d?etermin?ee

par

les

deux

op?erations

suivantes

-LRB-

-RRB-

La

s?equence

binaire

s

est

convertie

en

base

-LRB-

sn

-RRB-

-LRB-

nX

i

-RRB-

-LRB-

-RRB-

le

nombre

r?eel

x

correspondant

est

x

a

b

a

Ces

op?erations

sont

effectu?ees

un

grand

nombre

de

fois

a

chaque

evaluation

d'un

individu

au

cours

de

l'

evolution

de

l'algorithme

Par

cons?equent

le

choix

d'un

code

doit

tenir

compte

de

la

complexit?e

algorithmique

du

processus

de

codage/d

ecodage

dont

la

lourdeur

peut

ralentir

les

calculs

et

influencer

consid?erablement

la

convergence

de

l'algorithme

tout

entier

Convergence

de

l'AGC

La

convergence

vers

une

solution

optimale

d'un

algorithme

est

un

but

toujours

recherch?e

et

rarement

atteint

La

question

se

pose

de

fa?con

fondamentale

pour

les

Algorithmes

g?en?etiques

et

notamment

l'AGC

Dans

cette

partie

les

propri?et?es

des

cha

ines

de

Markov

sont

exploit?ees

pour

etudier

la

convergence

de

l'Algorithme

g?en?etique

canonique

Nous

adoptons

l'approche

r?ecente

de

G?unter

-LSB-

-RSB-

dans

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

laquelle

la

s?equence

des

populations

produites

par

l'AGC

est

consid?er?ee

comme

une

cha

ine

de

Markov

homog?ene.La

propri?et?e

fondamentale

d'un

syst?eme

markovien

est

l'absence

de

m?emoire

l'

evolution

future

du

syst?eme

ne

d?epend

que

de

l'instant

pr?esent

et

non

de

son

evolution

pass?ee

Toutefois

il

existe

d'autres

approches

plus

ou

moins

convaincantes

En

particulier

le

parall?elisme

implicite

et

le

th?eor?eme

des

sch?emata

ont

servi

d'outils

de

l'analyse

de

la

convergence

des

AG

Malheureusement

les

arguments

combinatoires

tr?es

imm?ediats

utilis?es

dans

cette

analyse

ont

paru

peu

rigoureux

-LSB-

-RSB-

La

th?ese

de

Cerf

-LSB-

-RSB-

etudie

egalement

une

th?eorie

asymptotique

des

algorithmes

g?en?etiques

fond?ee

sur

la

th?eorie

de

Freidlin-Wentzell

des

petites

perturbations

al?eatoires

de

syst?emes

dynamiques

Cha

ines

de

Markov

finies

Dans

cette

partie

nous

rappelons

les

r?esultats

principaux

relatifs

aux

processus

markoviens

dont

nous

chercherons

a

montrer

l'int

er

et

pour

la

convergence

des

Algorithmes

g?en?etiques

dans

le

paragraphe

suivant

Nous

consid?erons

une

cha

ine

de

Markov

homog?ene

d'espace

fini

d'

etats

E

de

cardinal

r

compl?etement

d?efinie

par

la

donn?ee

d'une

part

de

ses

probabilit?es

initiales

qi

P

-LRB-

Ei

-RRB-

i

r

et

d'autre

part

de

sa

transition

matrice

de

transition

P

-LRB-

pij

-RRB-

i

j

r.

P

BBBBBBBBBB

prr

CCCCCCCCCCA

D?efinition

Un

etat

i

est

dit

ap?eriodique

si

pgdcfk

pkii

g

o?u

pkii

coefficient

de

P

multipli?ee

par

elle

m

eme

k

fois

est

la

probabilit?e

conditionnelle

de

revenir

a

l'

etat

i

en

k

etapes

D?efinition

Une

cha

ine

de

Markov

irr?eductible

tout

etat

peut

etre

atteint

a

partir

de

tout

autre

etat

et

ayant

tous

ses

etats

ap?eriodiques

est

dite

ergodique

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Nous

donnons

ci-apr

es

une

liste

de

propri?et?es

matricielles

fondamentales

partag?ees

par

les

matrices

de

transition

La

matrice

M

-LRB-

aij

-RRB-

r?ef?erenc?ee

dans

les

enonc?es

est

suppos?ee

carr?ee

et

d'ordre

n.

D?efinition

-LRB-

Propri?et?es

des

matrices

de

transition

-RRB-

-LRB-

-RRB-

M

est

dite

positive

-LRB-

M

-RRB-

si

aij

j

ng

-LRB-

-RRB-

M

est

dite

non

n?egative

-LRB-

M

-RRB-

si

aij

j

ng

Une

matrice

M

non

n?egative

est

dite

-LRB-

-RRB-

primitive

s

il

existe

un

entier

naturel

k

tel

que

Mk

soit

positive

En

particulier

toute

matrice

positive

est

une

matrice

primitive

-LRB-

-RRB-

r?eductible

si

elle

peut

etre

mis

sous

la

forme

-LRB-

U

et

V

sont

des

matrices

carr?ees

-RRB-

U

R

V

en

appliquant

les

m

emes

permutations

sur

les

lignes

et

les

colonnes

de

la

matrice

M

Une

matrice

r?eductible

n'est

donc

psa

primitive

-LRB-

-RRB-

stochastique

si

rX

k

aik

En

particulier

toutes

les

matrices

de

transitions

sont

stochastiques

et

tout

produit

de

matrices

stochastiques

donne

une

matrice

stochastique

Une

matrice

M

stochastique

est

dite

-LRB-

-RRB-

stable

si

toutes

ses

lignes

sont

identiques

-LRB-

-RRB-

positive

par

colonne

si

elle

a

au

moins

un

el?ement

positif

par

colonne

Lem

me

Soient

A

-LRB-

aij

-RRB-

B

-LRB-

bij

-RRB-

et

C

-LRB-

cij

-RRB-

i

j

ng

trois

matrices

stochastiques

avec

B

positive

et

C

positive

par

colonne

Alors

ABC

est

une

matrice

positive

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Th?eor?eme

-LSB-

-RSB-

Pour

toute

matrice

M

stochastique

primitive

Mk

produit

matriciel

converge

lorsque

k

vers

une

matrice

stochastique

positive

et

stable

o?u

-LRB-

-RRB-

et

est

sans

el?ement

nul

unique

et

ind?ependante

de

la

distribution

initiale

Th?eor?eme

-LSB-

-RSB-

Soit

une

matrice

M

U

R

V

stochastique

et

r?eductible

o?u

la

matrice

carr?ee

U

d'ordre

l

est

stochastique

primitive

et

R

V

Alors

limk

limk

Uk

Pk

i

V

iRUk?i

V

k

est

une

matrice

stochastique

stable

avec

unique

et

ind?ependante

de

la

distribution

initiale

satisfait

i

l

et

l

i

n

Analyse

de

l'AGC

par

les

Cha

ines

de

Markov

Le

comportement

de

l'Algorithme

g?en?etique

canonique

optimisant

une

fonction

f

d?efinie

sur

le

cube

logique

IB

N

entier

naturel

a

valeurs

dans

IR

est

mod?elis?e

dans

ce

paragraphe

par

une

cha

ine

de

Markov

homog?ene

finie

pour

lequel

l'espace

d'

etats

est

donn?e

par

E

IBN

l

o?u

N

d?esigne

la

taille

d'un

chromosome

et

l

l'effectif

de

la

population

-LSB-

-RSB-

Chaque

etat

est

alors

constitu?e

rigoureusement

d'une

population

et

d'une

seule

Dans

ces

conditions

nous

pouvons

d?esigner

par

ssik

la

projection

qui

retourne

pour

l'

etat

i

le

k

i?eme

chromosome

de

taille

l

Cette

fonctionalit?e

nous

permet

d'identifier

tous

les

individus

d'une

population

etat

Nous

consid?erons

une

d?ecomposition

de

la

matrice

P

de

transition

de

l'AGC

en

un

produit

naturel

de

matrices

stochastiques

P

C

M

S

o?u

C

M

et

S

d?ecrivent

les

transitions

interm?ediaires

issues

respectivement

du

croisement

de

la

mutation

et

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

de

la

reproduction-s

election

Cette

d?ecomposition

est

toujours

possible

tel

que

nous

l'indique

la

propri?et?e

Ceci

nous

conduit

au

r?esultat

suivant

Th?eor?eme

-LSB-

-RSB-

Soit

un

AGC

avec

une

probabilit?e

de

croisement

pc

-LSB-

-RSB-

une

probabilit?e

de

mutation

pm

-LRB-

-RRB-

une

s?election

proportionnelle

et

une

matrice

de

transition

P

Alors

P

est

primitive

Preuve

L'op

erateur

de

croisement

peut

etre

vu

comme

une

fonction

al?eatoire

d?efinie

sur

E

a

valeurs

dans

E.

Chaque

etat

est

donc

li?e

d'une

fa?con

probabiliste

a

un

autre

etat

Ainsi

C

est

une

matrice

stochastique

Ce

raisonnement

tient

pour

M

et

S.

La

probabilit?e

qu'un

etat

i

devienne

l'

etat

j

apr?es

une

mutation

est

donn?ee

par

mij

pHij

m

-LRB-

pm

-RRB-

N

l?Hij

j

E

o?u

Hij

d?esigne

la

distance

de

Hamming

entre

les

repr?esentations

binaires

des

etats

i

et

j.

M

est

donc

positive

La

probabilit?e

piis

qu'une

s?election

ne

perturbe

pas

un

etat

g?en?er?e

par

la

mutation

est

born?ee

par

piis

f

-LRB-

-RRB-

f

-LRB-

ssiN

l

-RRB-

-LRB-

f

-LRB-

-RRB-

f

-LRB-

ssiN

l

-RRB-

-RRB-

N

l

pour

tout

etat

i

E.

Ainsi

S

est

positive

par

colonne

Le

th?eor?eme

nous

indique

que

dans

ces

conditions

P

C

M

S

est

positive

Or

toute

matrice

positive

est

primitive

donc

P

est

primitive

Corollaire

L'AGC

avec

les

param?etres

du

th?eor?eme

pr?ec?edent

est

une

cha

ine

de

Markov

ergodique

Preuve

Cons?equence

imm?ediate

des

th?eor?emes

et

La

distribution

initiale

n

a

donc

pas

d'effet

sur

le

comportement

limite

de

la

cha

ine

de

Markov

Ainsi

l'initialisation

de

l'algorithme

g?en?etique

canonique

peut

etre

arbitraire

et

l'op

eration

de

reproduction-s

election

peut

th?eoriquement

etre

omise

puisque

la

distribution

limite

restera

inchang?ee

Par

contre

la

propri?et?e

d'ergocit

e

a

des

cons?equences

consid?erables

sur

le

comportement

asymptotique

de

l'AGC

Pr?ecisons

dans

quel

sens

nous

entendons

la

convergence

de

l'AG

L'objectif

d'un

AGC

est

de

localiser

l'ensemble

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

f

maxff

-LRB-

x

-RRB-

x

des

maxima

globaux

de

f

En

gardant

les

notations

pr?ec?edentes

d?esignons

par

Xt

maxff

-LRB-

sskt

-LRB-

i

-RRB-

-RRB-

tq

k

Ng

une

suite

de

variables

al?eatoires

repr?esentant

les

meilleurs

fitness

dans

la

population

i

au

temps

t.

Alors

l'AGC

converge

vers

l'optimum

global

si

et

seulement

si

limt

f?g

Ceci

nous

conduit

a

un

r?esultat

qui

fait

encore

couler

beaucoup

d'encre

Th?eor?eme

Tout

AGC

avec

une

probabilit?e

de

croisement

pc

-LSB-

-RSB-

une

probabilit?e

de

mutation

pm

-LRB-

-RRB-

et

une

s?election

proportionnelle

ne

converge

pas

vers

l'optimum

global

Preuve

Soit

un

etat

i

E

tel

que

maxff

-LRB-

x

-RRB-

x

f?g

et

la

probabilit?e

pit

que

l'AG

soit

a

l'

etat

i

au

temps

t

On

a

clairement

PfXt

f?g

pit

PfXt

f?g

pit

D'apr

es

le

th?eor?eme

la

probabilit?e

que

l'AG

soit

a

l'

etat

i

converge

vers

Par

cons?equent

limt

f?g

Dans

la

pratique

nous

ne

nous

conformerons

pas

strictement

au

mod?ele

al?eatoire

de

la

s?election

proportionnelle

puisque

la

meilleure

solution

obtenue

a

une

etape

de

l'AGC

est

gard?ee

pour

l'

etape

suivante

Ainsi

la

solution

globale

est

forcement

visit?ee

apr?es

un

nombre

fini

certes

tr?es

elev?e

de

transitions

Cette

technique

est

appel?e

couramment

elitisme

-LSB-

-RSB-

Adaptation

des

AG

a

la

repr?esentation

euclidienne

Pr?eambule

Dans

cette

partie

nous

exploitons

la

souplesse

des

AG

d?ecrits

dans

le

paragraphe

pr?ec?edent

pour

d?evelopper

de

nouveaux

algorithmes

destin?es

a

la

repr?esentation

euclidienne

d'une

matrice

de

proximit?es

Ce

probl?eme

est

math?ematiquement

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

repr?esent?ee

ind?ependamment

des

approches

-LRB-

solution

classique

moindres

carr?es

ou

maximum

de

vraisemblance

-RRB-

par

l'

equation

fondamentale

de

l'optimisation

num?erique

sans

contrainte

en

dimension

finie

-LSB-

-RSB-

-LSB-

-RSB-

-LSB-

-RSB-

minff

-LRB-

x

-RRB-

x

kg

o?u

f

d?esigne

la

fonction

co

ut

adopt?ee

et

k

la

dimension

de

la

configuration

recherch?ee

Bien

que

les

crit?eres

-LSB-

cf.

table

-RSB-

d?ependent

des

m?ethodes

nous

nous

effor?cons

a

proposer

des

proc?edures

valides

pour

toutes

les

fonctions

co

ut

bas?ees

sur

les

Algorithmes

g?en?etiques

M?ethode

Fonction

co

ut

Torgerson-Gower

tr

-LRB-

W

XX

-RRB-

-LRB-

PCA

ou

AFTD

-RRB-

Kruskal-Shepard

Pi

j

-LRB-

ffiij

dij

-LRB-

X

-RRB-

-RRB-

Leeuw-Heiser

Pi

j

-LRB-

ffiij

dij

-LRB-

X

-RRB-

-RRB-

Takane-Young

Pi

j

-LRB-

-LRB-

X

-RRB-

-RRB-

Ramsay

Pi

j

-LRB-

log

ffiij

logdij

-LRB-

X

-RRB-

-RRB-

Tab

Quelques

crit?eres

utilis?es

en

MDS

La

table

est

construite

a

partir

des

articles

-LSB-

-RSB-

-LSB-

-RSB-

et

-LSB-

-RSB-

et

donne

un

aper?cu

des

fonctions

co

ut

existantes

dans

la

litt?erature

de

la

MDS

Elle

utilise

les

notations

suivantes

ffiij

dissimilarit?e

entre

les

objets

i

et

j

X

configuration

dans

un

espace

de

dimension

k

dij

distance

entre

les

objets

i

et

j

dans

X

W

matrice

dite

de

Torgerson

d

transformation

monotone

croissante

optimale

de

ffi

disparit?e

PCA

Principal

Coordinate

Analysis

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Nous

consid?erons

deux

directions

dans

la

pr?esentation

des

r?esultats

La

premi?ere

est

conforme

a

la

vision

classique

de

la

MDS

-LRB-

PCA

ou

AFTD

-RRB-

o?u

la

solution

se

trouve

d?efini

par

des

facteurs

orthogonaux

-LSB-

uk

-RSB-

dont

chacun

peut

etre

interpret?e

comme

une

fonction

sur

l'ensemble

des

sommets

du

nuage

auquel

il

est

relatif

La

deuxi?eme

direction

pr?esente

directement

la

configuration

issue

de

l'optimisation

des

fonctions

co

ut

Ainsi

l'individu

de

AG

est

directement

li?e

a

la

nature

math?ematique

de

l'objet

recherch?e

les

configurations

spatiales

de

points

Sans

distinguer

rigoureusement

ces

deux

directions

nous

organisons

ce

paragraphe

comme

suit

Nous

commen?cons

par

d?ecrire

au

paragraphe

le

fitness

et

l'espace

de

recherche

de

nos

algoritmes

C'est

au

paragraphe

que

nous

pr?esentons

notre

codage

qui

a

un

caract?ere

tr?es

synth?etique

et

g?eom?etrique

Les

op?erateurs

de

croisement

et

de

mutation

adapt?es

a

nos

individus

sont

ensuite

pr?esent?es

au

paragraphe

Le

paragraphe

est

r?eserv?e

a

la

description

des

algorithmes

que

nous

proposons

Nous

montrerons

au

paragraphe

comment

acc?el?erer

nos

AG

par

hybridation

en

combinant

a

ceux-ci

les

algorithmes

classiques

d'optimisation

Nous

terminons

par

la

pr?esentation

de

la

fonction

dite

de

partage

sharing

qui

permet

d'avoir

un

ensemble

de

solutions

dans

le

cas

des

fitness

multimodaux

Nous

n'aborderons

ni

les

m?ethodes

de

collecte

de

l'information

conduisant

a

la

construction

des

matrices

de

proximit?es

ni

l'

etude

du

caract?ere

euclidien

de

ces

matrices

-LSB-

-RSB-

Fitness

et

espace

de

recherche

Nous

supposons

la

donn?ee

d'une

fonction

co

ut

positive

a

minimiser

f

quelconque

-LSB-

cf.

Table

-RSB-

Si

nous

notons

par

X

un

individu

de

l'AG

le

fitness

quantit?e

positive

-LRB-

cf.

-RRB-

est

donn?ee

par

fi

f

-LRB-

Xi

-RRB-

i

nff

-LRB-

Xi

-RRB-

g

o?u

est

une

constante

positive

tr?es

petite

L'ajout

de

cette

constante

permet

d'attribuer

une

probabilit?e

de

s?election

non

nulle

a

l'individu

le

plus

faible

L'espace

de

recherche

d'un

AG

classique

dans

un

probl?eme

d'optimisation

d'une

fonction

de

n

variables

est

une

boule

hypercubique

-LSB-

-RSB-

-LSB-

an

bn

-RSB-

de

n.

Ce

qui

suppose

pour

une

bonne

efficacit?e

num?erique

une

identification

a

priori

de

la

zone

solution

Par

ailleurs

notre

probl?eme

poss?ede

un

ensemble

de

solutions

pouvant

d?ecrire

un

c

one

En

effet

si

Y

est

une

configuration

optimale

la

configuration

ffY

est

aussi

une

configuration

optimale

En

d'autres

termes

la

fonction

co

ut

de

la

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

MDS

est

invariante

par

toute

transformation

homoth?etique

Cette

invariance

s

etend

d'ailleurs

a

toutes

les

transformations

appartenant

au

groupe

des

similitudes

Dans

ces

conditions

une

boule

de

l'espace

de

repr?esentation

de

dimension

deux

ou

trois

muni

d'une

subdivision

discr?ete

est

suffisante

comme

espace

de

recherche

Ainsi

nous

consid?erons

pour

espace

de

recherche

dans

le

cas

d'une

repr?esentation

planaire

un

carr?e

de

c

ot?e

egal

a

l'unit

e.

Repr?esentation

chromosomique

codage

des

individus

Classiquement

pour

l'emploi

d'un

AG

en

optimisation

le

chromosome

est

directement

la

concat?enation

des

codes

binaires

des

composantes

du

vecteur

repr?esentant

un

point

de

l'espace

de

recherche

Dans

notre

probl?eme

une

solution

de

la

MDS

ou

de

l'AFTD

dans

un

espace

de

dimension

k

n

est

une

matrice

n

k

X

de

r?eels

de

la

forme

suivante

X

xnk

Ainsi

une

population

de

solutions

dans

l'espace

de

recherche

est

un

ensemble

de

matrices

r?eelles

M

-LRB-

n

k

-RRB-

Nous

adoptons

un

code

directement

li?e

a

la

matrice

et

donn?e

pour

l'individu

i

par

le

vecteur

r?eel

de

taille

n

k

Xi

xink

o?u

les

xilj

sont

des

r?eels

et

le

sous-ensemble

xijk

correspond

aux

coordonn?ees

de

la

j

eme

entit?e

trait?ee

L'int

er

et

majeur

par

rapport

au

codage

binaire

de

ce

type

de

codage

r?eside

dans

sa

capacit?e

r?eductrice

de

la

complexit?e

En

effet

le

d?ecodage

port?e

directement

sur

les

indices

est

quasi-imm

ediat

et

ne

n?ecessite

aucunement

une

op?eration

de

codage/d

ecodage

semblable

a

celle

que

nous

avons

pr?esent?ee

au

paragraphe

Nous

restreignons

dans

la

suite

de

l'article

nos

analyses

sur

un

espace

de

dimension

ce

qui

n'alt

ere

en

rien

la

perspicacit?e

de

nos

r?esultats

Croisement

et

Mutation

Etant

donn?e

deux

configurations

cod?ees

-LRB-

-RRB-

et

-LRB-

-RRB-

un

croisement

classique

que

nous

appelons

par

la

suite

croisement

global

produit

des

Rotation

sym?etrie

translation

homoth?etie

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

nouvelles

configurations

suivant

le

principe

enonc?e

au

paragraphe

Le

croisement

uniforme

correspond

ici

a

interchanger

un

sous

ensemble

al?eatoire

de

sommets

-LSB-

cf.

figure

-RSB-

alors

q

une

op?eration

de

mutation

concernant

une

m

eme

configuration

correspond

a

un

d?eplacement

ad?equat

d'un

sommet

choisi

al?eatoirement

Par

exemple

en

considerant

les

individus

parents

de

la

figure

X

-LRB-

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

Y

-LRB-

xa

xb

xc

xd

xe

xf

xg

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

Un

croisement

uniforme

qui

porte

sur

les

sites

indices

et

produit

deux

individus

enfants

X

-LRB-

xb

xd

xf

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

Y

-LRB-

xa

xc

xe

xg

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

-LRB-

-RRB-

Une

difficult?e

emerge

lorsqu'on

applique

conform?ement

a

la

th?eorie

des

AG

les

op?erateurs

que

nous

venons

de

d?ecrire

avec

une

probabilit?e

faible

pour

la

mutation

Le

capital

g?en?etique

l'ensemble

des

composantes

de

tous

les

vecteurs

des

diff?erentes

g?en?erations

reste

pratiquement

inchang?e

et

diff?ere

tr?es

peu

de

celui

de

la

population

initiale

Ceci

s

explique

par

le

fait

que

le

croisement

a

finalement

pour

simple

r

ole

de

changer

les

indices

des

composantes

Une

premi?ere

id?ee

a

et?e

d'ench

erir

la

probabilit?e

de

mutation

pour

maintenir

un

diversit?e

suffisant

et

ainsi

pr?eserver

l'am

elioration

Mais

les

travaux

de

De

Jong

d?emontre

clairement

que

cette

m?ethode

ne

constitue

pas

la

panac?ee

Une

augmentation

incontr

ol?ee

du

taux

de

mutation

peut

d?egrader

la

performance

de

l'algorithme

g?en?etique

Nous

avons

donc

introduit

un

nouveau

op?erateur

dit

de

croisement

local

qui

agit

localement

sur

des

couples

de

composantes

des

deux

individus

a

croiser

Ce

croisement

g?en?eratrice

de

nouvelles

composantes

se

justifie

par

le

r?esultat

suivant

Th?eor?eme

-LRB-

Propri?et?e

sur

le

codage

binaire

-RRB-

Soient

et

deux

individus

binaires

d'un

AG

Si

et

sont

deux

individus

obtenus

par

un

croisement

multi-site

de

et

l'

egalit?e

suivante

est

v?erifi?ee

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Parent

Parent

Enfant

x

x

x

x

x

x

x

x

b

x

c

x

g

x

f

x

e

x

d

x

a

x

x

x

x

b

x

d

x

f

x

a

x

c

x

e

x

g

x

x

x

x

Fig.

Croisement

de

deux

configurations

planaires

En

d'autres

termes

la

somme

des

enfants

issus

d'un

croisement

multi-site

est

toujours

egale

a

la

somme

des

parents

Par

exemple

si

nous

consid?erons

deux

chromosomes

et

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Un

croisement

multi-site

-LRB-

-RRB-

donne

et

nous

avons

bien

Relativement

a

deux

individus

et

le

croisement

local

s

effectue

comme

suit

on

choisit

al?eatoirement

dans

l'esprit

des

AG

environ

des

couples

-LRB-

-RRB-

de

composantes

d'un

couple

d'individus

parents

tir?e

au

hasard

parmi

les

plus

mal

class?es

dans

l'ordre

de

performance

typiquement

L'une

des

composantes

par

exemple

du

couple

ainsi

s?electionn?e

est

remplac?ee

par

un

r?eel

tir?e

au

hasard

dans

-LSB-

a

b

-RSB-

o?u

a

max

-LRB-

-RRB-

min

-LRB-

-RRB-

b

min

-LRB-

Sup

-RRB-

et

la

composante

est

substitu?ee

conform?ement

a

par

Sup

Max

-LRB-

:-RRB-

et

min

-LRB-

:-RRB-

d?esignent

respectivement

la

borne

sup?erieure

de

l'espace

r?eel

de

recherche

les

fonctions

maximum

et

le

minimum

usuelles

En

d?efinitive

notre

croisement

dit

local

est

pour

notre

probl?eme

une

adaptation

tr?es

int?eressante

du

croisement

multi-site

classique

sur

des

chromosomes

produits

par

concat?enation

des

codes

binaires

Description

des

algorithmes

L'algorithme

g?en?etique

elitiste

ci-dessous

calcule

une

matrice

solution

X

du

probl?eme

de

la

repr?esentation

affine

d'une

matrice

de

dissimilarit?e

Etant

donn?e

g

une

fonction

co

ut

et

les

differents

param?etres

le

sch?ema

de

base

de

cet

algorithme

destin?e

a

optimiser

directement

la

fonction

co

ut

se

d?eroule

de

fa?con

r?ecursive

comme

suit

f

fitness

ou

fonction

d'

evaluation

le

meilleur

individu

est

automatiquement

s?electionn?e

pour

la

g?en?eration

suivante

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

n

taille

de

la

population

c

fonction

de

croisement

Cette

fonction

peut

etre

une

compos?ee

de

differents

types

de

croisement

m

fonction

de

mutation

D?ebut

t

probabilit?e

de

croisement

probabilit?e

de

mutation

X

-LRB-

t

-RRB-

population

initiale

Evaluer

X

-LRB-

t

-RRB-

R?ep?eter

Chercher

le

meilleur

individu

Xm

-LRB-

t

-RRB-

f

-LRB-

Xm

-LRB-

t

-RRB-

-RRB-

i

nf

-LRB-

Xi

-LRB-

t

-RRB-

-RRB-

Si

Xm

-LRB-

t

-RRB-

est

bon

STOP

t

t

G?en?erer

Y

-LRB-

t

-RRB-

par

reproduction-s

election

Y

-LRB-

t

-RRB-

c

-LSB-

Y

-LRB-

t

-RRB-

-RSB-

croisement

Y

-LRB-

t

-RRB-

m

-LSB-

Y

-LRB-

t

-RRB-

-RSB-

mutation

Si

Xm

-LRB-

t

-RRB-

Y

-LRB-

t

-RRB-

X

-LRB-

t

-RRB-

-LRB-

Xm

-LRB-

t

-RRB-

Y

-LRB-

t

-RRB-

-RRB-

Sinon

X

-LRB-

t

-RRB-

Y

-LRB-

t

-RRB-

fsi

jusqu

a

bonne

solution

Fin

Les

contraintes

qui

s

ajoutent

a

ce

sch?ema

de

base

pour

la

deuxi?eme

direction

qui

suit

la

solution

classique

de

la

MDS

-LRB-

PCA

ou

AFTD

-RRB-

sont

d'une

part

le

choix

de

la

fonction

co

ut

-LSB-

cf.

table

-RSB-

et

d'autre

part

la

construction

des

facteurs

orthogonaux

solutions

par

la

d?ecomposition

en

valeurs

singuli?eres

que

l'on

trouve

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

dans

bon

nombre

de

librairies

scientifiques

En

particulier

nous

pouvons

citer

la

librairie

LAPACK

D?efinition

-LRB-

D?ecomposition

en

valeurs

singuli?eres

-RRB-

Soient

X

une

matrice

de

taille

n

p

de

rang

r

arg

les

vecteurs

propres

orthonorm?es

de

la

matrice

XX

t

associ?es

aux

r

valeurs

propres

non

nulles

rang?ees

par

ordre

d?ecroissant

r

brg

les

vecteurs

propres

orthonorm?es

de

la

matrice

X

tX

associ?es

aux

m

emes

valeurs

propres

La

d?ecomposition

en

valeurs

singuli?eres

-LRB-

SVD

-RRB-

de

X

est

donn?ee

par

X

A

B

o?u

les

colonnes

de

A

-LRB-

resp

B

-RRB-

sont

constitu?ees

par

les

vecteurs

ak

-LRB-

resp

bk

-RRB-

est

une

matrice

diagonale

contenant

les

k

rang?ees

par

ordre

d?ecroissant

Dans

la

version

AFTD

les

facteurs

sont

donn?es

par

la

SVD

de

la

matrice

X

solution

de

l'optimisation

du

fitness

li?e

a

la

fonction

co

ut

f

-LRB-

X

-RRB-

tr

-LRB-

W

XX

-RRB-

Nos

algorithmes

calqu?ees

sur

le

mod?ele

canonique

de

Holland

AGC

conservent

malgr?e

notre

adaptation

l'inconv

enient

principal

des

GAs

qui

est

le

temps

de

convergence

Dans

ce

qui

suit

nous

proposons

une

phase

d'acc

el?eration

par

l'introduction

d'une

part

de

nouvelles

notions

de

croisement

et

d'autre

part

d'un

nouvel

op?erateur

que

nous

appelons

descente

Cet

op?erateur

s

inspire

directement

des

m?ethodes

de

descente

d'optimisation

usuelles

Hybridation

de

nos

AG

Un

Algorithme

g?en?etique

hybride

d?esigne

un

AG

utilisant

des

algorithmes

de

recherche

locale

comme

op?erateurs

Ainsi

a

partir

d'un

individu

X

et

un

voisinage

v

-LRB-

X

-RRB-

de

X

ces

op?erateurs

fournissent

toujours

un

individu

de

qualit?e

au

moins

egale

a

celle

de

X

Cette

logique

qui

ne

s

inscrit

pas

dans

l'objectif

des

op?erateurs

de

croisement

et

de

mutation

classique

se

traduit

par

une

acc?el?eration

au

niveau

de

la

convergence

des

AG

Apr?es

avoir

d?ecrit

le

nouvel

op?erateur

de

croisement

La

version

unix

est

ecrite

en

fortran

Sous

IBM

consulter

la

librairie

NAG

ecrite

egalement

en

fortran

Singular

Value

Decomposition

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

portant

sur

plusieurs

individus

-LRB-

-RRB-

nous

pr?esenterons

deux

m?ethodes

de

descente

n'utilisant

pas

de

d?eriv?es

Powell

Hooke

et

Jeeves

et

pouvant

etre

combin?ees

aux

AG

Signalons

que

nous

utiliserons

egalement

dans

nos

applications

les

m?ethodes

bas?ees

sur

le

gradient

Croisement

AE-aire

Le

type

de

croisement

que

nous

proposons

dans

cette

partie

reprend

les

id?ees

de

Spendley

Hext

et

Himsworth

-LSB-

RAO

-RSB-

dans

la

m?ethode

d'optimisation

sans

d?eriv?es

appel?ee

simplex

method

-LRB-

a

ne

pas

confondre

avec

la

m?ethode

de

simplexe

qu'on

trouve

en

programmation

lin?eaire

-RRB-

Le

simplexe

etant

une

figure

g?eom?etrique

ayant

n

sommets

dans

un

espace

de

dimension

n.

Contrairement

a

l'op

erateur

de

croisement

classique

qui

est

binaire

pr?efix?e

deux

op?erandes

nous

avons

un

op?erateur

AE-aire

pr?efix?e

AE

op?erandes

qui

se

d?eroule

comme

suit

On

part

d'un

ensemble

de

n

points

-LRB-

individus

-RRB-

Xn

et

de

trois

coefficients

fixes

AE

et

D?eterminer

Xh

Xl

et

Xr

Xh

tq

f

-LRB-

Xh

-RRB-

i

n

-LSB-

f

-LRB-

Xi

-RRB-

-RSB-

Xl

tq

f

-LRB-

Xl

-RRB-

i

n

-LSB-

f

-LRB-

Xi

-RRB-

-RSB-

n

nX

i

h

Xi

Xr

-LRB-

AE

-RRB-

AEXh

Remplacer

Xh

par

Xz

-LCB-

Si

f

-LRB-

Xr

-RRB-

f

-LRB-

Xl

-RRB-

construire

un

nouveau

point

sinon

passer

a

l'

etape

suivante

Xe

Xr

-LRB-

-RRB-

Si

f

-LRB-

Xe

-RRB-

f

-LRB-

Xl

-RRB-

alors

Xz

Xe

sinon

Xz

Xr

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

-LCB-

Si

f

-LRB-

Xr

-RRB-

f

-LRB-

Xi

-RRB-

h

-LCB-

Si

f

-LRB-

Xr

-RRB-

f

-LRB-

Xh

-RRB-

construire

un

nouveau

point

Xc

Xh

-LRB-

-RRB-

Si

f

-LRB-

Xc

-RRB-

f

-LRB-

Xh

-RRB-

remplacer

tous

les

Xi

par

-LRB-

Xi

Xl

-RRB-

sinon

Xz

Xc

-LCB-

Sinon

Xz

Xr

M?ethode

de

Powell

Cette

m?ethode

sans

d?eriv?ees

qu'on

peut

rattacher

a

la

famille

des

m?ethodes

de

directions

conjugu?ees

repose

essentiellement

sur

l'id

ee

suivante

lorsque

l'on

recherche

le

minimum

d'une

fonction

quadratique

g

successivement

suivant

p

directions

conjugu?ees

dp

p

plus

petit

que

le

nombre

de

variables

de

la

fonction

a

optimiser

en

partant

d'un

point

on

g?en?ere

une

suite

Xp

d?efinie

par

g

-LRB-

Xi

-RRB-

g

-LRB-

Xi

oidi

-RRB-

Minofg

-LRB-

Xi

odi

-RRB-

g

La

proc?edure

de

Powell

se

d?ecrit

pour

toute

fonction

g

comme

suit

Choisir

un

point

initial

et

p

directions

lin?eairement

ind?ependantes

dp

Construire

une

suite

Xp

de

points

tels

que

g

-LRB-

Xi

-RRB-

g

-LRB-

Xi

oidi

-RRB-

Minofg

-LRB-

Xi

odi

-RRB-

g

Poser

g

g

-LRB-

-RRB-

Maxi

nfg

-LRB-

Xi

-RRB-

g

-LRB-

Xi

-RRB-

g

Soit

m

l'indice

de

la

direction

par

laquelle

ce

maximum

est

atteint

Si

g

g

-LRB-

-RRB-

et/ou

si

-LRB-

g

-LRB-

-RRB-

-LRB-

-RRB-

g

-RRB-

-LRB-

g

-LRB-

-RRB-

g

-LRB-

-RRB-

-RRB-

-LRB-

g

-LRB-

-RRB-

g

-RRB-

le

point

de

d?epart

a

l'it

eration

suivante

est

Xp

et

les

anciennes

directions

dp

sont

gard?ees

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Si

g

g

-LRB-

-RRB-

et

-LRB-

g

-LRB-

-RRB-

-LRB-

-RRB-

g

-RRB-

-LRB-

g

-LRB-

-RRB-

g

-LRB-

-RRB-

-RRB-

-LRB-

g

-LRB-

-RRB-

g

-RRB-

on

recherche

le

minimum

X

qui

sera

pris

comme

point

de

d?epart

a

la

prochaine

it?eration

de

g

dans

la

direction

d

Xp

L'ordre

des

nouvelles

directions

est

dm

dm

dp

d

Les

directions

initiales

dp

ne

sont

pas

forc?ement

toutes

conjugu?ees

deux

a

deux

et

peuvent

etre

d?efinies

par

les

axes

des

coordonn?ees

M?ethode

de

Hooke

et

Jeeves

Cette

m?ethode

a

l'avantage

d'explorer

le

voisinage

de

chaque

particule

visit?ee

La

proc?edure

g?en?erale

se

d?eroule

de

fa?con

r?ecursive

comme

suit

Partir

d'un

point

initial

arbitraire

-LRB-

xn

-RRB-

en

se

donnant

des

pas

xi

suivant

les

directions

an

correspondant

aux

axes

des

coordonn?ees

Poser

k

Calculer

gk

g

-LRB-

Xk

-RRB-

poser

i

et

Xk

On

perturbe

les

variables

xi

du

point

interm?ediaire

pour

g?en?erer

un

nouveau

Zk

i

Zk

i

xiai

si

g

g

-LRB-

Zk

i

-RRB-

g

g

-LRB-

Zk

i

xiai

-RRB-

Zk

i

xiai

si

g

g

-LRB-

Zk

i

-RRB-

g

g

g

-LRB-

Zk

i

xiai

-RRB-

Zk

i

si

g

-LRB-

Zk

i

-RRB-

minfg

g

g

Si

on

obtient

Zk

n

Xk

r?eduire

le

pas

xi

en

divisant

par

exemple

par

deux

et

revenir

a

l'

etape

pr?ec?edente

Sinon

la

nouvelle

particule

de

recherche

est

Xk

Zk

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

A

partir

de

Xk

etXk

etablir

la

nouvelle

direction

de

recherche

S

par

S

Xk

Xk

On

construit

Zk

Xk

AES

o?u

AE

est

le

pas

qu'on

peut

prendre

egale

a

Une

minimisation

unidimensionelle

peut

aussi

permettre

de

d?egager

une

valeur

optimale

de

AE

de

AE

Poser

k

k

gk

g

-LRB-

-RRB-

i

et

r?ep?eter

l'

etape

Si

a

la

fin

de

l'

etape

g

-LRB-

Zk

n

-RRB-

g

-LRB-

Xk

-RRB-

prendre

Xk

Yk

n

et

passer

a

l'

etape

Sinon

g

-LRB-

Zk

n

-RRB-

g

-LRB-

Xk

-RRB-

Prendre

Xk

Xk

r?eduire

les

pas

xi

poser

k

k

puis

aller

a

l'

etape

La

proc?edure

se

termine

lorsque

maxi

-LRB-

xi

-RRB-

La

fonction

de

partage

-LRB-

sharing

function

-RRB-

Les

crit?eres

d'

evaluation

utilis?es

en

repr?esentation

g?eom?etrique

poss?edent

g?en?eralement

plusieurs

extr?ema

globaux

Il

est

tr?es

important

de

pouvoir

d?etecter

tous

ces

extr?ema

Or

les

algorithmes

g?en?etiques

que

nous

avons

pr?esent?es

convergent

th?eoriquement

vers

un

seul

pic

Nous

pr?esentons

la

technique

de

partage

inspir?ee

du

ph?enom?ene

naturel

de

cr?eation

des

niches

ecologiques

qui

permet

une

r?epartition

pond?er?ee

des

chromosomes

sur

tous

les

sommets

de

la

fonction

a

optimiser

Cette

technique

est

fond?ee

sur

une

mesure

de

distance

inter-chromosomique

d

et

a

pour

el?ement

de

base

la

fonction

appel?ee

fonction

de

partage

-LSB-

-RSB-

Pratiquement

le

fitness

d'un

chromosome

est

r?eduit

proportionnellement

a

l'effectif

de

ses

voisins

La

notion

de

voisinage

devient

alors

tr?es

utile

et

est

g?en?eralement

d?efinie

par

une

fonction

d'appartenance

Sh

-LRB-

d

-RRB-

-LRB-

-LRB-

d

oeshare

-RRB-

si

si

d

oeshare

sinon

o?u

oeshare

et

caract?erisent

respectivement

la

largeur

et

la

forme

du

voisinage

oeshare

mesure

en

quelque

sorte

la

s?eparation

minimale

tol?er?ee

entre

deux

sommets

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

d?etectables

L'implantation

du

partage

est

alors

donn?ee

par

le

rapport

du

fitness

f

sur

le

cardinal

du

voisinage

ci

f

-LRB-

i

-RRB-

f

-LRB-

i

-RRB-

ci

avec

ci

NX

Sh

-LRB-

dij

-RRB-

Les

r?esultats

obtenus

par

Goldberg

et

Richardson

-LSB-

-RSB-

montrent

que

l'introduction

d'une

telle

notion

am?eliore

la

performance

des

AG

Le

partage

se

stabilise

lorsque

j

O

fi

ci

fj

cj

o?u

O

est

l'ensemble

des

diff?erents

optima

locaux

f

-LRB-

x

-RRB-

espace

de

recherche

x

xxx

x

x

xxx

xx

x

x

x

extrema

selectionnes

Fig.

Effet

du

sharing

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Parall?elisation

massive

des

AG

pour

la

M.D.S

Nous

avons

pris

conscience

de

la

n?ecessit?e

imp?erieuse

de

parall?eliser

nos

algorithmes

dont

le

temps

d'ex

ecution

d?es

que

la

taille

de

l'ensemble

a

etudier

d?epasse

quelques

dizaines

devient

vite

tr?es

lourd

et

cela

m

eme

si

les

indices

et

crit?eres

utilis?es

sont

parfaitement

adapt?es

a

la

nature

des

donn?ees

trait?ees

L'objet

de

cette

partie

est

de

pr?esenter

les

approches

que

nous

avons

adopt?ees

et

de

mettre

en

exergue

les

consid?erations

qui

entrent

en

jeu

lorsqu'il

s

agit

de

concevoir

des

AG

dans

des

environnements

multiprocesseurs

Nous

commen?cerons

par

r?esumer

succinctement

la

th?eorie

du

parall?elisme

Ensuite

nous

pr?esenterons

des

approches

de

parall?elisation

orient?es

environnements

multiprocesseurs

a

m?emoire

distribu?ee

des

Algorithmes

g?en?etiques

pour

la

MDS

Expression

du

Parall?elisme

Avant

de

proposer

un

algorithme

parall?ele

il

convient

de

prendre

connaissance

des

outils

des

termes

et

des

notions

caract?eristiques

de

cette

branche

de

l'informatique

que

l'on

appelle

parall?elisme

-LSB-

-RSB-

-LSB-

-RSB-

Ce

chapitre

vise

tr?es

pr?ecis?ement

a

d?efricher

un

champ

terminologique

par

trop

exub?erant

et

a

pr?esenter

des

notions

pr?eliminaires

en

faisant

explicitement

r?ef?erence

a

l'

etat

actuel

de

l'art

Un

d?etour

qui

s

av?erera

des

plus

fructueux

pour

la

compr?ehension

de

l'int

er

et

que

repr?esente

le

parall?elisme

Types

d'Architectures

La

notion

de

parall?elisme

evoque

une

ex?ecution

simultan?ee

et

judicieusement

synchronis?ee

de

plusieurs

op?erations

el?ementaires

Ce

processus

est

rendu

op?erationnel

au

niveau

architectural

par

la

disposition

de

plusieurs

processeurs

Les

r?evolutions

techniques

r?ealis?ees

dans

la

conception

des

circuits

int?egr?es

faible

co

ut

de

fabrication

des

dispositifs

electroniques

tels

que

les

m?emoires

et

les

microprocesseurs

miniaturisation

des

composants

electroniques

conduisent

au

d?eveloppement

d'architectures

multi-processeurs

assez

complexes

et

tr?es

efficaces

Une

m

eme

m?ethode

de

r?esolution

d'un

probl?eme

donn?e

peut

alors

conduire

a

une

multitude

d'impl

ementations

diff?erentes

suivant

l'une

des

trois

grandes

approches

de

parall?elisation

-LRB-

i

-RRB-

transformation

de

la

solution

s?equentielle

existante

en

exploitant

le

parall?elisme

qu'elle

rec?ele

en

tenant

compte

des

outils

en

place

-LRB-

ii

-RRB-

adaptation

d'une

solution

parall?ele

d'un

probl?eme

similaire

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

-LRB-

iii

-RRB-

invention

d'une

architecture

parall?ele

ad?equate

au

probl?eme

Si

la

premi?ere

approche

est

tr?es

souvent

utilis?e

dans

le

domaine

de

la

recherche

o?u

l'on

dispose

la

plupart

du

temps

de

machines

parall?eles

g?en?erales

les

industriels

pr?ef?erent

la

troisi?eme

approche

qui

est

tr?es

mat?erielle

les

machines

sont

sp?ecialis?ees

donc

co

uteuses

Un

bon

nombre

de

programmes

parall?eles

sont

ainsi

propres

a

une

architecture

donn?ee

Nous

exploiterons

dans

nos

applications

l'architecture

a

topologie

variable

de

la

machine

Paragon

d'Intel

Dans

l'ensemble

une

classification

des

ordinateurs

selon

la

multiplicit?e

des

flux

d'instructions

et

de

donn?ees

disponibles

mat?eriellement

donne

lieu

a

une

partition

en

grandes

cat?egories

SISD

Single

Instruction

stream

Single

Data

stream

-LSB-

cf.

figure

-RSB-

La

machine

traite

un

seul

flux

d'instructions

et

de

donn?ees

Exemple

PC

station

de

travail

SIMD

Single

Instruction

stream

Multiple

Data

stream

-LSB-

cf.

figure

-RSB-

L'ordinateur

ex?ecute

un

seul

flux

d'instructions

et

plusieurs

flux

de

donn?ees

Exemple

Maspar

MIMD

Multiple

Instruction

stream

Multiple

Data

stream

-LSB-

cf.

figure

-RSB-

La

machine

ex?ecute

plusieurs

flux

d'instructions

et

de

donn?ees

Exemple

Paragon

Les

SISD

SIMD

MIMD

constituent

le

trio

des

caract?eristiques

fondamentales

des

machines

parall?eles

sur

lequel

se

focalisent

la

plupart

des

mod?eles

th?eoriques

et

des

maquettes

de

simulation

algorithmique

Examinons-les

successivement

L'architecture

SISD

est

l'ordinateur

classique

de

Von

Neumann

En

plus

du

traitement

s?equentiel

des

instructions

celles-ci

peuvent

etre

pipelin?ees

-LRB-

ex?ecut?ees

en

cascade

-RRB-

On

classe

dans

cette

cat?egorie

les

machines

offrant

la

possibilit?e

d'une

ex?ecution

pipelin?ee

L'architecture

SIMD

comporte

plusieurs

unit?es

de

traitement

-LRB-

UT

-RRB-

ex?ecutant

simultan?ement

les

m

emes

instructions

Ces

unit?es

sont

supervis?ees

par

une

m

eme

unit?e

de

contr

ole

UC

L'UC

diffuse

la

m

eme

instruction

a

toutes

les

UT

qui

op?erent

sur

des

masses

de

donn?ees

distinctes

issues

de

flux

de

donn?ees

distincts

L'UC

commande

aussi

le

r?eseau

synchrone

qui

etablit

la

connexion

entre

la

m?emoire

et

les

processeurs

Cette

cat?egorie

englobe

les

r?eseaux

cellulaires

et

systoliques

L'architecture

MIMD

diff?ere

de

la

pr?ec?edente

en

ce

sens

qu'une

unit?e

de

traitement

poss?ede

sa

propre

unit?e

de

contr

ole

Les

processeurs

peuvent

fonctionner

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

d'une

mani?ere

totalement

asynchrone

offrant

ainsi

une

possibilit?e

d'ex

ecution

de

programmes

diff?erents

Une

structure

MIMD

est

dite

intrins?eque

si

elle

implique

des

interactions

entre

diff?erentes

unit?es

de

traitement

Elle

est

dite

fortement

coupl?ee

si

les

interactions

entre

les

UT

sont

assez

importantes

Dans

le

commerce

la

majorit?e

des

architectures

sont

faiblement

coupl?ees

Le

mode

de

programmation

SPMD

issu

de

la

structure

SIMD

offre

la

possibilit?e

d'ex

ecuter

un

m

eme

programme

diffus?e

par

l'unit

e

de

contr

ole

sur

toutes

les

unit?es

de

traitement

Les

donn?ees

peuvent

provenir

de

flux

distincts

On

distingue

ainsi

des

architectures

SIMD/SPMD

et

MIMD/SPMD

BM

BM

BM

UT

UTUT

RESEAU

D'INTERCONNEXION

BM

Banc

Memoire

UT

Unite

de

Traitement

Fig.

Sch?ema

d'un

calculateur

SIMD

UT

UT

UT

RESEAU

D'INTERCONNEXION

M

MM

UT

Unite

de

Traitement

M

Memoire

Fig.

Architecture

d'une

machine

a

m?emoire

distribu?ee

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

-LRB-

-RRB-

Ordinateur

SISD

-LRB-

-RRB-

Ordinateur

MIMD

UC

UT

M

UC

UC

UC

n

UT

UT

M

M

M

UT

Unite

de

traitement

UC

Unite

de

controle

M

Memoire

Fig.

Sch?emata

des

calculateurs

SISD

et

MIMD

Implantation

des

donn?ees

L'une

des

difficult?es

fondamentales

du

traitement

parall?ele

est

le

mode

d'acc

es

aux

donn?ees

Ce

probl?eme

devient

d?ecisif

lorsque

l'on

souhaite

permettre

a

chaque

processeur

d'acc

eder

en

temps

voulu

aux

donn?ees

dont

il

a

besoin

Dans

les

calculateurs

vectoriels

du

type

SIMD

ou

pipe-line

ce

probl?eme

est

de

nature

combinatoire

En

effet

lors

de

l'ex

ecution

d'une

instruction

n?ecessitant

l'acc

es

a

la

m?emoire

centrale

chaque

unit?e

de

traitement

doit

lire

ou

ecrire

un

mot

dans

cette

m?emoire

Cette

op?eration

conduira

fatalement

a

des

conflits

d'acc

es

si

la

m?emoire

n'est

pas

divis?ee

en

un

nombre

de

modules

M

au

moins

egal

a

celui

des

unit?es

de

traitement

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

T

Il

faut

n?eanmoins

garder

a

l'esprit

que

la

condition

M

T

est

n?ecessaire

mais

non

suffisante

pour

garantir

un

acc?es

non

conflictuel

aux

donn?ees

Cette

difficult?e

est

etroitement

li?ee

a

la

conception

et

a

la

fabrication

de

la

machine

parall?ele

sur

laquelle

est

ex?ecut?e

l'algorithme

Par

cons?equent

nous

n'aborderons

pas

les

m?ecanismes

informatiques

qui

permettent

de

r?esoudre

ce

probl?eme

d'allocation

des

donn?ees

sans

conflit

T

aches

Graphe

d'ordonnancement

Pour

parall?eliser

un

algorithme

la

premi?ere

etape

consiste

en

la

segmentation

du

programme

s?equentiel

en

un

ensemble

de

t

aches

el?ementaires

qu'ex

ecuteront

les

unit?es

de

traitement

La

partition

du

probl?eme

en

sous-t

aches

et

l'

elaboration

d'un

graphe

d'ordonnancement

permettent

ensuite

de

d?efinir

les

contraintes

temporelles

pour

l'ex

ecution

des

t

aches

L'affectation

des

t

aches

aux

processeurs

tient

compte

des

restrictions

li?ees

aux

flux

d'instructions

et

d'ex

ecutions

ainsi

que

des

contraintes

impos?ees

par

la

structure

de

la

machine

utilis?ee

pour

la

mise

en

oeuvre

de

l'algorithme

On

parlera

de

parall?elisme

de

contr

ole

lorsque

celui-ci

porte

sur

les

t

aches

qui

peuvent

s

ex?ecuter

ind?ependamment

les

uns

des

autres

Lorsque

l'on

trouve

des

donn?ees

qui

peuvent

etre

trait?ees

simultan?ement

le

parall?elisme

est

dit

de

donn?ees

Un

m

eme

algorithme

s?equentiel

peut

ainsi

conduire

a

plusieurs

versions

parall?eles

relativement

a

la

synchronisation

des

processeurs

au

mode

d'acc

es

des

donn?ees

au

d?ecoupage

du

probl?eme

en

t

aches

et

a

l'affectation

de

celles-ci

aux

diff?erentes

unit?es

de

traitement

Certaines

versions

seront

alors

mieux

adapt?ees

a

une

structure

d'ordinateur

donn?ee

Une

machine

SIMD

par

exemple

a

du

mal

a

traiter

un

algorithme

asynchrone

alors

que

les

probl?emes

de

synchronisation

des

processeurs

pour

un

ordinateur

MIMD

sont

purement

mat?eriels

Mesure

des

performances

Consid?erons

un

algorithme

pour

lequel

le

temps

de

recherche

d'une

solution

sur

un

ordinateur

parall?ele

comportant

P

processeurs

identiques

est

tp

Si

le

temps

d'ex

ecution

de

sa

version

s?equentielle

avec

un

seul

processeur

est

on

d?efinit

deux

mesures

de

qualit?e

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

La

performance

ou

l'acc

el?eration

-LRB-

speed-up

-RRB-

d'un

algorithme

parall?ele

est

le

facteur

d'acc

el?eration

donn?e

par

le

rapport

Sp

tp

L'efficacit

e

d'un

algorithme

parall?ele

correspond

au

taux

moyen

d'utilisation

des

processeurs

et

le

mieux

que

l'on

puisse

esp?erer

est

d'obtenir

Sp

p.

ep

Sp

p

o?u

p

d?esigne

le

nombre

de

processeurs

utilis?es

La

parall?elisation

de

l'algorithme

est

d'autant

meilleure

que

l'efficacit

e

est

proche

du

nombre

voir

sup?erieure

a

Dans

ce

dernier

cas

on

parle

d'une

efficacit?e

superlin?eaire

Il

convient

de

garder

a

l'esprit

que

les

performances

d'un

algorithme

parall?ele

sont

fortement

influenc?ees

par

les

contraintes

impos?ees

par

la

structure

de

la

machine

utilis?ee

Le

temps

de

transmission

des

donn?ees

varie

enorm?ement

suivant

la

topologie

adopt?ee

Notons

egalement

que

l'on

pr?ef?ere

g?en?eralement

consid?erer

un

co

ut

nul

pour

toute

duplication

supposant

ainsi

qu'il

est

possible

de

pipeliner

une

m

eme

donn?ee

vers

plusieurs

unit?es

de

traitement

Parall?elisation

des

AG

pour

la

MDS

La

parall?elisation

d'un

AG

a

pour

but

principal

d'augmenter

son

efficacit?e

en

r?eduisant

le

temps

de

calcul

Les

diff?erents

calculs

sont

distribu?es

sur

un

ensemble

de

processeurs

pouvant

communiquer

via

un

r?eseau

d'interconnexion

-LRB-

hypercube

r?eseau

maill?e

etc

-RRB-

Actuellement

les

diff?erentes

architectures

permettent

de

classifier

l'ensemble

des

algorithmes

g?en?etiques

distribu?es

en

trois

types

-LSB-

-RSB-

-LRB-

a

-RRB-

Mod?ele

parall?ele

standard

ou

mod?ele

centralis?e

-LSB-

-RSB-

L'

evaluation

le

croisement

et

la

mutation

se

font

en

parall?ele

tandis

que

la

reproduction

est

s?equentielle

donc

centralis?ee

Ce

mod?ele

n'est

pas

flexible

puisque

le

co

ut

de

communication

cro

it

exponentiellement

en

fonction

de

l'effectif

de

la

population

-LRB-

b

-RRB-

Mod?ele

de

migration

La

population

est

divis?ee

en

sous

populations

de

m

eme

taille

Chaque

processeur

ex?ecute

l'algorithme

standard

sur

la

sous

population

qui

lui

est

affect?ee

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Pour

propager

les

meilleurs

individus

entre

les

sous

population

les

noeuds

echangent

p?eriodiquement

des

donn?ees

Les

meilleurs

individus

re?cus

vont

ainsi

remplacer

les

plus

mauvais

de

la

population

locale

Cet

echange

emp

eche

chaque

noeud

de

tomber

dans

un

optimum

local

La

fr?equence

des

echanges

et

le

nombre

des

individus

affect?es

sont

des

param?etres

de

l'algorithme

Dans

cette

approche

le

parall?elisme

inh?erent

aux

algorithmes

g?en?etiques

n'est

pas

totalement

exploit?e

le

traitement

d'une

sous

population

etant

s?equentielle

Ce

mod?ele

est

cependant

int?eressant

d?es

lors

que

le

nombre

de

processeurs

disponibles

est

plus

petit

que

la

taille

de

la

population

d?esir?ee

De

plus

on

peut

eviter

le

co

ut

et

la

complexit?e

des

algorithmes

de

routage

dans

les

architectures

parall?eles

a

m?emoire

distribu?ee

en

restreignant

les

echanges

d'individus

aux

processeurs

directement

connect?es

-LRB-

c

-RRB-

Mod?ele

de

diffusion

Chaque

processeur

traite

un

seul

individu

et

toutes

les

op?erations

se

font

en

parall?ele

East

et

Macfarlane

-LSB-

-RSB-

ont

montr?e

que

cette

approche

donne

en

g?en?eral

les

meilleures

solutions

avec

un

minimum

de

temps

dans

diff?erents

sch?emata

d'ex

ecution

La

suite

de

cette

partie

est

consacr?ee

a

la

pr?esentation

de

plusieurs

algorithmes

qui

se

pr

etent

a

une

bonne

parall?elisation

de

nos

algorithmes

g?en?etiques

Le

support

d'exp

erimentation

de

nos

algorithmes

est

la

Paragon

d'Intel

qui

est

dot?e

d'une

architecture

multiprocesseur

a

m?emoire

distribu?ee

-LSB-

-RSB-

La

machine

PARAGON

XP/S

d'Intel

La

machine

Paragon

est

un

super-ordinateur

MIMD

d'Intel

appartenant

a

la

classe

des

machines

massivement

parall?eles

a

m?emoire

distribu?ee

-LSB-

cf.

figure

-RSB-

Une

autre

classe

tr?es

consistante

d'ordinateurs

parall?eles

est

celle

des

machines

massivement

parall?eles

a

m?emoire

partag?ee

La

structure

d'une

machine

dite

a

m?emoire

distribu?ee

se

pr?esente

sous

forme

d'un

ensemble

de

noeuds

identiques

reli?es

par

un

r?eseau

d'interconnexion

Les

machines

de

ce

type

se

distinguent

essentiellement

par

leur

module

op?eratoire

qui

est

en

r?ealit?e

un

ordinateur

ind?ependant

avec

sa

m?emoire

et

ses

processeurs

Notons

egalement

la

sp?ecificit?e

de

la

topologie

de

leur

r?eseau

d'interconnexion

quelquefois

dynamiquement

reconfigurable

On

distingue

g?en?eralement

quatre

types

de

topologie

hypercube

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

tore

lin?eaire

et

grille

Une

cons?equence

imm?ediate

de

l'absence

d'une

m?emoire

commune

est

que

les

processus

ne

peuvent

interagir

qu'en

s

echangeant

des

messages

rout?es

par

le

r?eseau

d'interconnexion

Hypercube

de

dimension

Anneau

de

processeurs

Tore

de

processeurs

Grille

de

processeurs

Fig.

Configurations

utilis?ees

pour

la

parall?elisation

Le

calculateur

Paragon

de

l'IRISA

-LSB-

cf.

figure

-RSB-

qui

peut

evoluer

est

dot?e

actuellement

d'une

soixantaine

de

noeuds

qu'on

peut

diviser

en

deux

parties

l'unit

e

de

gestion

constitu?ee

de

six

noeuds

syst?emes

ou

de

service

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

l'unit

e

de

calcul

compos?ee

de

noeuds

de

traitement

Un

noeud

de

calcul

comprend

une

m?emoire

de

extensible

et

deux

processeurs

de

type

dont

l'un

s

occupe

essentiellement

de

la

gestion

des

communications

et

du

routage

des

messages

Noeuds

Systeme

Noeuds

de

calcul

Fig.

Configuration

du

calculateur

Paragon

Mise

en

oeuvre

des

algorithmes

Les

algorithmes

g?en?etiques

sont

fondamentalement

parall?eles

En

fait

l'essentiel

des

calculs

est

effectu?e

dans

une

boucle

r?ep?eter

jusqu

a

On

evalue

dans

chaque

boucle

un

ensemble

d'op

erations

identiques

La

mise

en

oeuvre

parall?ele

consiste

a

faire

ces

op?erations

par

plusieurs

processeurs

Gr

ace

au

r?eseau

d'interconnexion

de

la

Paragon

qui

garantit

un

faible

co

ut

de

communication

notre

premi?ere

approche

a

et?e

de

centraliser

la

reproduction-s

election

Cette

approche

parall?elise

pr?ecis?ement

les

evaluations

du

fitness

car

ce

sont

elles

qui

constituent

l'essentiel

du

calcul

La

strat?egie

dans

cet

algorithme

consiste

a

distribuer

de

fa?con

equitable

les

individus

de

la

population

trait?ee

aux

processeurs

qui

se

charge

d'

evaluer

leur

fitness

Dans

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

OSF

SUNMOS

Frequence

Double

precision

peak

Single

precision

peak

MFlops

MFlops

Processeur

Start-up

us

us

Mo/s

Mo/s

Bandwidth

MHz

Systeme

Fig.

Caract?eristiques

du

syst?eme

et

du

processeur

ces

conditions

l'algorithme

orient?e

environnements

multiprocesseurs

a

m?emoire

distribu?ee

et

inteconnect?e

-LRB-

physiquement

ou

logiquement

-RRB-

se

r?esume

en

trois

etapes

qui

s

ajoutent

au

pr?etraitement

usuel

Le

processeur

envoie

a

chaque

unit?e

de

traitement

la

matrice

de

dissimilarit?e

distribue

egalement

aux

autres

processeurs

un

nombre

de

configurations

proportionnel

a

l'effectif

total

des

noeuds

mis

a

contribution

Chaque

noeud

evalue

les

configurations

qu'il

a

re?cues

puis

envoie

au

processeur

le

vecteur

co

ut

local

correspondant

aux

r?esultats

de

ses

diff?erentes

evaluations

La

derni?ere

etape

consiste

a

construire

de

nouvelles

configurations

par

des

op?erateurs

g?en?etiques

Pour

cela

s

occupe

de

choisir

les

configurations

a

croiser

d'une

part

les

configurations

dont

quelques

el?ements

subiront

des

mutations

d'autre

part

et

le

reste

de

l'op

eration

de

croisement

ou

de

mutation

se

poursuit

au

niveau

des

diff?erents

noeuds

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Le

mode

de

reproduction

standard

introduit

dans

cette

alternative

une

forte

synchronisation

car

l'op

eration

est

faite

apr?es

que

tous

les

individus

aient

et?e

evalu?es

Nous

avons

donc

orient?e

nos

recherches

vers

une

d?ecentralisation

de

l'op

eration

de

reproduction

En

particulier

nous

avons

implanter

une

version

parall?ele

o?u

chaque

noeud

ex?ecute

l'algorithme

g?en?etique

s?equentiel

sur

une

sous

population

Un

echange

des

meilleurs

individus

entre

les

sous

populations

se

fait

r?eguli?erement

Ainsi

les

processeurs

ne

risque

pas

de

tomber

d'une

fa?con

pr?ematur?ee

dans

un

optimum

local

Tests

num?eriques

Nous

pr?esentons

dans

ce

paragraphe

les

r?esultats

se

rapportant

aux

codes

Fortran

double

pr?ecision

des

impl?ementations

s?equentielles

et

parall?eles

sur

des

donn?ees

r?eelles

Pour

les

performances

de

l'algorithme

parall?ele

evoqu?ees

ci-dessous

les

populations

initiales

sont

construites

de

fa?con

al?eatoire

et

la

topologie

consid?er?ee

est

l'anneau

Par

ailleurs

chaque

processeur

effectue

toujours

une

seule

migration

Ainsi

les

sous-populations

peuvent

rester

tr?es

diff?erentes

sans

que

le

co

ut

des

communications

ne

devienne

un

handicap

L'algorithme

a

et?e

test?e

sur

un

certain

nombre

de

probl?emes

classiques

dont

on

sait

appr?ecier

les

solutions

optimales

Pour

la

mesure

des

performances

des

impl?ementations

les

temps

d'ex

ecution

report?es

correspondent

a

it?erations

de

l'AG

soit

evaluations

du

fitness

La

population

initiale

contient

individus

Ce

chiffre

correspond

au

p.p.m.c

des

diff?erentes

tailles

d'anneaux

consid?er?es

Les

probabilit?es

d'utilisation

de

l'op

erateur

de

mutation

sont

de

tandis

que

celles

de

l'op

erateur

de

croisement

global

ou

local

est

de

Ces

diff?erents

param?etres

de

simulation

sont

fix?es

conform?ement

aux

valeurs

pr?econis?ees

par

la

th?eorie

des

AG

et

nous

sommes

a

cette

date

incapables

de

proposer

des

valeurs

optimales

La

figure

montre

le

speed-up

obtenu

dans

une

simulation

ayant

les

caract?eristiques

d?ecrites

ci-dessus

et

portant

sur

une

matrice

de

dissimilarit?e

de

taille

soit

variables

pour

le

fitness

Precisons

que

cette

simulation

est

independante

du

caract?ere

affine

de

la

matrice

utilis?ee

Elle

depend

uniquement

de

la

taille

de

la

matrice

et

du

degr?e

du

parall?elisme

du

programme

L'arr

et

du

programme

est

guid?e

uniquement

par

le

nombre

d'it

erations

maximal

fixe

Le

stress

est

donc

mis

version

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

processorsofNumber

generations

per

speed-up

r

processors

linear

speed-up

Total

CPUtime

E

E

our

result

E

E

E

Fig.

Timing

en

secondes

et

speed-up

par

rapport

a

un

processeur

entre

parenth?ese

Comme

l'on

pouvait

s

y

attendre

l'algorithme

poss?ede

un

speedup

presque

lin?eaire

Ceci

s

explique

par

le

fait

que

le

co

ut

de

communication

entre

processus

compte

tenu

de

l'efficacit

e

du

r?eseau

d'interconnexion

de

la

machine

paragon

est

relativement

petit

compar?e

au

co

ut

d'ex

ecution

des

processus

Lors

de

nos

exp?eriences

nous

avons

d

u

faire

face

a

des

probl?emes

de

d?epassement

de

capacit?e

de

m?emoire

vive

lorsque

nous

ex?ecutons

de

gros

probl?emes

avec

l'AG

parall?ele

L'insuffisance

de

place

m?emoire

RAM

cause

des

d?efauts

de

page

et

les

m?ecanismes

de

swap

faussent

compl?etement

les

mesures

Dans

la

phase

d'application

aux

donn?ees

r?eelles

le

premier

tableau

de

donn?ees

est

une

matrice

de

proximit?e

contruite

sur

un

ensemble

de

pays

et

tir?ee

de

-LSB-

-RSB-

Les

donn?ees

sont

issues

d'une

etude

pilote

sur

la

perception

des

nations

Chacun

des

etudiants

participant

a

l'

etude

attribue

une

note

entre

pour

tr?es

diff?erent

et

pour

tr?es

similaire

a

chacun

des

paires

form?ees

dans

l'ensemble

des

nations

consid?er?ees

Apr?es

toutes

les

normalisations

on

constate

sur

la

matrice

que

la

Russie

et

la

Yougoslavie

pr?esentent

la

plus

grande

similarit?e

alors

que

les

couples

ChineBr?esil

et

U.S.A-Congo

ont

et?e

jug?es

comme

pr?esentant

le

plus

de

dissemblances

Le

r?esultat

STRESS

obtenu

par

l'AG

au

bout

de

it?erations

avec

une

configuration

al?eatoire

de

taille

est

le

suivant

Les

donn?ees

de

petite

taille

conduisent

a

un

speed-up

superlin?eaire

Ces

donn?ees

datent

de

la

p?eriode

communiste

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

BRAS

CONG

CUBA

EGYP

FRAN

INDI

ISRA

JAPA

CHIN

RUSS

U.SA

YUGO

dimension

dimension

MDS-GENETIC

Tab

Repr?esentation

de

pays

capitalistes

et

communistes

Une

interpr?etation

de

cette

configuration

montre

un

positionnement

tr?es

int?erressant

des

pays

sur

le

plan

Les

U.S.A

le

Japon

la

France

et

Isra?el

qui

sont

des

pays

capitalistes

d?ev?elopp?es

Le

Congo

l'Egypte

et

l'Inde

qui

sont

des

pays

sous-d

ev?elopp?es

Le

Cuba

la

Chine

la

Russie

et

la

Yougoslavie

qui

sont

des

pays

communistes

Cette

interpr?etation

plut

ot

d'ordre

economique

nous

para

it

bien

plausible

et

n'exclut

en

aucun

cas

d'autres

interpr?etations

Un

second

jeu

de

donn?ees

qui

nous

permet

d'

etablir

une

comparaison

de

notre

algorithme

avec

les

algorithmes

it?eratifs

de

recherche

locale

est

tir?e

de

-LSB-

-RSB-

La

signification

des

diff?erents

symboles

est

donn?ee

en

annexe

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Il

s

agit

d'une

matrice

de

dissimilarit?e

plus

classique

portant

sur

un

groupe

de

grandes

ethnies

nations

ou

peuples

La

matrice

utilis?ee

dans

cette

seconde

analyse

a

l'avantage

d'

etre

tr?es

peu

euclidienne

et

d'avoir

et?e

au

centre

d'une

confrontation

entre

les

deux

logiciels

les

plus

performants

du

march?e

La

figure

montre

l'am

elioration

obtenue

par

les

AG

Notons

cependant

que

la

convergence

n'est

pas

toujours

r?eguli?ere

mais

est

quelquefois

sujette

a

des

oscillations

C'est

pour

cette

raison

que

nous

conseillons

fortement

l'utilisation

des

versions

hybrides

des

AG

Num?eriquement

une

version

hybride

des

AG

donne

dans

le

pire

des

cas

des

r?esultats

aussi

bons

que

ceux

obtenus

par

un

algorithme

de

descente

Un

test

de

l'AG

hybride

gradient

classique

avec

la

matrice

de

donn?ees

pr?ec?edente

produit

la

configuration

de

la

figure

avec

un

STRESS

de

en

secondes

Ce

qui

nous

semble

tr?es

satisfaisant

Methods

ALSCAL

SMACOF

GA

-LRB-

serial

-RRB-

E

E

E

Torgerson

Stress

values

Iterations

Initial

Configuration

Fig.

Confrontation

des

AG

aux

autres

m?ethodes

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

MDS-GENETIC

ANG

BLA

CHI

GER

IND

IRI

ITA

JAP

JEW

MEX

NEG

POL

RIC

Tab

Repr?esentation

de

grands

groupes

ethniques

Conclusion

Les

aspects

du

cacul

parall?ele

de

la

repr?esentation

affine

d'une

matrice

de

proximit?e

par

les

algorithmes

g?en?etiques

ont

et?e

propos?es

et

evalu?es

en

d?etail

dans

ce

rapport

Nous

avons

etudi?e

-LRB-

i

-RRB-

les

m?ethodes

num?eriques

et

-LRB-

ii

-RRB-

comment

les

implanter

dans

les

environnements

parall?eles

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

Nous

avons

d?emontr?e

la

faisabilit?e

de

l'utilisation

des

AG

au

coeur

m

eme

de

la

MDS

et

propos?e

des

approches

d'hybridation

Par

ailleurs

des

tests

num?eriques

effectu?es

produisent

des

r?esultats

tr?es

encourageants

Les

comparaisons

sont

faites

avec

les

deux

logiciels

a

transitions

d?eterministes

les

plus

performants

du

march?e

Dans

la

d?emarche

que

nous

avons

entreprise

les

algorithmes

sont

orient?es

architectures

multiprocesseurs

a

m?emoire

distribu?ee

Cependant

les

versions

alternatives

pour

les

machines

a

m?emoire

partag?ee

peuvent

etre

facilement

g?en?er?ees

a

partir

de

la

strat?egie

de

parall?elisation

que

nous

avons

propos?ee

Les

algorithmes

parall?eles

poss?ede

un

speed-up

presque

lin?eaire

Toutefois

les

routines

que

nous

avons

mises

en

oeuvre

dans

les

versions

parall?eles

affichent

un

mauvais

comportement

lorsque

le

surco

ut

des

communications

d

u

a

des

matrices

de

dissimilarit?e

de

grande

taille

est

el?ev?e

Plusieurs

directions

seront

prospect?ees

pour

am?eliorer

leur

efficacit?e

Par

exemple

au

lieu

de

consid?erer

un

anneau

on

pourrait

adopter

des

topologies

plus

flexibles

Sans

doute

la

direction

la

plus

prometteuse

passera

par

une

d?ecomposition

additive

de

la

fonction

co

ut

qui

minimisera

c'est

notre

souhait

les

transferts

inter-processeurs

Une

autre

etude

d'am

elioration

de

nos

algorithmes

portera

sur

la

variation

dynamique

des

param?etres

de

l'algorithme

et

particuli?erement

celle

de

la

probabilit?e

de

mutation

et

la

fr?equence

d'intervention

des

algorithmes

de

descente

d?eterministes

dans

les

versions

hybrides

Remerciements

Nous

tenons

a

remercier

Pascal

Lemonnier

de

l'

equipe

API

-LRB-

IRISA

-RRB-

pour

ses

conseils

sur

les

tournures

du

parall?elisme

Gilbert

Cabillic

de

l'

equipe

SOLIDOR

-LRB-

IRISA

-RRB-

et

Hugue

Leroy

-LRB-

IRISA

-RRB-

pour

leurs

conseils

sur

l'utilisation

de

la

Paragon

R?ef?erences

-LSB-

-RSB-

F.

Baiardi

and

S.

Orlando

Strategies

for

a

massively

parallel

implementation

of

simulated

annealing

In

Netherlands

LNCS

Eindhoven

editor

PARLE

pages

-LCB-

June

-LSB-

-RSB-

A.

Bertoni

and

M.

Dorigo

Implicit

parallelism

in

genetic

algorithm

Technical

Report

Politecnico

di

Milano

-LSB-

-RSB-

C.

L.

Bridges

and

D.

E.

Goldberg

The

nonunifom

walsh-schema

transform

In

pages

-LCB-

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

-LSB-

-RSB-

F.

Cailliez

and

J.

P.

Pages

Introduction

a

l'Analyse

des

donn?ees

SMASH

-LSB-

-RSB-

R.

Cerf

Une

th?eorie

asymptotique

des

algorithmes

g?en?etiques

PhD

thesis

Universit?e

de

Montpellier

March

-LSB-

-RSB-

M.

Cosnard

and

Y.

Robert

Algorithme

parall?ele

pour

machines

SIMD

et

MIMD

RR

IMAG

September

-LSB-

-RSB-

G.

D.

d'

Aubigny

l'Analyse

Multidimensionnelle

Des

Donn?ees

De

Dissimilarit?e

PhD

thesis

Universite

Joseph

Fourier

Grenoble

I

January

-LSB-

-RSB-

T.

Starkweather

D.

Whitley

and

C.

Bogard

Genetic

algorithms

and

neural

networks

optimizing

connections

and

connectivity

Parallel

Computing

-LRB-

-RRB-

-LCB-

August

-LSB-

-RSB-

G.

d'Aubigny

Analyse

des

proximit?es

et

programmes

de

codage

multidimensionnel

Revue

de

Modulad

-LCB-

July

-LSB-

-RSB-

Y.

Davidor

Genetic

algorithms

and

robotics

an

heuristic

strategy

for

optimization

World

Scientific

-LSB-

-RSB-

L.

Davis

Genetic

algorithms

and

simulated

annealing

London

Pitman

Los

Altos

CA

Morgan

Kaufmann

-LSB-

-RSB-

T.

E.

Davis

and

J.

C.

Principe

A

simulated

annealing

like

convergence

theory

for

simple

genetic

algorithm

Proceedings

of

the

Fourth

International

Conference

on

Genetic

Algorithm.

-LCB-

July

-LSB-

-RSB-

J.

de

Leeuw

and

J.

Meulman

A

special

jackknife

for

multidimentional

scaling

Journal

of

Classification

-LCB-

-LSB-

-RSB-

K.

Deb

and

D.

E.

Goldberg

Analysing

deception

in

trap

functions

Technical

Report

University

of

Illinois

at

Urbana-Champaign

December

-LSB-

-RSB-

I.

East

and

D.

Macfarlane

An

investigation

of

several

parallel

genetic

algorithms

University

of

Bucckingham

-LCB-

April

-LSB-

-RSB-

D.

E.

Golberg

and

P.

Segrest

Finite

markov

chain

analysis

of

genetic

algorithms

Proceedings

of

the

Second

International

Conference

on

Genetic

Algorithms

-LCB-

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

-LSB-

-RSB-

D.

Goldberg

Genetic

Algorithms

in

Searh

Optimization

and

Machine

Learning

Addison-Wesley

-LSB-

-RSB-

D.

E.

Goldberg

Computer-aided

gas

pipeline

operation

using

genetic

algorithms

and

rule

learning

PhD

thesis

University

of

Michigan.

-LSB-

-RSB-

D.

E.

Goldberg

Construction

of

high-order

deceptive

functions

using

loworder

walsh

coefficients

Technical

Report

University

Illinois

at

UrbanaChampaign

December

-LSB-

-RSB-

D.

E.

Goldberg

and

J.

Richardson

Genetic

algorithms

with

sharing

for

multidimodal

function

optimization.

pages

-LCB-

Hillsdale

New

Jersey

-LSB-

-RSB-

R.

Gunter

Convergence

analysis

of

canonical

genetic

algorithms

IEEE

Transactions

on

neural

network

-LRB-

-RRB-

-LCB-

January

-LSB-

-RSB-

K.

Deb

H.

Kargupta

and

D.

E.

Goldberg

Ordering

genetic

algorithms

and

deception

Technical

Report

University

of

Illinois-Champaign

at

UrbanaChampaign

April

-LSB-

-RSB-

W.

Heiser

University

of

Leiden

-LSB-

-RSB-

J.

H.

Holland

Adaptation

in

Naturel

and

Artificial

Systems

PhD

thesis

University

of

Michigan

-LSB-

-RSB-

K.

Hwang

and

F.

A.

Briggs

Computer

architecture

and

parallel

processing

McGraw-Hill

-LSB-

-RSB-

M.

Iosifescu

Finite

Markov

Processes

and

Their

Applications

Chichester

Wiley

-LSB-

-RSB-

J.

J.

Gefenstette

J.

M.

Fitzpatrick

and

D.

Van

Gucht

Image

registration

by

genetic

search

In

Proceedings

of

IEEE

Southeast

conference.

-LSB-

-RSB-

J.

B.

Kruskal

Nonmetric

multidimensional

scaling

Bell

Telephone

system

June

-LSB-

-RSB-

J.

B.

Kruskal

and

M.

Wish

Multidimensional

Scaling

Sage

Publications

-LSB-

-RSB-

H.

Leredde

La

M?ethode

des

P

oles

d'attraction

la

m?ethode

des

p

oles

d'aggr

egation

deux

nouvelles

familles

d'algorithmes

en

Classification

automatique

et

s?eriation

PhD

thesis

Universite

de

Paris

VI

October

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

-LSB-

-RSB-

I.

C.

Lerman

Nombre

de

solutions

et

satisfiabilit?e

d'un

probl?eme

SAT

Une

approche

ensembliste

combinatoire

et

statistique

Technical

Report

IRISA

September

-LSB-

-RSB-

I.

C.

Lerman

and

H.

Leredde

La

m?ethode

des

p

oles

d'attraction

In

Versailles

IRIA

editor

Journ?ees

Analyse

des

Donn?ees

et

Informatique

-LSB-

-RSB-

I.

C.

Lerman

and

R.

F.

Ngouenet

Un

r

ole

pour

les

algorithmes

g?en?etiques

dans

la

repr?esentation

euclidienne

d'une

matrice

de

dissimilarit?e

In

Yadolah

Dodge

editor

XXVI

eme

journ?ees

de

Statistique

pages

-LCB-

April

-LSB-

-RSB-

H.

Leroy

Intel

Paragon

Architecture

Programmation

et

Outils

Technical

Report

IRISA

November

-LSB-

-RSB-

E.

Lutton

Etat

de

l'art

des

Algorithmes

G?en?etiques

Technical

Report

INRIA

Rocquencourt

February

-LSB-

-RSB-

M.

Machmouchi

Contributions

a

la

mise

en

oeuvre

des

m?ethodes

d'Analyse

des

Donn?ees

de

Dissimilarit?e

PhD

thesis

Universit?e

Pierre

Mendes-France

Grenoble

II

October

-LSB-

-RSB-

A.

Mead

Review

of

the

development

of

multidimensional

scaling

methods

The

Statistician

-LCB-

-LSB-

-RSB-

M.

Nei

Molecular

evolutionary

genetics

Columbia

University

Press

New

York

-LSB-

-RSB-

R.

F.

Ngouenet

Une

nouvelle

famille

d'indices

de

dissimilarit?e

pour

la

MDS

Technical

Report

IRISA

Universite

de

October

-LSB-

-RSB-

S.

S.

Rao

Optimization

Theory

and

Applications

Wiley

-LSB-

-RSB-

G.

Robertson

Parallel

implementation

of

genetic

algorithms

in

classifier

system

Genetic

algorithms

and

simulated

annealing

-LCB-

-LSB-

-RSB-

M.

Reynolds

S.

Schiffman

and

W.

Young

Introduction

to

multidimensional

scaling

theory

methods

and

applications

Academic

Press

-LSB-

-RSB-

J.

E.

Savage

and

M.

G.

Wloka

On

parallelizing

graph-partitioning

heuristics

Automata

Languages

and

Programming.

-LRB-

-RRB-

-LCB-

July

-LSB-

-RSB-

J.

Y.

Suh

and

D.

V.

Gucht

Distributed

genetic

algorithms

Technical

Report

Computer

science

departement

Indiana

University

July

Irisa

AG

s?equentiels

et

parall?eles

pour

la

MDS

-LSB-

-RSB-

Schaffer

Voelker

and

Mukai

Sponteneous

allozyme

mutations

in

drosophilia

melanogaster

rate

of

occurence

and

nature

of

the

mutants

Genetics

-LCB-

PI

n

I.

C.

Lerman

R.

F.

Ngouenet

Annexe

CHIN

CHINA

ISRA

ISRAEL

JAPA

JAPAN

INDIA

FRAN

FRANCE

BRASIL

CUBA

CUBA

CONG

CONGO

EGYP

EGYPTE

RUSS

RUSSIA

U.SA

U.S.A

YUGO

RIC

PUERTO-RICAN

POL

POLISH

NEG

NEGRO

MEX

MEXICAN

JEW

JEWISH

JAPANESE

ITALIAN

IRI

IRISH

IND

INDIAN

GER

GERMAN

CHI

CHINESE

BLA

BLACK

ANG

ANGLO

Symboles

et

noms

des

entit?s

tudi?es

dans

le

rapport

Irisa

intel paragon supercomputer
multidimensional scaling
parallel genetic algorithm