Uvod v evolucijsko računanje

Transcription

1 Uvod v evolucijsko računanje Bogdan Filipič Odsek za inteligentne sisteme, Institut Jožef Stefan Jamova 39, 1000 Ljubljana bogdan.filipic@ijs.si Predavanje pri predmetih Umetna inteligenca 2 in Evolucijsko računanje Univerza v Ljubljani, Fakulteta za računalništvo in informatiko Vsebina Uvod Kaj je evolucijsko računanje Terminologija Evolucijski algoritem in njegove značilnosti Razvoj algoritma za določen problem Vrednotenje rezultatov Prednosti in slabosti evolucijskih algoritmov 1

2 Uvod Eden ključnih konceptov v umetni inteligenci je preiskovanje (angl. search) Preiskujemo lahko deterministično (npr. A*) ali stohastično V stohastičnih algoritmih so nekateri koraki odvisni od naključnih vrednosti (random) Stohastične algoritme uporabljamo, kadar zaradi prevelike računske zahtevnosti deterministično reševanje ne pride v poštev Primer stohastičnih algoritmov so evolucijski algoritmi Kaj je evolucijsko računanje? Področje računalništva, ki se ukvarja z razvojem in uporabo preiskovalnih in optimizacijskih algoritmov, ki posnemajo načela biološke evolucije Ideja: računalniško simulirana evolucija kot metoda reševanja problemov Analogija: Biološka evolucija Osebki Uspešnost Okolje Reševanje problema Možne rešitve Kakovost rešitev Problem 2

3 Taksonomija področja COMPUTATIONAL INTELLIGENCE or SOFT COMPUTING Neural Networks Evolutionary Algorithms Fuzzy Systems Evolutionary Programming Evolution Strategies Genetic Algorithms Genetic Programming Osnova algoritmov: evolucijski cikel Selekcija Starši Populacija Križanje Mutacija Zamenjava Potomci 3

4 Terminologija Populacija: množica rešitev, ki jih procesira algoritem Osebki, kromosomi: rešitve (elementi populacije), predstavljene kot dvojiški nizi, vektorji realnih števil, permutacije, drevesne strukture, Geni: gradniki kromosomov, npr. biti, znaki nad neko abecedo, cela števila, realna števila, Funkcija uspešnosti (angl. fitness function): funkcija, s katero vrednotimo rešitve (v optimizaciji kriterijska ali stroškovna funkcija) Terminologija (2) Generacije: iterativni koraki v izvajanju algoritma Selekcija: verjetnostna izbira boljših rešitev za naslednjo generacijo (zagotavlja preživetje uspešnejših osebkov) Genetski operatorji: tvorjenje novih rešitev iz obstoječih (križanje, mutacija) 4

5 Evolucijski algoritem 1. (Naključno) tvori začetno množico rešitev. 2. Ovrednoti rešitve. 3. Kot rezultat privzemi najboljšo rešitev. 4. Verjetnostno izberi podmnožico dobrih rešitev. 5. Tvori nove rešitve z variacijo obstoječih rešitev. 6. Ovrednoti nove rešitve. 7. Če je dobljena boljša rešitev, jo privzemi za rezultat. 8. Če je opravljenih zadosti iteracij, vrni rezultat in končaj, sicer se vrni na korak 4. Evolucijski algoritem 5

6 Selekcija Zagotavljanje preživetja uspešnejših rešitev Iz populacije verjetnostno izbiramo boljše rešitve (starše), iz katerih bomo z genetskimi operatorji tvorili nove rešitve (potomce) Izvedbe: selekcija z ruleto, turnirska selekcija idr. Križanje Primer: enostavno (enomestno) križanje 6

7 Križanje (2) Tvorjenje novih rešitev s kombiniranjem zapisov Verjetnost križanja: p c = 0,5 do 1, tipično 0,7 ali 0,8 Druge izvedbe operatorja: večmestno križanje, uniformno križanje itd. Mutacija Naključne spremembe rešitev Verjetnost mutacije tipično nižja kot verjetnost križanja, npr. p m = 0,01 Pomen: vnašanje novih gradnikov v populacijo, preprečevanje nepovratnih izgub gradnikov 7

8 Parametri algoritma Velikost populacije, število generacij, verjetnosti operatorjev itd. Vrednosti parametrov mora določiti uporabnik pred zagonom algoritma Ni pravil ali formul za določanje vrednosti parametrov Evolucijski algoritmi niso pretirano občutljivi na vrednosti parametrov (robustnost) Razvoj algoritma za določen problem Predstavitev (kodiranje) rešitev Funkcija uspešnosti Specifični operatorji (če so potrebni) Uglaševanje parametrov algoritma Vrednotenje rezultatov 8

9 Statistično vrednotenje rezultatov zaradi stohastične narave algoritma 2.5 Cost Run 1 Run 2 Run 3 Run 4 Run 5 Average Evaluations Primer vrednotenja 9

10 Prednosti evolucijskih algoritmov Splošnost in široka uporabnost Zahtevajo le vrednotenje rešitev, ne pa tudi dodatnih informacij o njih in posebnih lastnosti prostora rešitev (npr. zveznosti, odvedljivosti) Zaradi populacijskega načina preiskovanja dajejo alternativne rešitve (uporabno v multimodalnih, dinamičnih in večkriterijskih problemih) Prednosti evolucijskih algoritmov (2) Omogočajo vključevanje drugih metod (hibridizacija, hibridni algoritmi, npr. evolucijski algoritem z lokalno optimizacijo rešitev) Možno jih je paralelizirati Uspešno rešujejo zahtevne praktične probleme 10

11 Slabosti Suboptimalna metodologija (brez zagotovila o optimalnosti rešitev) Računska zahtevnost (zaradi populacijskega preiskovanja) Potrebno uglaševanje parametrov algoritma (velikost populacije, število korakov, verjetnosti operatorjev itd.) Priporočena literatura A. E. Eiben, J. E. Smith: Introduction to Evolutionary Computing, Springer-Verlag, Berlin, 2003 Hitch-Hiker's Guide to Evolutionary Computation 11