Zadání diplomové práce

Urychlení evolučních algoritmů pomocí směsí rozdělení pravděpodobnosti

(klíčová slova: optimalizace, evoluční algoritmy, empirické optimalizované funkce, směsi rozdělení pravděpodobnosti, gaussovské směsi)

Evoluční algoritmy jsou v posledních 20 letech jednou z nejúspěšnějších metod pro řešení netradičních optimalizačních problémů, jako např. hledání nejvhodnějších dokumentů obsahujících požadované informace, objevování nejzajímvějších informací v dostupných datech či další typy optimalizačních úloh, při nichž lze hodnoty cílové funkce získat pouze empiricky. Protože evoluční algoritmy pracují pouze s funkčními hodnotami optimalizované funkce, blíží s k jejímu optimu podstatně pomaleji než optimalizační metody pro hladké funkce, které využívají rovněž informace o gradientu optimalizované funkce, případně o jejích druhých derivacích. Tato vlastnost evolučních algoritmů je zvláště nepříjemná ve spojení se skutečností, že empirické získání hodnoty optimalizované funkce bývá obvykle značně nákladné i časově náročné. Evoluční algoritmy však lze podstatně urychlit tím, že při vyhodnocování funkční hodnoty optimalizované funkce používají empirickou optimalizovanou funkci jen občas, zatímco většinou vyhodnocují pouze její dostatečně přesný regresní model. K nejslibnějším regresním modelům patří některé modely založené na směsích rozdělenení pravděpodobnosti, včetně nejznámějšího typu – gaussovských směsí. Gaussovaké směsi úzce souvisí s dalším důležitým typem regresních modelů – modely založenými na umělých neuronových sítích. Využitelnost modelů založených na umělých neuronových sítích k urychlení evoluční optimalizace empirických funkcí se již začala zkoumat. Proto by byl smysluplný podobný výzkum i pro modely založené na směsích rozdělenení pravděpodobnosti. Pokusem o něj by měla být právě navrhovaná diplomová práce.

Student se nejdříve důkladně seznámí s regresními modely založenými na směsích rozdělenení pravděpodobnosti, včetně jejich vztahu k umělým neuronovým sítím, a také s principy optimalizace pomocí evolučních algoritmů. Bude přitom věnovat pozornost i urychlení evoluční optimalizace empirických funkcí pomocí regresního modelu optimalizované funkce. S využitím prostudované literatury analyzuje možnosti použití některých typů směsích rozdělenení pravděpodobnosti k tomuto účelu. Několik nejslibnějších z nich rozpracuje až do implementovatelné podoby a zahrne je do prototypové implementace. Na závěr porovná implementovaná řešení na několika testovacích funkcích pro evoluční algoritmy, jakož i na alespoň jedné databázi hodnot empirické optimalizované funkce z reálné aplikace, kterou dostane od vedoucího práce.

Doporučená literatura

· M.D. Buhman. Radial basis functions : theory and implementations. Cambridge University Press, 2003.

· Y. Jin, M. Hüsken, M. Olhofer, B. Sendhoff. Neural networks for fitness approximation in evolutionary optimization. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 281–306.

· G. McLachlan, D. Peel. Finite mixture models. Wiley, 2000.

· Y.S. Ong, P.B. Nair, A.J. Keane, K.W. Wong, Surrogate-assisted evolutionary optimization frameworks for high-fidelity engineering design problems. In Knowledge Incorporation in Evolutionary Computation. Berlin, Springer, 2005, 307–331.