next up previous contents
Next: Závěr Up: Výsledky experimentů Previous: Problém dvou spirál s přidaným   Obsah

Závěr

Převedli jsme několik úloh, jež lze řešit pomocí RBF sítí. Uvedené problémy jsme řešili pomocí tří základních přístupů -- gradientních algoritmů, třífázového učení a genetických algoritmů.

Genetické algoritmy měly největší časové nároky a v testovaném počtu generací nepřinesly lepší výsledky než ostatní metody. V některých případech jsou však výsledky genetických algoritmů postačující a do budoucna lze uvažovat o jejich paralelizaci a tedy o výrazném zlepšení časové náročnosti. Pak mohou být genetické algoritmy dobrou alternativou ostatním metodám.

Gradientní algoritmus je druhý v časové náročnosti. Pokud však provedeme dostatečný počet iterací, dosáhneme ve většině případů poměrně přesné řešení. Během experimentů jsme se nesetkali s žádným výrazným uvíznutím v lokálním minimu. Důvodem může být fakt, že chybová funkce je konvexní vůči parametrům vah a nekonvexní pouze vůči parametrům RBF jednotek (středy, šířky, váhy). Protože váhy určují lineární kombinaci výstupní vrstvy, dá se říci, že jejich optimální nastavení s ohledem na skrytou vrstvu je důležitější, než optimální nastavení ostatních parametrů.

Třífázová metoda je jednoznačně nejrychlejší metodou. Během experimentů se ukázalo, že u třífázové metody je výhodnější použít větší počet jednotek, než např. u gradientního učení. To může být způsobeno tím, že nastavení RBF jednotek během prvních dvou kroků nevyužívá informace o požadovaných výstupech. Je totiž zřejmé, že při gradientním učení a genetickém učení mají RBF jednotky tendenci umístit se tam, kde má požadovaná funkce podstatné výstupy. Jinak řečeno v oblasti, kde má požadovaná funkce nulový výstup nebo nevýznamný výstup, žádné RBF jednotky nepotřebujeme nebo jich postačí méně.

U všech metod lze pozorovat větší hodnoty chybové funkce na okrajích tréninkové množiny, což je pochopitelné, neboť to jsou oblasti, kde máme nejméně informací o učené funkci.

Ukázali jsme, že RBF sítě se dají využít k řešení jak aproximačních tak klasifikačních problémů. Volba metody učení, velikost skryté vrstvy a jejích parametrů je závislá na velikosti a typu problému, na dostupných výpočetních možnostech a požadované přesnosti řešení.


next up previous contents
Next: Závěr Up: Výsledky experimentů Previous: Problém dvou spirál s přidaným   Obsah
Petra Kudova
2001-04-19