Třífázové učení

Druhou použitou metodou je třífázové učení. Učili jsme RBF sítě s 16 jednotkami.

Vzhledem k rovnoměrnému rozmístění vstupů jsme použili jako první krok rovnoměrné rozmístění RBF jednotek po vstupním prostoru.

V druhé fázi jsme zkusili jak jednoduchou heuristiku $q$ sousedů, minimalizaci chybové funkce gradientní metodou, tak úplné vynechání této fáze.

Nakonec jsme doučili váhy sítě použitím metody nejmenších čtverců, využívající SVD rozklad.

V tabulce 7.8 je přehled použitých metod, výsledných chyb a časů potřebných k výpočtu. Průměrný čas k provedení 100 iterací gradientní metody byl pro sítě s šířkami 0.0011 s, pro sítě s šířkami a diagonálními maticemi norem 0.0027 s a pro sítě s šířkami a obecnými maticemi norem 0.0272 s. Při použití heuristiky q sousedů trval druhý krok v průměru 0.0003s, Čas potřebný k dopočtení hodnot vah byl průměrně 0.5s.

Třífázové učení je tedy pro malé úlohy velice rychlé. Funkce naučené sítě je znázorněna na obrázku 7.15 a průběh její chybové funkce na 7.16.

Tabulka 7.8: Třífázové učení.

šířka	vážená norma	druhá fáze	chyba sítě	čas
ne	ne	-	5.799	1s
ano	ne	Q sousedů, q=1, c=3	0.342	1s
		Q sousedů, q=1, c=3.5	0.560	1s
		Q sousedů, q=1, c=4	0.747	1s
ano	ne	gradientní metoda,	2.920	1s
		P = 2, 500 iterací
		gradientní metoda,	1.391	1s
		P = 4, 500 iterací
		gradientní metoda,	1.264	1s
		P = 6, 500 iterací
		gradientní metoda,	1.264	1s
		P = 10, 500 iterací
ano	diagonální	gradientní metoda,	2.802	2s
		P = 2, 500 iterací
		gradientní metoda,	3.946	2s
		P = 4, 500 iterací
		gradientní metoda,	0.214	2s
		P = 6, 500 iterací
		gradientní metoda,	0.214	5s
		P = 10, 2000 iterací
ano	ano	gradientní metoda,	1.290	2s
		P = 2, 400 iterací
		gradientní metoda,	2.742	2s
		P = 4, 400 iterací
		gradientní metoda,	0.969	2s
		P = 6, 400 iterací
		gradientní metoda,	1.181	6s
		P = 10, 1000 iterací

Obrázek 7.15: Funkce sítě naučené třífázovou metodou.

Obrázek 7.16: Chybová funkce sítě z obr. 7.15.