Druhá fáze -- nastavení šířek

Úkolem této fáze je nastavit zbývající parametry RBF jednotek, což jsou v našem případě šířky a matice vážených norem.

V [9] je popsán postup pro RBF sítě, jejichž RBF jednotky realizují Gaussovu funkci a mají kromě středu pouze jeden parametr, a to šířku. Zaměříme se nejprve na tento případ.

Podíváme-li se na vzorec pro výpočet odezvy RBF jednotky s Gaussovo funkcí

$$y(\vec{x}) = e^{-\left(\frac{\parallel x - c \parallel_{}}{b}\right)^2} ,$$

vidíme, že tato jednotka dává významné výstupy v radiální oblasti kolem středu $\vec{c}$, přičemž šířka $b$ určuje velikost této oblasti.

Šířky proto nesmí být moc malé, aby ve vstupním prostoru nevznikly oblasti, kde nebude mít žádná z jednotek významnou odezvu. Na druhou stranu nesmí být moc velké, protože pak se oblasti působnosti navzájem překrývají a RBF jednotky ztrácí svůj lokální charakter.

Chybová funkce $E(b_{1}, \cdots ,b_{h})$ nabývá minima, právě když jsou tyto dva požadavky vyvážené. Parametr $P$ udává míru překrytí sousedních oblastí.

$$E(b_{1}, \cdots ,b_{h}) = \frac{1}{2} \sum_{r=1}^{h} \left[ ... ...\parallel c_s - c_r \parallel_{}}{b_r}\right)^2 - P \right]^2$$ (4.12)

V praxi se většinou minimalizace této funkce nahrazuje jednoduchou heuristikou. Šířka RBF jednotek se nastavuje úměrně průměru vzdáleností několika nejbližších sousedů.

V případě naší RBF sítě nepočítáme vzdálenosti pomocí euklidovské metriky, ale pomocí vážených norem. Vztah (4.12) proto zobecníme pro náš případ.

$$E( b_1, \cdots ,b_h; {\bf\Sigma^{-1}_{1}}, \cdots, {\bf\Sigm... ...l c_s - c_r \parallel_{{\bf C_i}}}{b_r}\right)^2 - P \right]^2$$ (4.13)

Minimum této funkce budeme hledat jednoduchou gradientní metodu obdobně jako v 3.1.