Derivace chybové funkce

Pro výpočet gradientního algoritmu potřebujeme vyjádřit derivace chybové funkce podle všech hledaných parametrů, t.j. vah, středů, šířek a matice normy.

Derivaci chybové funkce

$$E_1 = \frac{1}{2} \sum_{t=1}^{N}\sum_{s=1}^{m} (e_s^t)^2, e_s^t = (f_{s}(\vec{x}^{t}) -d_{s}^{t})^2$$ (3.3)

podle jednotlivých parametrů snadno vyjádříme použitím pravidel o derivaci součtu a složené funkce. Označme $\varphi_k\left(\vec{x}^t\right) = \varphi\left(\frac{\parallel \vec{x}^t - \vec{c}_k \parallel_{{\bf C_k}}}{b_k}\right)$ a $\varphi_k'\left(\vec{x}^t\right) = \varphi'\left(\frac{\parallel \vec{x}^t - \vec{c}_k \parallel_{{\bf C_k}}}{b_k}\right)$.

$$\frac{\partial E_1}{\partial w_{kq}} = \sum_{t=1}^{N} e_q^t \varphi_k\left(\vec{x}^t\right)$$ (3.4)

$$\frac{\partial E_1}{\partial \vec{c}_k} = -\frac{{\bf\Sigma^{-1}_{k}}}{b_k}\sum_{t=1}^{N} \frac{[\vec{x}^t ... ...}^k\parallel _{C_k}} \varphi_k'\left(\vec{x}^t\right)\sum_{s=1}^m e_s^{t}w_{ks}$$ (3.5)

$$\frac{\partial E_1}{\partial b_k} = -\frac{1}{b_k^2}\sum_{t=1}^{N} \parallel\vec{x}^t - \vec{c}^k\parallel _{C_k} \varphi_k'\left(\vec{x}^t\right)\sum_{s=1}^m e_s^{t}w_{ks}$$ (3.6)

$$\frac{\partial E_1}{\partial {\bf\Sigma^{-1}_{k}}} = \frac{1}{2b_k}\sum_{t=1}^{N} \frac{[\vec{x}^t - \vec{c}^k][\vec{x... ...}^k\parallel _{C_k}} \varphi_k'\left(\vec{x}^t\right)\sum_{s=1}^m e_s^{t}w_{ks}$$ (3.7)