Výpočet hodnot derivací chybové funkce

V algoritmu 3.1.1 potřebujeme spočítat hodnoty $\frac{\partial E_1}{\partial w_{kq}}$, $\frac{\partial E_1}{\partial \vec{c}_k}$, $\frac{\partial E_1}{\partial b_k}$ a $\frac{\partial E_1}{\partial {\bf\Sigma^{-1}_{k}}}$ dle vztahu (3.4-3.7).

K tomu je třeba jeden průchod tréninkovou množinou. Po předložení aktuálního tréninkového vzoru síti nejprve pro každou jednotku $k$ spočteme hodnotu vnitřního potenciálu $\xi_k$ , výstup dané jednotky $y_k$ a hodnotu derivace $y'_k$. Poté přejdeme k výstupní vrstvě a spočteme hodnoty jejích výstupů a hodnoty chyb vůči tomuto tréninkovému vzoru. Poté se sítí opět vracíme a na základě spočtených hodnot vyhodnotíme $\frac{\partial E_1^{(t)}}{\partial w_{ij}}$, $\frac{\partial E_1^{(t)}}{\partial \vec{c}_i}$, $\frac{\partial E_1^{(t)}}{\partial b_i}$ a $\frac{\partial E_1^{(t)}}{\partial {\bf\Sigma^{-1}_{i}}}$. Přesný postup je popsán algoritmem 3.4.1.