Sítí postupujeme směrem dopředu. Nejprve určíme skrytou vrstvu. Naším cílem je nastavit parametry RBF jednotek tak, aby jejich oblasti působnosti pokrývali celý vstupní prostor a zároveň, aby se navzájem příliš nepřekrývali.
Učení RBF jednotek je navíc rozděleno do dvou fází. V první fázi rozmístíme středy RBF jednotek a tedy středy odpovídajících radiálních oblastí po vstupním prostoru tak, aby co nejlépe aproximovaly hustotu vstupních dat. Vycházíme z předpokladu, že vyskytují-li se v nějaké oblasti vstupního prostoru vstupní vektory spíše vyjímečně, postačí nám pokrýt tuto oblast několika málo RBF jednotkami. Naopak tam, kde je hustota vstupních vzorů vysoká, bude zřejmě potřeba více RBF jednotek. V této fázi probíhá učení bez učitele, tedy z tréninkové množiny používáme pouze vstupní části tréninkových vzorů.
V druhé fázi určíme zbývající parametry RBF jednotek, které typicky ovlivňují velikost radiálních oblastí.
V třetí -- závěrečné -- fázi zbývá nastavit váhy spojů mezi skrytou a výstupní vrstvou, což jsou váhy lineární kombinace.
První fází a různými metodami vektorové kvantizace se budeme zabývat v části 4.1. V části 4.2 popíšeme způsoby nastavení šířek a matic vážených norem. Nastavením vah se zabývá část 4.3.