Zadání diplomové práce

Extrakce tvrzení fuzzy logiky z umělých neuronových sítí

Jednou z velmi zajímavých a přitom prakticky užitečných aplikací umělých neuronových sítí je od počátku 90. let tzv. extrakce znalostí z empirických dat. Data jsou použita k naučení sítě a z naučené sítě jsou potom extrahovány formalizované znalosti v podobě tzv. logických pravidel, tj. syntakticky omezených tvrzení booleovské nebo fuzzy logiky. Zatímco pro extrakci booleovských pravidel již existuje celá řada metod, včetně několika metod se solidními teoretickými základy, extracke fuzzy pravidel je rozvinuta daleko méně a všechny dosud navržené metody spočívají převážně na heuristikách. Důvodem je skutečnost, že konstrukce tvrzení uvažované fuzzy logiky, jehož interpretací v uvažovaném modelu je daná fuzzy množina, byla dosud známa pouze pro velmi úzké třídy fuzzy množin. Tato situace se nedávno změnila v jedné ze základních fuzzy logik, Lukasiewiczově logice, kde byl v roce 2001 podán kostruktivní důkaz existence takových tvrzení pro velmi širokou třídu fuzzy množin, totiž pro fuzzy množiny jejichž funkcemi příslušnosti jsou tzv. racionální McNaughtonovy funkce. Tento důkaz je netriviální, stejně jako důkazy několika již dříve známých vět, o něž se opírá. Všechny zmíněné kostruktivní důkazy jsou dostatečným podkladem pro nejdůležitější časti algoritmu extrakce tvrzení Lukasiewiczovy logiky z některých typů naučených neuronových sítí. K návrhu takového algoritmu zbývá nyní již jen několik kroků - propojit konstrukce použité v těchto důkazech s vhodnými přístupy k extrakci logických pravidel z  neuronových sítí, zohlednit konečnou přesnost výpočtu, a zohlednit omezenost výpočetních zdrojů. Uvedené kroky by měly být právě náplní navrhované diplomové práce.

Diplomant by se měl seznámit s teoretickými výsledky týkajícími se konstrukce tvrzení Lukasiewiczovy logiky, jejichž interpretací jsou fuzzy množiny s racionální McNaughtonovou funkcí příslušnosti, a detailně porozumět jejich důkazům. Měl by rovněž získat přehled o existujících přístupech k extrakci logických pravidel z  neuronových sítí, především z vícevrstevných perceptronů. Vlastní přínos práce by měl spočívat v tvůrčím propojení prostudované konstrukce s některým z  těchto přístupů, který se diplomantovi na základě vlastní analýzy problému bude jevit jako nejvhodnější. Výsledkem práce by měl být návrh a prototypová implementace algoritmu, jehož vstupem by byl parametrický popis naučeného vícevrstevného perceptronu a výstupem  tvrzení Lukasiewiczovy logiky, jehož interpretace při zvolené přesnosti a dalších omezeních nejlépe aproximuje zobrazení počítané touto neuronovou sítí.

Doporučená literatura

1. k Lukasiewiczově logice

• S. Aguzzoli, A. Ciabattoni. Finiteness in infinite-valued Lukasiewicz logic. Journal of Logic, Language and Information, 9:5-29, 2000.
• S. Aguzzoli, D. Mundici. Weierstrass approximations by Lukasiewicz formulas with one quantified variable. In 31st IEEE International Symposium on Multiple-Valued Logic, 2001.
• L.O. Cignoli, I.M.L. D'Ottaviano, D. Mundici. Algebraic Foundations of Many-valued Reasoning, Kluwer, 2000.
• P. Hájek. Metamathematics of Fuzzy Logic, Kluwer, 1998.

2. k extrakci logických pravidel pomocí neuronových sítí

• R. Andrews, J. Diederich, A.B. Tickle. Survey and critique of techniques for extracting rules from artificial neural networks. Knowledge Based Systems, 8:378-389, 1995.
• F. Maire. Rule extraction by backpropagation of polyhedra.  Neural Networks. 12:717-725, 1999.
• S. Mitra, Y. Hayashi. Neuro-fuzzy rule generation: Survey in soft computing framework. IEEE Transactions on Neural Networks, 11:748-768, 2000.
• A.B. Tickle, R. Andrews, M. Golea, J. Diederich. The truth will come to light: Directions and challenges in extracting rules from trained artificial neural networks. IEEE Transactions on Neural Networks, 9:1057-1068, 1998.