Neuronove site I zk.

Neuronove site I zk.

Příspěvekod pasky » 1. 2. 2010 15:11

Zkouska z NN mela dve casti, rano pisemka, pozdeji ustni. V pisemne casti jsme dostali

(i) Backpropagation (algoritmus a odvozeni delta-clenu)
(ii) Hopfieldovy site (popsat algoritmus a konvergenci - pokud mozno vcetne dukazu)

(V jedne z minulych zkousek bylo dle exklusivnich informaci Perceptronove uceni vc. dukazu a Ojuv algoritmus.)

Na pisemku bylo 50 minut, pak jsme meli cca 2 hodiny pauzu a nasledovala ustni. Nejdriv se ptala na ruzne nejasnosti a chybejici veci v pisemce a pak volne presla k ruznym zaludnym otazkam z celeho uciva - mne se postupne ptala na perceptronove uceni + ideu dukazu, Oju (zase jen strucne) a nastrel vzorecku uceni Kohonenovych map. U dalsich jsem zaslechl geneticke algoritmy, druhoderivacni uceni, perceptron s prihradkou, atd.

Nakonec mi dala jednicku s tim, at se to ke statnicim jeste doucim. ;-) To jsem to neumel nijak skvele. Celkem pomahala nasmerovat spravnym smerem, kdyz jsem rikal ptakoviny, tak se mne ptala detailneji, abych na to sam prisel - ptala se tak, ze clovek musel vedet, jaky ty vzorecky maji vyznam a jak se na ne zhruba prislo, ale nevrtala se v detailech, byla ferova. Velke minus byla strasliva zdlouhavost ustni zkousky - mela byt od 1130, prisla v 1155, po 5 minutach mi zadala zderivovat sigmoidu, a pak jsem cekal hodinu a pul, nez se ke mne vrati; mezitim jsem si kreslil, z nudy dokazal nejakou vetu, zase kreslil, a zkousel spat, ale chodba byla studena... Kdybych to vedel, vezmu si tam nejakou knizku. ;-)

Rekl bych, ze na zkousku je urcite potreba detailne znat perceptronove uceni a backpropagation, ze zbytku pak mit alespon hruby prehled, jak se co uci a rozumet tem principum - pak se to neda nedat. Good luck!
pasky
Matfyz(ák|ačka) level II
 
Příspěvky: 89
Registrován: 4. 1. 2005 22:57

Re: [NAIL002] Neuronove site I zk.

Příspěvekod Dr_Zlo » 15. 2. 2010 16:04

Zkouska 15.02.2010

Cas: asi 65minut
1) Odvození adaptačních pravidel algoritmu BackPropagation
2) Samoorganizace a Kohonenovy mapy
---------
ad 1) v úvodu upřesněno, že máme popsat i na jaký typ sítě se BP hodí a popsat neuron takové sítě.
Nakreslil a popsal jsem model site jako 6-tice(neurony, zapojeni, input,output vrstva, vahova fce, prenosova fce).
Popsal co dela jeden neuron (vypocetni jednotka vypocita vystup na zaklade vstupu, vah, biasu, prenosove fce) + nacrtky.
Popsal "error" funkci E. Napsal co je cilem uceni. Odvodil adaptacni pravidlo z: d(E)/d(w_ij) pro vystupni vrstvu.

K adaptaci pro skryte vrstvy jsem napsal jen prislusny vztah + ze se k nemu dojde stejnou uvahou jako pro vystupni vrstvu + nacrtek chyby lezouci dovnitr do site.

2) Otazka zadana bez dalšího upřesnění
asi 5 odrazek vykriku o samoorganizaci
+ podrobny popis fungovani Kohonena (bez dukazu konvergence) + v odrazkach zminil mozne upravy (Winner-takes-all, mechanismus "svedomi", lateralni inhibice, LVQ ) a hybridni site: RBF
---------

Cas tak tak. Po pisemce 45minut pauza. Pote ustni cast zkousky. Pi. Mrazova si pisemku cetla az pri ustni casti zkousky.
Nalezene chyby jsem dostal za ukol opravit a dale napsat co vim o RBF sitich. A odesla zkouset dalsiho.
Pripravte se, ze pi. Mrazova v pripade chyby pouze ukaze dane misto (napr. tuto cast si jeste promyslete), ale nijak zvlast nenapovi.

Chyby: Ve finalnich vzorcich adapt. pravidel jsem mel f(vystup_neuronu) namisto f(vnitrni_potecnial), dale znamenko minus pred Error fci, a ve vzorci adaptace Kohonena mi chybel clen *(vstupni_vektor - w_x,y).

Po zhruba 20minutach se pi.Mrazova vratila, opraveno vse - prezentovano s mirnymi zmatky.
U RBF jsem vedel jen autory, funkci vycislovanou neurony RBF, a jak je definovana error funkce, vyznam jednotlivych clenu ve vzoreccich.
Coz jsem na rovinu povedel.

Vysledek za 1 se slovy - ze zkouska by na 1 nebyla, ale ze jsme meli hodne dobrou zapoctovku a tez prezentaci. A at se to na statnice doucim.

Jako studijni material doporucuju Raula Rojase je ve studnici v .pdf. Neleknete se jeho 500stran, velmi dobre odpovida slidum, latka navic se da snadno rozpoznat a nemilosrdne preskocit. PCA analyzu se ucte z .pdf ze studnice. Good Luck!
Dr_Zlo
 


Zpět na AIL002 Neuronové sítě

Kdo je online

Uživatelé procházející toto fórum: Žádní registrovaní uživatelé a 1 návštěvník