Rezumat teza Alin Tisan - Facultatea de Electronica ...

Rezumat pag. 21
LUT-uri pentru o anumită arhitectură a reţelei adoptate:
Nr blocuri RAM = 2(
Na + Ni)
Nr blocuri DSP = Na + Ni + 12 + 4Ni + 3 + Na + Ni
( ) ( )
bloc _ neuroni
( )
strat _ ascuns
ctr _ bloc
Nr LUT − uri =
= 15 + 6Ni + 2Na
40 + 8Na + 32 Ni + 7 Ni + 200
strat iesire ctr _bloc
(ec.8.12)
unde Na este numărul de neuroni de pe stratul ascuns iar Ni este numărul de neuroni de pe stratul de ieşire.
În acest mod se poate previziona că numărul maxim de neuroni ce pot fi implementaţi şi care să utilizeze
strict blocurile Block RAM şi XtremeDSP sunt de 15 neuroni în stratul de ieşire şi 45 de neuroni din stratul
ascuns. În cazul în care neuronii folosesc multiplicatoarele distribuite si blocurile Block RAM se mai pot
implementa încă 26 de neuroni, 20 în stratul ascuns şi 6 în stratul de ieşire ce vor utiliza 6878 de LUT-uri şi
76 de blocuri RAM. Astfel că cei 71 de neuroni vor utiliza 192 blocuri XtremeDSP, 192 blocuri RAM şi
8063 de LUT-uri. Cele 22657 de LUT-uri neutilizate se pot redistribui pentru implementarea neuronilor
ştiind că numărul de LUT-uri utilizate de către fiecare neuron în parte (din stratul de ieşire sau ascuns) este
de 630 LUT-uri/neuron strat ascuns şi 860 LUT-uri/neuron strat ieşire.
Numărul maxim de neuroni implementaţi în acest mod este de 20 de neuroni in stratul ascuns şi 10
neuroni în stratul de ieşire. Numărul total de neuroni implementabili în circuitul 4VSX35 este de aproximativ
120 de neuroni.
8.8 Realizarea bibliotecilor de componente
Biblioteca de componente necesare proiectării reţelelor neuronale feedforward multistrat cu antrenare BP onchip,
a presupus realizarea unor module de calcul specifice cu posibilităţi de reconfigurare şi gruparea
acestora intr-o bibliotecă denumită RNA FF. Blocurile proiectate se grupează în blocuri de control, blocuri
de calcul al ponderilor neuronilor din stratul ascuns şi din stratul de ieşire, blocurile de aproximare a funcţiei
sigmoid (blocurile de activare) şi blocurile neuronale.
8.9 Concluzii şi contribuţii
In acest capitol am prezentat implementarea reţelelor neuronale multistrat cu propagare înainte şi antrenare
BP on-chip şi am propus o metodă de proiectare a unei reţele neuronale FF cu ajutorul componentelor
predefinite realizate de autor. Blocurile de proiectare a reţelei FF propuse sunt:
a) Blocul neuronal. În cadrul acestui bloc am propus două arhitecturi ale unităţii neuronale de calcul
“neuron_mult” şi “neuron_DSP” pentru a da posibilitatea creării unor straturi neuronale cu un număr mai
mare decât numărul de blocuri dedicate XtremeDSP (blocurile ce conţin multiplicatoarele dedicate). Pentru
compararea celor doua arhitecturi am realizat o sinteză privind frecvenţele maxime de utilizare şi a
consumului de resurse necesar implementării neuronului prin intermediul blocurilor XtremeDSP, a
multiplicatoarelor dedicate şi a acumulatoarelor.
b) Funcţia de activare. Pentru implementarea hardware într-un mod cât mai eficient, ceea ce presupune
consum cât mai mic de resurse la o viteză de calcul cât mai mare, a funcţiei de activare sigmoid am propus o
serie de funcţii de aproximare. Fiecare funcţie a fost implementată hardware, i-a fost estimat consumul de
resurse şi frecvenţa maximă de calcul şi i-am calculat, prin intermediul unui script MATLAB (fişier m),
erorile maxime şi medii introduse. De asemenea am realizat un tabel de sinteză ce explicitează pentru fiecare
tip de funcţie de aproximare resursele consumate (exprimate în număr de slice-uri, LUT-uri şi total porţi
logice echivalente), frecvenţa maximă de calcul şi puterea consumată. În urma acestei sinteze am
concluzionat cu privire la alegerea celei mai eficiente funcţii de aproximare pentru o situaţie dată a resurselor
disponibile.
c) Blocul de control. Blocul de control propus este format din două tipuri de blocuri: unul de furnizare a
unei baze de timp pentru întreaga reţea neuronală,”Numărător general” şi unul pentru generarea semnalelor
de control către cele două straturi ce compun reţeaua neuronală,“Signal generator”. Deoarece starea
semnalele de control este funcţie de numărul de neuroni din fiecare strat şi de numărul de straturi ce compun
reţeaua neuronală, am dezvoltat un set de ecuaţii care să calculeze momentele de timp la care semnalele de
control vor trece dintr-o stare în alta.
d) Blocul de calcul al erorilor şi a ponderilor stratului de ieşire. În cadrul blocului de calcul al erorilor şi a
ponderilor stratului de ieşire am stabilit componenţa blocurilor de calcul a erorii cumulate, gradientului erorii
şi a ponderilor stratului neuronal de ieşire. Structura blocurilor este una modulară şi poate fi adaptată pentru
orice configuraţie a arhitecturii reţelei neuronale.
e) Blocul de calcul al ponderilor stratului ascuns. Structura blocul de calcul al ponderilor stratului ascuns
a fost propusă în funcţie de formulele de calcul necesare implementării metodei de învăţare Delta. Deoarece
în calculul paralel al ponderilor, determinat de paralelismul de neuron adoptat, există o secvenţă de calcul ce