Note de curs - Departamentul Automatica, Calculatoare si ...

a cǎror structurǎ este determinatǎ empiric. Desi retelele neuronale artificiale au
fost inspirate încǎ de la începuturi de retelele de celule nervoase ale
organismelor vii, dezvoltǎrile aplicative ulterioare ale acestor retele, pânǎ la
cele mai recente, cunoscute si sub numele de modele conexioniste sunt produse
ale progreselor recente înregistrate de analiza functionalǎ.
O retea neuronalǎ tipicǎ (desigur dintre cele stratificate, deocamdatǎ cele mai
utilizate) este constituitǎ din mai multe straturi de noduri interconectate, fiecare
nod cu o functie de activare si ponderi pe fiecare arc care conecteazǎ nodurile
retelei între ele. Iesirea fiecǎrui nod este o functie neliniarǎ de toate intrǎrile
sale. Astfel, reteaua este o dezvoltare a relatiei neliniare necunoscute între
intrǎrile x si iesirile F într-un spatiu generat de asa-numitele functii de activare
ale nodurilor retelei. În particular, învǎtarea prin propagare directǎ în retele
stratificate poate fi privitǎ ca sintetizarea unei aproximǎri a unei functii
multidimensionale în spatiul generat de functiile de activare φ i
( x) , (i = 1, 2, …,
m), adicǎ
m
∑
F( x) = c φ ( x)
i = 1
Cu date empirice la dispozitie, cu functiile de activare date si cu topologia
retelei cunoscutǎ, parametrii c i , (i = 1, 2, …, m) sunt ajustati astfel încât eroarea
aproximǎrii sǎ fie minimǎ.
Douǎ tipuri de functii de activare sunt utilizate de obicei: functiile globale si
functiile locale.
Functiile de activare globale sunt active pe un domeniu larg de valori ale
intrǎrilor si asigurǎ o aproximare globalǎ a datelor empirice. Functiile de
activare locale sunt active numai într-o vecinǎtate restrânsǎ a unei valori de
intrare. Efectul lor se estompeazǎ pentru valori situate departe de centrul de
receptivitate al functiei de activare. Cele mai cunoscute functii de activare
globale (exemplificate mai devreme) sunt pragul liniar unitar utilizat în celulele
numite perceptron si functia sigmoidalǎ utilizatǎ în retelele cu propagare
secventialǎ inversǎ (BPN – Back Propagation Network).
Functiile de tipul radial sunt în esentǎ locale si sunt utilizate în retelele cu baze
de functii radiale (RBFN – Radial Basis Function Network). Figura care
urmeazǎ reprezintǎ o asemenea functie.
i
i
În general, o functie radialǎ asociatǎ unui nod este de forma
69