I

Als bijvoorbeeld de input van beide input neuronen 1 bedraagt (1/1), zal de verborgen unit
een relatief sterke output geven (namelijk 12), wat de outputunit tot vuren aanzet. Bedraagt
echter de input 1/0 of 0/1, dan zal de totale activatie (respectievelijk: drie en negen) niet de
outputdrempel halen.
Een recurrent network is een netwerk waarin sprake is van feedback, of terugkerende verbindingen.
Dergelijke terugkerende verbindingen, die zowel exciterend of inhiberend kunnen
zijn, oefenen een modulerende invloed uit op de input- of verborgen units
Als een inputunit onvoldoende is geactiveerd (bijvoorbeeld niet de waarde 1, maar 0.5 heeft),
kan door middel van feedback van een output (of hogere-orde unit) deze waarde worden vergroot
(1/2 wordt bijvoorbeeld 1) waardoor het netwerk toch goed blijft functioneren.
Een populaire en succesvolle techniek die in netwerksimulaties wordt toegepast, is backward
propagation. Dit houdt een reeks van (steeds herhaalde) berekeningen in, waarbij eerst een
gewenst outputpatroon (waarden van outputunits) wordt vastgesteld, en vervolgens wordt
terugwerkt via de verschillende lagen van het netwerk, totdat de inputunit weer is bereikt. De
startwaarden van gewichten van de tussenliggende verbindingen in het netwerk, worden volgens
toeval gekozen. Vervolgens wordt de afwijking tussen de vereiste en verkregen output
berekend, en worden de gewichten aangepast, afhankelijk van de mate waarin zij aan de fout
bijdroegen. Na een groot aantal iteraties zullen de gewenste en verkregen oplossingen met
elkaar convergeren, totdat een stabiele waarde wordt verkregen die aan het gestelde criterium
voldoet.
Backward propagation lijkt vanuit neural standpunt niet zo plausibel. Desondanks is de kracht
van deze benadering dat door simpelweg de sterkte van de verbindingen en de activatie van
de knopen te variëren, allerlei ingewikkelde berekeningen kunnen worden uitgevoerd, die een
zekere gelijkenis vertonen met neurale of cognitieve functies. Het voordeel van dergelijke
netwerken is dat zij een redelijke oplossing van het gestelde probleem blijven leveren, ook al
vallen enkele units (zoals inputunits ) uit. Dit verschijnsel noemt men graceful degradation
(geleidelijke of nauwelijks opvallende functievermindering). Hetzelfde principe lijkt ook voor de
menselijke hersenschors op te gaan, waar kleine laesies of neuronaal verlies meestal maar
weinig gevolgen hebben voor het goed functioneren op gedragsniveau.
4.3.2 Soorten computaties
Bij de indeling van de vele soorten computationele functies in het brein kan er globaal een
onderscheid worden gemaakt tussen functies op het niveau van input, centrale verwerking en
output (zie figuur 4.6 voor een overzicht). Vormen van computaties aan input zijde zijn analyse
en synthese van stimuluskenmerken. De computationele functie van de retina is bijvoorbeeld
om fysische energie (licht) om te zetten in elektrische informatie, die vervolgens via de
100