Theoretical Neuroscience
Theoretical Neuroscience
Theoretical Neuroscience
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
8.3 Υνσυπερϖισεδ Λεαρνινγ 311<br />
ιν ωηιχη τηε ροωσ οφ τηε ωειγητ µατριξ Ω αρε διφφερεντ ειγενϖεχτορσ οφ τηε<br />
χορρελατιον µατριξ Θ, ανδ αλλ τηε ελεµεντσ οφ τηε ρεχυρρεντ ωειγητ µατριξ<br />
Μ αρε υλτιµατελψ σετ το 0.<br />
Γοοδαλλ (1960) προποσεδ αν αλτερνατιϖε σχηεµε φορ δεχορρελατινγ διφφερεντ<br />
ουτπυτ υνιτσ. Ιν ηισ µοδελ, τηε φεεδφορωαρδ ωειγητσ Ω αρε κεπτ χονσταντ,<br />
ωηερεασ τηε ρεχυρρεντ ωειγητσ αδαπτ αχχορδινγ το τηε αντι−Ηεββ ρυλε<br />
Γοοδαλλ ρυλε<br />
τ Μ<br />
δΜ<br />
δτ<br />
=−(Ω · υ)ϖ + Ι − Μ. (8.41)<br />
Τηε µινυσ σιγν ιν τηε τερµ −(Ω · υ)ϖ εµβοδιεσ τηε αντι−Ηεββιαν µοδι⇒−<br />
χατιον. Τηισ τερµ ισ νονλοχαλ βεχαυσε τηε χηανγε ιν τηε ωειγητ οφ α γιϖεν<br />
σψναπσε δεπενδσ ον τηε τοταλ φεεδφορωαρδ ινπυτ το τηε ποστσψναπτιχ νευ−<br />
ρον, νοτ µερελψ ον τηε ινπυτ ατ τηατ παρτιχυλαρ σψναπσε (ρεχαλλ τηατ ϖ ≠ Ω·υ<br />
ιν τηισ χασε βεχαυσε οφ τηε ρεχυρρεντ χοννεχτιονσ). Τηε τερµ Ι−Μ πρεϖεντσ<br />
τηε ωειγητσ φροµ γοινγ το 0 βψ πυσηινγ τηεµ τοωαρδ τηε ιδεντιτψ µατριξ<br />
Ι. Υνλικε 8.40, τηισ ρυλε ρεθυιρεσ τηε εξιστενχε οφ αυταπσεσ, σψναπσεσ τηατ α<br />
νευρον µακεσ οντο ιτσελφ (ι.ε., τηε διαγοναλ ελεµεντσ οφ Μ αρε νοτ 0).<br />
Ιφ τηε Γοοδαλλ πλαστιχιτψ ρυλε χονϖεργεσ ανδ στοπσ χηανγινγ Μ, τηε ριγητ<br />
σιδε οφ εθυατιον 8.41 µυστ ϖανιση ον αϖεραγε, ωηιχη ρεθυιρεσ (υσινγ τηε<br />
δε⇒νιτιον οφ Κ)<br />
〈(Ω · υ)ϖ〉=Ι − Μ = Κ −1 . (8.42)<br />
Μυλτιπλψινγ βοτη σιδεσ βψ Κ ανδ υσινγ εθυατιον 8.30, ωε ⇒νδ<br />
〈ϖϖ〉=〈(Κ · Ω · υ)ϖ〉=Ι. (8.43)<br />
Τηισ µεανσ τηατ τηε ουτπυτσ αρε δεχορρελατεδ ανδ αλσο ινδιχατεσ ηιστογραµ<br />
εθυαλιζατιον ιν τηε σενσε, δισχυσσεδ ιν χηαπτερ 4, τηατ αλλ τηε ελεµεντσ οφ ϖ<br />
ηαϖε τηε σαµε ϖαριανχε. Ινδεεδ, τηε Γοοδαλλ αλγοριτηµ χαν βε υσεδ το ιµ−<br />
πλεµεντ τηε δεχορρελατιον ανδ ωηιτενινγ δισχυσσεδ ιν χηαπτερ 4. Βεχαυσε<br />
τηε αντι−Ηεββ ανδ Γοοδαλλ ρυλεσ αρε βασεδ ον λινεαρ µοδελσ, τηεψ αρε χα−<br />
παβλε οφ ρεµοϖινγ ονλψ σεχονδ−ορδερ ρεδυνδανχψ, µεανινγ ρεδυνδανχψ<br />
χηαραχτεριζεδ βψ τηε χοϖαριανχε µατριξ. Ιν χηαπτερ 10, ωε χονσιδερ µοδελσ<br />
τηατ αρε βασεδ ον ελιµινατινγ ηιγηερ ορδερσ οφ ρεδυνδανχψ ασ ωελλ.<br />
Τιµινγ−Βασεδ Πλαστιχιτψ ανδ Πρεδιχτιον<br />
Τεµποραλ Ηεββιαν ρυλεσ ηαϖε βεεν υσεδ ιν τηε χοντεξτ οφ µυλτι−υνιτ νετ−<br />
ωορκσ το στορε ινφορµατιον αβουτ τεµποραλ σεθυενχεσ. Το ιλλυστρατε τηισ,<br />
ωε χονσιδερ α νετωορκ ωιτη τηε αρχηιτεχτυρε οφ ⇒γυρε 8.6. Ωε στυδψ τηε<br />
εφφεχτ οφ τιµε−δεπενδεντ σψναπτιχ πλαστιχιτψ, ασ γιϖεν βψ εθυατιον 8.18, ον<br />
τηε ρεχυρρεντ σψναπσεσ οφ τηε µοδελ, λεαϖινγ τηε φεεδφορωαρδ σψναπσεσ<br />
χονσταντ.<br />
Συπποσε τηατ βεφορε τραινινγ τηε αϖεραγε ρεσπονσε οφ ουτπυτ υνιτ α το α<br />
στιµυλυσ χηαραχτεριζεδ βψ α παραµετερ σ ισ γιϖεν βψ τηε τυνινγ χυρϖε φ α (σ),