Theoretical Neuroscience
Theoretical Neuroscience
Theoretical Neuroscience
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
302 Πλαστιχιτψ ανδ Λεαρνινγ<br />
output ϖ<br />
input υ<br />
Μ<br />
Ω<br />
υ 1 υ 2 υ 3 υ Νυ<br />
Φιγυρε 8.6 Α νετωορκ ωιτη µυλτιπλε ουτπυτ υνιτσ δριϖεν βψ φεεδφορωαρδ σψναπσεσ<br />
ωιτη ωειγητσ Ω, ανδ ιντερχοννεχτεδ βψ ρεχυρρεντ σψναπσεσ ωιτη ωειγητσ Μ.<br />
δετερµινεδ βψ<br />
ϖ = Ω · υ + Μ · ϖ. (8.29)<br />
Κ=(Ι − Μ) −1<br />
Εθυατιον 8.29 χαν βε σολϖεδ βψ δε⇒νινγ τηε µατριξ ινϖερσε Κ=(Ι − Μ) −1 ,<br />
ωηερε Ι ισ τηε ιδεντιτψ µατριξ, το οβταιν<br />
∑Ν v ∑Ν υ<br />
ϖ = Κ · Ω · υ ορ v α = Κ αα ′Ω α ′ βυ β . (8.30)<br />
α ′ =1 β=1<br />
Ιτ ισ ιµπορταντ φορ διφφερεντ ουτπυτ νευρονσ ιν α µυλτι−υνιτ νετωορκ το βε<br />
σελεχτιϖε φορ διφφερεντ ασπεχτσ οφ τηε ινπυτ, ορ ελσε τηειρ ρεσπονσεσ ωιλλ βε<br />
ρεδυνδαντ. Φορ τηε χασε οφ α σινγλε χελλ, χοµπετιτιον βετωεεν διφφερεντ<br />
σψναπσεσ χουλδ βε υσεδ το ενσυρε τηατ σψναπσε−σπεχι⇒χ πλαστιχιτψ ρυλεσ δο<br />
νοτ µοδιφψ αλλ οφ τηε σψναπσεσ οντο α ποστσψναπτιχ νευρον ιν τηε σαµε<br />
ωαψ. Φορ µυλτιπλε ουτπυτ νετωορκσ, ⇒ξεδ ορ πλαστιχ λινεαρ ορ νονλινεαρ<br />
ρεχυρρεντ ιντεραχτιονσ χαν βε υσεδ το ενσυρε τηατ τηε υνιτσ δο νοτ αλλ δε−<br />
ϖελοπ τηε σαµε σελεχτιϖιτψ. Ιν τηε φολλοωινγ σεχτιονσ, ωε χονσιδερ τηρεε<br />
διφφερεντ παττερνσ οφ πλαστιχιτψ: πλαστιχ φεεδφορωαρδ ανδ ⇒ξεδ ρεχυρρεντ<br />
σψναπσεσ, πλαστιχ φεεδφορωαρδ ανδ ρεχυρρεντ σψναπσεσ, ανδ, ⇒ναλλψ, ⇒ξεδ<br />
φεεδφορωαρδ ανδ πλαστιχ ρεχυρρεντ σψναπσεσ.<br />
Ηεββιαν ∆εϖελοπµεντ οφ Οχυλαρ ∆οµινανχε Στριπεσ<br />
Οχυλαρ δοµινανχε στριπεσ χαν αρισε ιν α Ηεββιαν µοδελ ωιτη πλαστιχ φεεδ−<br />
φορωαρδ βυτ ⇒ξεδ ρεχυρρεντ σψναπσεσ. Ιν τηε σινγλε−χελλ µοδελ οφ οχυλαρ<br />
δοµινανχε χονσιδερεδ πρεϖιουσλψ, τηε υλτιµατε οχυλαρ πρεφερενχε οφ τηε<br />
ουτπυτ χελλ δεπενδσ ον τηε ινιτιαλ χονδιτιονσ οφ ιτσ σψναπτιχ ωειγητσ. Α<br />
µυλτιπλε−ουτπυτ ϖερσιον οφ τηε µοδελ ωιτηουτ ανψ ρεχυρρεντ χοννεχτιονσ<br />
ωουλδ τηερεφορε γενερατε α ρανδοµ παττερν οφ σελεχτιϖιτιεσ αχροσσ τηε χορ−<br />
τεξ ιφ ιτ σταρτεδ ωιτη ρανδοµ ωειγητσ. Φιγυρε 8.7Β σηοωσ τηατ οχυλαρ δοµ−<br />
ινανχε ισ αχτυαλλψ οργανιζεδ ιν α ηιγηλψ στρυχτυρεδ χορτιχαλ µαπ. ∆οµ−<br />
ινανχε βψ τηε λεφτ ανδ ριγητ εψε αλτερνατεσ αχροσσ τηε χορτεξ, φορµινγ α<br />
στριπεδ παττερν. Συχη α µαπ χαν αρισε ιν τηε χοντεξτ οφ Ηεββιαν δεϖελοπ−<br />
µεντ οφ φεεδφορωαρδ ωειγητσ ιφ ωε ινχλυδε α ⇒ξεδ ιντραχορτιχαλ χοννεχτιον<br />
µατριξ Μ.