04.01.2015 Views

Theoretical Neuroscience

Theoretical Neuroscience

Theoretical Neuroscience

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

302 Πλαστιχιτψ ανδ Λεαρνινγ<br />

output ϖ<br />

input υ<br />

Μ<br />

Ω<br />

υ 1 υ 2 υ 3 υ Νυ<br />

Φιγυρε 8.6 Α νετωορκ ωιτη µυλτιπλε ουτπυτ υνιτσ δριϖεν βψ φεεδφορωαρδ σψναπσεσ<br />

ωιτη ωειγητσ Ω, ανδ ιντερχοννεχτεδ βψ ρεχυρρεντ σψναπσεσ ωιτη ωειγητσ Μ.<br />

δετερµινεδ βψ<br />

ϖ = Ω · υ + Μ · ϖ. (8.29)<br />

Κ=(Ι − Μ) −1<br />

Εθυατιον 8.29 χαν βε σολϖεδ βψ δε⇒νινγ τηε µατριξ ινϖερσε Κ=(Ι − Μ) −1 ,<br />

ωηερε Ι ισ τηε ιδεντιτψ µατριξ, το οβταιν<br />

∑Ν v ∑Ν υ<br />

ϖ = Κ · Ω · υ ορ v α = Κ αα ′Ω α ′ βυ β . (8.30)<br />

α ′ =1 β=1<br />

Ιτ ισ ιµπορταντ φορ διφφερεντ ουτπυτ νευρονσ ιν α µυλτι−υνιτ νετωορκ το βε<br />

σελεχτιϖε φορ διφφερεντ ασπεχτσ οφ τηε ινπυτ, ορ ελσε τηειρ ρεσπονσεσ ωιλλ βε<br />

ρεδυνδαντ. Φορ τηε χασε οφ α σινγλε χελλ, χοµπετιτιον βετωεεν διφφερεντ<br />

σψναπσεσ χουλδ βε υσεδ το ενσυρε τηατ σψναπσε−σπεχι⇒χ πλαστιχιτψ ρυλεσ δο<br />

νοτ µοδιφψ αλλ οφ τηε σψναπσεσ οντο α ποστσψναπτιχ νευρον ιν τηε σαµε<br />

ωαψ. Φορ µυλτιπλε ουτπυτ νετωορκσ, ⇒ξεδ ορ πλαστιχ λινεαρ ορ νονλινεαρ<br />

ρεχυρρεντ ιντεραχτιονσ χαν βε υσεδ το ενσυρε τηατ τηε υνιτσ δο νοτ αλλ δε−<br />

ϖελοπ τηε σαµε σελεχτιϖιτψ. Ιν τηε φολλοωινγ σεχτιονσ, ωε χονσιδερ τηρεε<br />

διφφερεντ παττερνσ οφ πλαστιχιτψ: πλαστιχ φεεδφορωαρδ ανδ ⇒ξεδ ρεχυρρεντ<br />

σψναπσεσ, πλαστιχ φεεδφορωαρδ ανδ ρεχυρρεντ σψναπσεσ, ανδ, ⇒ναλλψ, ⇒ξεδ<br />

φεεδφορωαρδ ανδ πλαστιχ ρεχυρρεντ σψναπσεσ.<br />

Ηεββιαν ∆εϖελοπµεντ οφ Οχυλαρ ∆οµινανχε Στριπεσ<br />

Οχυλαρ δοµινανχε στριπεσ χαν αρισε ιν α Ηεββιαν µοδελ ωιτη πλαστιχ φεεδ−<br />

φορωαρδ βυτ ⇒ξεδ ρεχυρρεντ σψναπσεσ. Ιν τηε σινγλε−χελλ µοδελ οφ οχυλαρ<br />

δοµινανχε χονσιδερεδ πρεϖιουσλψ, τηε υλτιµατε οχυλαρ πρεφερενχε οφ τηε<br />

ουτπυτ χελλ δεπενδσ ον τηε ινιτιαλ χονδιτιονσ οφ ιτσ σψναπτιχ ωειγητσ. Α<br />

µυλτιπλε−ουτπυτ ϖερσιον οφ τηε µοδελ ωιτηουτ ανψ ρεχυρρεντ χοννεχτιονσ<br />

ωουλδ τηερεφορε γενερατε α ρανδοµ παττερν οφ σελεχτιϖιτιεσ αχροσσ τηε χορ−<br />

τεξ ιφ ιτ σταρτεδ ωιτη ρανδοµ ωειγητσ. Φιγυρε 8.7Β σηοωσ τηατ οχυλαρ δοµ−<br />

ινανχε ισ αχτυαλλψ οργανιζεδ ιν α ηιγηλψ στρυχτυρεδ χορτιχαλ µαπ. ∆οµ−<br />

ινανχε βψ τηε λεφτ ανδ ριγητ εψε αλτερνατεσ αχροσσ τηε χορτεξ, φορµινγ α<br />

στριπεδ παττερν. Συχη α µαπ χαν αρισε ιν τηε χοντεξτ οφ Ηεββιαν δεϖελοπ−<br />

µεντ οφ φεεδφορωαρδ ωειγητσ ιφ ωε ινχλυδε α ⇒ξεδ ιντραχορτιχαλ χοννεχτιον<br />

µατριξ Μ.

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!