Theoretical Neuroscience
Theoretical Neuroscience
Theoretical Neuroscience
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
276 Νετωορκ Μοδελσ<br />
α σετ οφ ινπυτσ. Ιν χηαπτερ 10, ωε στυδψ οτηερ µοδελσ τηατ χονστρυχτ ουτπυτ<br />
διστριβυτιονσ ιν τηισ ωαψ.<br />
Νοτε τηατ τηε µεαν−⇒ελδ διστριβυτιον Θ[ϖ] ισ σιµπλερ τηαν τηε φυλλ Βολτζ−<br />
µανν διστριβυτιον Π[ϖ] βεχαυσε τηε υνιτσ αρε στατιστιχαλλψ ινδεπενδεντ.<br />
Τηισ πρεϖεντσ Θ[ϖ] φροµ προϖιδινγ α γοοδ αππροξιµατιον ιν σοµε χασεσ,<br />
παρτιχυλαρλψ ιφ τηερε αρε νεγατιϖε ωειγητσ βετωεεν υνιτσ τηατ τενδ το µακε<br />
τηειρ αχτιϖιτιεσ µυτυαλλψ εξχλυσιϖε. Τηε µεαν−⇒ελδ αναλψσισ οφ τηε Βολτζ−<br />
µανν µαχηινε ιλλυστρατεσ τηε λιµιτατιονσ οφ ρατε−βασεδ δεσχριπτιονσ ιν χαπ−<br />
τυρινγ τηε φυλλ εξτεντ οφ τηε χορρελατιονσ τηατ χαν εξιστ βετωεεν σπικινγ<br />
νευρονσ.<br />
7.7 Χηαπτερ Συµµαρψ<br />
Τηε µοδελσ ιν τηισ χηαπτερ µαρκ τηε σταρτ οφ ουρ δισχυσσιον οφ χοµπυτα−<br />
τιον, ασ οπποσεδ το χοδινγ. Υσινγ α δεσχριπτιον οφ τηε ⇒ρινγ ρατεσ οφ νετ−<br />
ωορκ νευρονσ, ωε σηοωεδ ηοω το χονστρυχτ λινεαρ ανδ νονλινεαρ φεεδφορ−<br />
ωαρδ ανδ ρεχυρρεντ νετωορκσ τηατ τρανσφορµ ινφορµατιον φροµ ονε χοορδι−<br />
νατε σψστεµ το ανοτηερ, σελεχτιϖελψ αµπλιφψ ινπυτ σιγναλσ, ιντεγρατε ινπυτσ<br />
οϖερ εξτενδεδ περιοδσ οφ τιµε, σελεχτ βετωεεν χοµπετινγ ινπυτσ, συσταιν<br />
αχτιϖιτψ ιν τηε αβσενχε οφ ινπυτ, εξηιβιτ γαιν µοδυλατιον, αλλοω σιµπλε δε−<br />
χοδινγ ωιτη περφορµανχε νεαρ τηε Χραµ×ερ−Ραο βουνδ, ανδ αχτ ασ χοντεντ−<br />
αδδρεσσαβλε µεµοριεσ. Ωε υσεδ νετωορκ ρεσπονσεσ το α χοντινυουσ στιµ−<br />
υλυσ ϖαριαβλε ασ αν εξτενδεδ εξαµπλε. Τηισ λεδ το µοδελσ οφ σιµπλε ανδ<br />
χοµπλεξ χελλσ ιν πριµαρψ ϖισυαλ χορτεξ. Ωε δεσχριβεδ α µοδελ οφ τηε ολ−<br />
φαχτορψ βυλβ ασ αν εξαµπλε οφ α σψστεµ φορ ωηιχη χοµπυτατιον ινϖολϖεσ<br />
οσχιλλατιονσ αρισινγ φροµ ασψµµετριχ χουπλινγσ βετωεεν εξχιτατορψ ανδ ιν−<br />
ηιβιτορψ νευρονσ. Λινεαρ σταβιλιτψ αναλψσισ ωασ αππλιεδ το α σιµπλι⇒εδ ϖερ−<br />
σιον οφ τηισ µοδελ. Ωε αλσο χονσιδερεδ α στοχηαστιχ νετωορκ µοδελ χαλλεδ<br />
τηε Βολτζµανν µαχηινε.<br />
7.8 Αππενδιξ<br />
Λψαπυνοϖ Φυνχτιον φορ τηε Βολτζµανν Μαχηινε<br />
Ηερε, ωε σηοω τηατ τηε Λψαπυνοϖ φυνχτιον οφ εθυατιον 7.40 χαν βε ρεδυχεδ<br />
το εθυατιον 7.59 ωηεν αππλιεδ το τηε µεαν−⇒ελδ ϖερσιον οφ τηε Βολτζµανν<br />
µαχηινε. Ρεχαλλ, φροµ εθυατιον 7.40, τηατ<br />
(<br />
∑Ν v ∫ )<br />
Ια<br />
Λ(Ι) = δζ α ζ α Φ ′ (ζ α ) − η α Φ(Ι α ) − 1 ∑Ν v<br />
Φ(Ι α )Μ αα ′ Φ(Ι α ′) . (7.60)<br />
2<br />
α=1<br />
0<br />
α ′ =1<br />
Ωηεν Φ ισ γιϖεν βψ τηε σιγµοιδαλ φυνχτιον οφ εθυατιον 7.55,<br />
∫ Ια<br />
0<br />
δζ α ζ α Φ ′ (ζ α ) = Φ(Ι α ) λν Φ(Ι α ) + (1 − Φ(Ι α ))λν(1 − Φ(Ι α ))+ κ, (7.61)