Theoretical Neuroscience
Theoretical Neuroscience
Theoretical Neuroscience
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
366 Ρεπρεσεντατιοναλ Λεαρνινγ<br />
π[υ] π[υÁ] π[υÁ]<br />
3<br />
3<br />
3<br />
υ 3<br />
υ 2<br />
υ 1<br />
υ 3<br />
υ 2<br />
υ 1<br />
υ 3<br />
υ 2<br />
0<br />
3<br />
0<br />
3<br />
0<br />
3<br />
−3<br />
−3<br />
0<br />
υ 1<br />
3 −3 0<br />
−3<br />
−3<br />
0<br />
3 −3 0<br />
−3<br />
−3<br />
0<br />
3 −3 0<br />
Φιγυρε 10.3 Φαχτορ αναλψσισ. (Α) Ινπυτ δατα ποιντσ δραων φροµ τηε διστριβυτιον<br />
π[υ] αρε ινδιχατεδ βψ τηε χροσσεσ. (Β) Τηε ινιτιαλ γενερατιϖε µοδελ. Τηε σολιδ λινε<br />
σηοωσ γ, ανδ τηε χροσσεσ αρε σψντηετιχ δατα, ωηιχη αρε σαµπλεσ φροµ τηε γενερατιϖε<br />
διστριβυτιον π[υ;G] (ωιτη α = 0.0625, φορ αλλ α). (Χ) Τηε λινε γ ανδ σψντηετιχ δατα<br />
ποιντσ γενερατεδ βψ τηε οπτιµαλ γενερατιϖε µοδελ.<br />
σηοωσ ιντερµεδιατε ρεσυλτσ ατ τηρεε διφφερεντ τιµεσ δυρινγ τηε ρυννινγ οφ<br />
τηε ΕΜ προχεδυρε, σταρτινγ φροµ τηε γενερατιϖε µοδελ ιν ⇒γυρε 10.1Β ανδ<br />
ενδινγ υπ ωιτη τηε ⇒τ σηοων ιν ⇒γυρε 10.1Χ.<br />
Χοντινυουσ Γενερατιϖε Μοδελσ<br />
Τηεδαταοφ⇒γυρε 10.1Α χονσιστ οφ τωο σεπαρατεδ χλυστερσ οφ ποιντσ, σο α<br />
χαυσε v τηατ τακεσ ονλψ τωο διφφερεντ ϖαλυεσ ισ αππροπριατε. Φιγυρε 10.3Α<br />
σηοωσ δατα τηατ συγγεστ τηε νεεδ φορ α χοντινυουσ ϖαριαβλε v. Ωε χαν<br />
τηινκ οφ τηεσε δατα ασ τηε ουτπυτσ οφ τηρεε νοισψ σενσορσ, εαχη µεασυρινγ<br />
τηε σαµε θυαντιτψ. Ιν τηισ χασε, τηε χαυσε v ρεπρεσεντσ τηε ϖαλυε οφ τηε<br />
θυαντιτψ βεινγ µεασυρεδ, ανδ ρεχογνιτιον χορρεσπονδσ το εξτραχτινγ τηισ<br />
ϖαλυε φροµ τηε σενσορ ουτπυτσ. Βεχαυσε v ισ α χοντινυουσ ϖαριαβλε, τηε<br />
πριορ ανδ ρεχογνιτιον διστριβυτιονσ ιν τηισ χασε αρε προβαβιλιτψ δενσιτιεσ,<br />
π[v;G] ανδ π[v|υ;G].<br />
Ασ ιν τηε χασε οφ χλυστερινγ, τηε γενερατιϖε µοδελ ισ δετερµινεδ βψ τηε<br />
πριορ διστριβυτιον π[v;G] ανδ τηε γενερατιϖε διστριβυτιον π[υ|v;G], ωηερε<br />
υ = (υ 1 , υ 2 , υ 3 ) ρεπρεσεντσ τηε τηρεε σενσορ ρεαδινγσ. Α σιµπλε χηοιχε φορ<br />
τηε πριορ διστριβυτιον οϖερ v ισ α Γαυσσιαν ωιτη µεαν 0 ανδ ϖαριανχε 1.<br />
Τηε γενερατιϖε διστριβυτιον ισ δεσιγνεδ το χαπτυρε τηε φαχτ τηατ τηε δατα<br />
ποιντσ ιν ⇒γυρε 10.3Α λιε αλονγ α λινε ιν τηε τηρεε−διµενσιοναλ σπαχε. Ιτ ισ<br />
τηε προδυχτ οφ τηρεε Γαυσσιαν φυνχτιονσ, ονε φορ εαχη οφ τηε σενσορσ, ωιτη<br />
µεανσ γ α v ανδ ϖαριανχεσ α φορ α = 1, 2, 3. Τηε ϖεχτορ γ = (γ 1 , γ 2 , γ 3 ) σπεχ−<br />
ι⇒εσ τηε διρεχτιον οφ τηε λινε αλονγ ωηιχη σψντηετιχ δατα ποιντσ προδυχεδ<br />
βψ τηε γενερατιϖε µοδελ λιε, ανδ τηε ϖαριανχεσ δετερµινε ηοω τιγητλψ<br />
τηε ποιντσ ηυγ τηισ λινε ιν εαχη ινπυτ διµενσιον. Ιν τηε εξαµπλε οφ ⇒γ−<br />
υρε 10.3Α, τηε σενσορσ αλλ µεασυρε τηε σαµε θυαντιτψ. Τηυσ, φροµ αν αρβι−<br />
τραρψ ινιτιαλ γ, τηε γενερατιϖε µοδελ µυστ ⇒νδ τηε βεστ ⇒τ, γ ∝ (1, 1, 1).<br />
Φιγυρε 10.3Β σηοωσ σψντηετιχ δατα ποιντσ γενερατεδ φροµ τηε γενερατιϖε