27.04.2013 Views

Perceptron-algoritmi - Helsinki.fi

Perceptron-algoritmi - Helsinki.fi

Perceptron-algoritmi - Helsinki.fi

SHOW MORE
SHOW LESS

You also want an ePaper? Increase the reach of your titles

YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.

Gradientin ∇ ˆ Lnollakohdanetsiminen<br />

• Pisteet w, joissa ∇ ˆ L(w) = 0, löytyvät siis ratkaisemalla<br />

lineaarinen yhtälöryhmä X T Xw T = X T Y .<br />

• Yhtälöryhmä voidaan ratkaista esim. Gaussin<br />

eliminaatiomenetelmällä (katso Matlabissa komento \ eli<br />

mldivide).<br />

• Voidaan osoittaa, että ratkaisu w on aina olemassa, mutta ei<br />

välttämättä yksikäsitteinen – monella eri ennustajalla fw voi siis<br />

olla minimaalinen opetusvirhe.<br />

• Jos kuitenkin xi:t virittävät koko syöteavaruuden X = R d ,<br />

ratkaisu on aina yksikäsitteinen. Tällöin X T X on kääntyvä, ja<br />

yhtälöryhmän ratkaisu löytyy kertomalla yhtälö puolittain<br />

vasemmalta X T X:n käänteismatriisilla (X T X) −1 .<br />

12

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!