27.04.2013 Views

Perceptron-algoritmi - Helsinki.fi

Perceptron-algoritmi - Helsinki.fi

Perceptron-algoritmi - Helsinki.fi

SHOW MORE
SHOW LESS

You also want an ePaper? Increase the reach of your titles

YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.

Harjanneregressio<br />

• Harjanneregressio (engl. ridge regression) on regularisoitu<br />

versio “pienimmän neliösumman menetelmästä”, jossa<br />

regularisoinnilla suositaan normiltaan lyhyitä painovektoreita w.<br />

• Tarkemmin ilmaistuna harjanneregressiossa fw valitaan<br />

minimoimalla funktion ˆ L(w) sijaan funktiota<br />

ˆLridge(w) = 1<br />

n<br />

n<br />

i=1<br />

(yi − xi · w) 2 + 1<br />

n δ2 w 2 2,<br />

missä δ > 0 on erikseen säädettävä regularisoinnin määrää<br />

kontrolloiva parametri.<br />

• Harjanneregressio siis puoltaa ennustajia, joiden painovektorin<br />

L2-normin neliö on pieni – sitä enemmän, mitä suurempi δ on.<br />

14

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!