Perceptron-algoritmi - Helsinki.fi
Perceptron-algoritmi - Helsinki.fi
Perceptron-algoritmi - Helsinki.fi
You also want an ePaper? Increase the reach of your titles
YUMPU automatically turns print PDFs into web optimized ePapers that Google loves.
Harjanneregressio<br />
• Harjanneregressio (engl. ridge regression) on regularisoitu<br />
versio “pienimmän neliösumman menetelmästä”, jossa<br />
regularisoinnilla suositaan normiltaan lyhyitä painovektoreita w.<br />
• Tarkemmin ilmaistuna harjanneregressiossa fw valitaan<br />
minimoimalla funktion ˆ L(w) sijaan funktiota<br />
ˆLridge(w) = 1<br />
n<br />
n<br />
i=1<br />
(yi − xi · w) 2 + 1<br />
n δ2 w 2 2,<br />
missä δ > 0 on erikseen säädettävä regularisoinnin määrää<br />
kontrolloiva parametri.<br />
• Harjanneregressio siis puoltaa ennustajia, joiden painovektorin<br />
L2-normin neliö on pieni – sitä enemmän, mitä suurempi δ on.<br />
14