una tecnica per la regressione locale - Department of Mathematics ...

family da quello di default, gaussian, a quello relativo alla stima robusta, checome abbiamo già più volte detto è symmetric, si dimostra ancora una voltaestremamente flessibile e adatta ad applicazioni con qualsiasi tipo di set didati.Un ultimo punto su cui va testata l’effecienza del metodo Loess rispettoa quella delle Smoothing Splines è la generalizzazione al caso multivariato.Mentre alla fine di questo capitolo presenteremo una semplice analisi in presenzadi due variabili esplicative volta a mostrare come sia semplice usarela tecnica Loess anche in presenza di più predittori, la generalizzazione delletecniche facenti riferimento a funzioni di tipo spline è piuttosto complessa.Per quanto riguarda le Smoothing Splines, una loro generalizzazione, che introduciamosolo dal punto di vista teorico, si ottiene attraverso le thin-platesplines, le quali si ottengono minimizzando un’espressione analoga a quelladel criterio dei minimi quadrati penalizzati in cui il laplaciano sostituisce laderivata seconda della funzione g.A causa della loro elevata complessitàcomputazionale, le thin-plate splines vengono raramente utilizzate quando sihanno più di due predittori; in questo semplice caso, se si suppone di avereuna coppia di predittori, x 1 e x 2 , il secondo termine che costituisce l’espressionedei minimi quadrati penalizzati, ovvero quello che controlla la regolaritàdella soluzione, assume la seguente forma∫∫R 2 { (∂ 2 g(x)∂x 2 1) 2 ( ) ∂ 2 2g(x)+ 2+∂x 1 ∂x 2( ) }∂ 2 2g(x)dx 1 dx 2∂x 2 2dove si è esplicitato il laplaciano bidimensionale. Si può dimostrare che lasoluzione del problema di ottimizzazione che rappresenta il criterio dei minimiquadrati penalizzati ha la formag(x) = ˆβ 0 + ˆβn∑′ x + ˆα j h j (x)dove h j (x) = η(||x − x j ||), e η(z) = z 2 logz 2 ; gli ˆα j , ˆβ 0 e ˆβ sono determinatij=161