Un algoritmo per la regressione multipla con dati categoriali

More documents

Recommendations

Info

6 P.G. LOVAGLIO dove a ij tiene conto di tutti i doppi prodotti tra gli elementi con indici (i, j). Le soluzioni di y j u (non vincolate di y j # ) che minimizzano singolarmente i termini SSQ( ∧ z j - G j y j b j ) nella parte finale della (15) sono ottenute proiettando ∧ z j sullo spazio generate dalle rispettive matrici indicatore G j , y j u = b j -1 (G j ′G j ) -1 G j ′ ∧ z j ⇒ G j y j u = b j -1 P cj ∧ z j ∀x j (16) dove P cj il proiettore corrispondente di G j , lo spazio generatore di x j. Si dimostrerà che le soluzioni y j u minimizzano congiuntamente la (15). Proposizione 1 Le soluzioni y j u (t.c. G j y j u = b j -1 P cj ∧ z j ) che minimizzano il j-esimo termine di SSQ( ∧ z j - G j y j ) dell’ultimo membro della (15) minimizzano anche SSQ (Σ j ∧ z j -Σ j G j y j ) = SSQ( ∧ z - Gy * ). Dimostrazione Basta far vedere che tutti i termini a ij nella (15) si annullano. Poiché per la natura discreta dei punteggi di x j . (contributo di x j al netto di X -j alla spiegazione di ∧ z con proiettore P j ) esiste sempre un vettore g tale che x j . =G j g, dove G j rappresenta lo spazio generatore (S) della variabile categoriale grezza x j con proiettore P cj , allora: x j . ˛S(G j ) ⇒ S(x j .) ⊂ S(G j ) ⇒ P cj P j = P j P cj =P j (17) (Takeuchi et al. 1982 pag. 31). Allora considerando l’i-esimo e il j-esimo termine nella (15) si annullano tutti i prodotti incrociati: ∧ z j ′ ∧ z i = 0 per la (14), ∧ z j ′ G i y i = ∧ z j ′ P ci ∧ z i = (P j ∧ z)′ Pci ∧ z i = ∧ z ′P j P ci P i ∧ z = ∧ z ′Pj P i ∧ z = 0 per la (17): ∀i≠j (G j y j )′G i y i = (P cj ∧ z j )′ P ci ∧ z i = (P cj P j ∧ z )′Pci P i ∧ z = ∧ z ′Pj P i ∧ z = 0 (18) C.V.D. Come si nota da (os. 2) i parametri di optimal scaling per ogni x j sono ottenuti separatamente in ognuno dei k termini SSQ( ∧ z j -G j y j ), perché il vettore y * è reso separabile nelle sue componenti. In questo modo i vettori di scaling così stimati tengono conto delle interazioni tra coppie di variabili categoriali. Se la variabile in questione è nominale y i u = y i # se è ordinale, analogamente al discorso per z os , y # si ottiene attraverso una regressione monotona delle y j u sulle y j 0 . 6
UN ALGORITMO REGRESSIONE 7 Una volta ottenute z os ed x j os si applica successivamente una regressione multipla, minimizzando la (1) rispetto ai b, con t # , y j # fissati, e così via, fino alla convergenza dell’algoritmo che è assicurata (de Leeuw, 1973). 3. Osservazioni a) Come la filosofia Als suggerisce (Young 1981), le stime trovate in uno stadio per un sottinsieme di parametri, andrebbero sostituite nel passo successivo per ottenere le stime dell’altro sottinsieme; la stima z os andrebbe sostituita nella (15) per ricavare i pesi di scaling y j , ottenendo stime dei parametri di scaling probabilmente differenti. (Lo stesso problema si presenta in Morals e Canals per la stima dei punteggi delle variabili indipendenti ricavate dalla (4) in cui ogni variabile stimata x os u j andrebbe immediatamente sostituita nella (4) per ricavare le altre x i con i ≠j) b) La (8) e la (16) per variabili nominali implicano che le quantificazioni delle categorie (t) di z coincidono con la media dei valori previsti dal modello per z, in ∧ altre parole t a è la media dei valori z dei soggetti che rientrano nella categoria a, mentre la quantificazione della categoria a della variabile x j (y ja ) è uguale alla media dei valori di ∧ z j che corrispondono alla categoria a in x j . La (os. 2) mostra che la stima di x j u coincide con la proiezione di ∧ z j sulle colonne di G j . Se z è continua (o lo sono alcune variabili indipendenti) i punteggi di tali variabili restano costanti durante tutto l’algoritmo, evitando la fase di optimal scaling (z os = z, x os = x). c) La metodologia per ottenere le stime di optimal scaling è coerente con il problema di minimo del modello poichè le stime dei parametri di scaling y j u sono ottenute riducendo ulteriormente la devianza residua (DR) che il modello di regressione lascia dopo la stima dei pesi b del primo stadio: DR = SSQ(z 0 - Σ j x j 0 b j ) = SSQ(z 0 - ∧ z ) ≥ SSQ(z os - ∧ z ) + Σ j SSQ( ∧ z j - x j os ) (19) poiché nella (9) emerge che, sia nel passo di stima di z os sia di x j os : SSQ(z os - ∧ z ) ≤ SSQ(z 0 - ∧ z ) & SSQ( ∧ z j - x j os ) ≤ SSQ( ∧ z j - x j 0 ) (20) Mentre il residuo viene minimizzato nel passo di stima di z u ed x u j (e ulteriormente per variabili ordinali nel passo di regressione monotona in z os ed x os j ), nell’algoritmo Morals, invece, la riduzione del residuo avviene solo nel passo di normalizzazione di x u i in x os i , dove le x u j sono ricavate dall’identità (4) senza alcuna riduzione della devianza residua.
Page 1 and 2: Quaderni di Statistica e Matematica
Page 3 and 4: UN ALGORITMO REGRESSIONE 3 grezzi,
Page 5: UN ALGORITMO REGRESSIONE 5 Σ i φ(
Page 9 and 10: UN ALGORITMO REGRESSIONE 9 3 3 2 2
Page 11: UN ALGORITMO REGRESSIONE 11

Un algoritmo per la regressione multipla con dati categoriali

Create successful ePaper yourself

Delete template?

Save as template?