Un algoritmo per la regressione multipla con dati categoriali

2 P.G. LOVAGLIO
Le k variabili indipendenti e la variabile dipendente vengono parametrizzate
rispettivamente come Gy e G z t con G z matrice indicatore di z, G=(G 1 …G k ) è la
matrice indicatore completo di dimensione n*Σ j k j ed y (Σ j k j *1) dove y′ = (y 1 ′,….,y k ′)
è il vettore diviso in k blocchi y i (uno per ogni x j ) di k j elementi (numero di categorie
di x j ) ognuno, t = (t 1 ......t k ) vettore delle categorie di z.
Per una variabile nominale i parametri di scaling non presentano nessun vincolo
nello spazio dei parametri di scaling (C j ), mentre per variabili ordinali esiste un
ordinamento supposto a priori:
t 1 ≤...≤ t i ≤....t k
y 1 ≤.…≤ y i ≤…...≤ y kj
La regressione multipla in contesto di optimal scaling induce una funzione di
perdita tipica dei minimi quadrati (SSQ(x) è la somma dei quadrati di x):
min
β,
z, y
(z os -X os b)′(z os -X os b) =
min
β,
z, y
SSQ(z os - Σ j x j
os
b j ) =
min
β,t,y j
SSQ(G z t- Gyb) (1)
da minimizzare rispetto ai parametri di scaling y j , t e al vettore dei parametri b, con i
vincoli:
u′G z t =0, t′G z ′G z t = 1, y j ∈C j t∈C z (2)
dove u è un vettore di uno, C j e C z sono gli spazi delle trasformazioni ammissibili
(spazio dei parametri di scaling) per le categorie di ogni variabile che tengono conto
del livello di misurazione (C j C z sono coni chiusi convessi, Gifi, 1981), e gli altri
vincoli standardizzano z os .
Una variabile nominale non induce nessun vincolo sulle categorie, una variabile
ordinale tiene conto del vincolo di ordinamento delle stesse, mentre i punteggi di una
variabile numerica restano costanti nell’algoritmo.
La procedura che qui si propone è coerente con la filosofia Alternating Least
Squares (ALS, Young 1981) che divide i parametri in due sottinsiemi, minimizzando
la (1) in due passi: nel primo rispetto a b, tenendo fissi i parametri di scaling ad una
stima iniziale:
min SSQ(z 0 - Σ j x j 0 b j ) (3)
β • •
e nel secondo passo con b stimato nel passo precedente si stimano i parametri di
scaling t, y j , iterando i due passi fino a convergenza dell’algoritmo.
L’algoritmo proposto, come quelli Als, converge (De Leeuw, 1973) poiché in ogni
iterazione della procedura iterativa il residuo si riduce progressivamente all’interno di
ogni passo.
Il primo problema di minimo è ovviamente ottenuto con il metodo dei minimi
quadrati applicato ad una stima iniziale delle variabili z 0 , x i 0 con i valori categoriali
2