Iz zakladnice statističnih testov - Oddelek za psihologijo - Univerza v ...

Statistično zaključevanje, Enosmerna
ANOVA za neponovljene meritve
5.12.2011
Testiranje hipotez o povprečju
Testiranje enakosti sredin več
vzorcev
Univerza v Ljubljani, Filozofska fakulteta, Oddelek za psihologijo
Študij prve stopnje Psihologija
2. semester, predmet Statistično zaključevanje
Izr. prof. dr. Anja Podlesek
N.D.
parametrični testi
1 vzorec 2 vzorca
neodvisna
odvisna
Povprečja
(dva ali) več vzorcev
neodvisnih odvisnih
1
t test
(one-sample)
t test
(independent)
t test
(paired-samples)
enosmerna
ANOVA
(GLM - univariate)
enosmerna
ANOVA
(GLM -
repeated-measures) 2
Testiranje hipotez o povprečju
Povprečja
ni N.D.
neparametrični testi
1 vzorec 2 vzorca
binomski
test
neodvisna
- Mann-
Whitneyev
U
- medianski test
odvisna
- Wilcoxonov
T test
(matched pairs)
- test predznakov
neodvisnih
več vzorcev
- Kruskal-
Wallisov H
- razširjeni
medianski test
odvisnih
Friedmanov
test
3
Več vzorcev
ALI VZORCI IZHAJAJO IZ ISTE
POPULACIJE
PRIMERJAVA NJIHOVIH M
4
Analiza variance
1 NV z variacijami, merimo OV
• enosmerna ANOVA za ponovljene meritve
• enosmerna ANOVA za neponovljene meritve
Več NV, 1 OV
• dvosmerna, trismerna ANOVA
• glavni učinki + interakcija med NV
Enosmerna analiza variance za
neponovljene meritve
5
6
1

Statistično zaključevanje, Enosmerna
ANOVA za neponovljene meritve
5.12.2011
Analiza variance
Analiza variance
• H 0 : m 1 = m 2 = m 3
variabilnost med skupinami
F =
variabilnost znotraj skupin
Y M
ij
tot
= Y M
ij
M tot M j Y i
j
M M
2
2
2
Y
ij
Mtot
= Y
ij
M
j
M
j
Mtot
j
tot
7
skupna
variabilnost
SSzn
MSzn
=
df
zn
variabilnost
znotraj skupin
SSzn
=
MS
n
n
1 n
1
1
1
2
3
variabilnost
med skupinami
med
SS
=
df
med
med
SSmed
=
a 1
MS
F =
MS
med
zn
8
M 1 = 4 M 2 = 10
M T = 7
2 3 4 5 6 7 8 9 10 11 12
X i - M tot
M i - M tot
X i - M i
Primer analize
variance za
dva vzorca
2 3 4 5 6 7 8 9 10 11 12
M tot = 7; M 1 = 4; M 2 = 10
SS znotraj-1 = 1(2-4) 2 + 2(3-4) 2 + 3(4-4) 2 + 2(5-4) 2 + 1(6-4) 2 =12
SS znotraj-2 = 1(8-10) 2 + 2(9-10) 2 + 3(10-10) 2 + 2(11-10) 2 + 1(12-10) 2 =12
SS med = 9(4-7) 2 + 9(10-7) 2 = 81 + 81 = 162
df znotraj = N - a = 18 - 2 = 16
df med = a - 1 = 2 - 1 = 1
Primer analize
variance za
dva vzorca
Razstavljanje odklona posameznega rezultata:
X i - M tot = (X i - M i ) + (M i - M tot )
9
MS znotraj = SS znotraj / df znotraj = 24 / 16 = 1,5
MS med = SS med / df med = 162 / 1 = 162
F = 162 /1,5 = 108
F t (1, 16) = 4,49
10
Tabela povzetka analize variance
izvor
variabilnosti SS df MS F p
NV 162 1 162,0 108,0 < ,001
napaka 24 16 1,5
skupaj 186 17
Primer analize
variance za
dva vzorca
Skupina 1 (M = 4,0, SD = 1,2) je dosegla statistično pomembno drugačne
rezultate od skupine 2 (M = 10,0, SD = 1,2), F (1, 16) = 108,0, p < ,001, MSE = 1,5.
t-test: t(16)
11
2 δ
ω A = =
σ
ωˆ
2
A
2
med
2
Y
a
j=
1
μ μ
j
a
σ
2
Y
Velikost učinka
Ocena deleža pojasnjene variance oz. variance učinka
= kolikšen delež variance Y pojasnjuje NV
= Haysova w 2 ali koeficient determinacije
tot
2
a 1
MSmed
MSzn
2 a n
ωˆ
A =
a 1
MSmed
MSzn
MSzn
a n
=
a
1F
1
MSmed
, pri čemer F =
a
1F
1 na
MSzn
ω 2 :
0,01 – majhen učinek
0,06 – srednji učinek
0,15 – velik učinek
12
2

Statistično zaključevanje, Enosmerna
ANOVA za neponovljene meritve
5.12.2011
M T = 7
M 1 = 4
M 2 = 10
n = 9
a = 2
2 3 4 5 6 7 8 9 10 11 12
df znotraj = N - a = 18 - 2 = 16
df med = a - 1 = 2 - 1 = 1
MS znotraj = 1.5
MS med = 162
F = 162 / 1.5 = 108
F .05 (1, 16) = 4,49
δˆ
a
2
μ
j
μ
tot
2 j=
1
A
=
=
a
2
2 δA
9
ω A = = = 0,87
2
2
σ 3,21
Y
2
2
(4 7) (10 7) 18
=
=
2 2
a 1
MSmed
MSzn
1 162
1,5
2
2 9
ωˆ a
n
A =
=
= 0,86
a 1
MSmed
MSzn
1 162
1,5
MSzn
1,5
a
n 2 9
2 a
1F
1
1107
ωˆ
A =
=
= 0,86
a
1F
1
na 1107
9 2
9
13
Predpostavke analize variance
• nominalna NV
• OV intervalna
• neodvisnost podatkov
• normalna porazdelitev
spremenljivke v populaciji
– F-test je precej robusten, razen
v primerih ekstremne As ali Spl
• enakost varianc vzorcev
– Levenov test
– Pregled grafov
• Spread vs. Level Plot
• Box-Plot
14
Rešitve v primeru kršenja predpostavk
Primerjave (kontrasti) posameznih
sredin
• v popravkih stopenj svobode
– Welchov test
• boljši pri visokem razmerju varianc različnih skupin, pri n j vsaj 10 in
N.D.
– Brown-Forsythov F test enakosti sredin
• primernejši ob asimetrični porazdelitvi
• Z WLS (weighted least squares) utežmi – osebe različno
obtežimo, da bi zmanjšali heteroscedastičnost
• v transformaciji podatkov
– Asimetrične porazdelitve približamo normalnim.
– Zmanjšamo heterogenost varianc.
– Transformacije: arc sin (sqrt(Y ij )), log, potence …
– Težave pri interpretaciji rezultatov.
15
• ANOVA je omnibus test
• Posamezne razlike opazujemo s posebnimi testi.
• Več testov večja verjetnost a napake.
• Zaradi multiplih primerjav moramo imeti pri
testiranju strožji kriterij.
16
Kontrola a napake
• Raven a napake pri posameznem kontrastu (EC)
• Skupna raven a napake pri družini kontrastov
(FWER – familywise error rate)
– Npr., če je EC za vsakega od 6 neodvisnih testov 0,05, je
FWER 0,265. Če so testi odvisni, je FWER manjša.
– Več kot je testov, večja je FWER.
Pri posameznem testu : p ni α napake = 1
EC
Pri skupini testov : FWER
= 1
= 1
p
1
ni
EC
K
α napake pri nobenem v druzini
= p α napaka vsaj pri enem kontrastu =
kontrastov =
17
Kontrasti v enofaktorskem načrtu za
neponovljene meritve
• Kontrasti: (parne)
primerjave in druge
linearne kombinacije
povprečij
• Ortogonalni in
neortogonalni kontrasti
– Kontrasta sta ortogonalna
(= aditivna), če njune uteži
niso korelirane
– Npr. in
j
wjpwjq
n j
1 (1)
2
=
0
1 ( 1)
2
(0)
1
2
(0)
1
2
=
0
H
1 μ
1μ
0μ
0μ
01:
SK1
SK2
SK3
H
: μSK1
μSK2
μSK3
μSK4
3
= 0
02
H
μSK1
μSK2
μSK3
μSK4
: 2 2
= 0
03
ψ =
j
a
j=
1
w μ
j
w = 0
j
j
H 1 : Linearna kombinacija ni enaka 0.
SK4
= 0
Statistika t: primerjava linearne kombinacije
z 0
• števec: obtežena povprečja
• imenovalec: obtežena standardna napaka 18
3

Statistično zaključevanje, Enosmerna
ANOVA za neponovljene meritve
5.12.2011
S t statistiko
ψˆ
t =
σˆ
ψˆ
H : t =
01
H : t =
02
=
MS
zn
Testiranje kontrastov
w μ
j j
w
n
2
j
j
SK1 SK2 SK3 SK4
Mj 8,80 4,20 3,40 2,50
Vir variabilnosti SS df MS F
A 377,4 3,0 125,8 8,39
S/A 900,0 60,0 15,0
M
SK1
M
SK2
8,80 4,20
=
= 3,36
2 2
2 2
1 1
1 1
MS 15,0
zn
16 16
16 16
M
SK2
M
SK3
M
SK4
4,20 3,40 2,50
M
SK1
8,80
3
=
3
= 4,86
2
2
2
2
2
2
1 1 1 1 1 1
2
2
1 3 3 3 1 3 3 3
MSzn
15,0
16 16 16 16
16 16 16 16
19
Načrtovani (a priori) kontrasti
• Načrtujemo jih, preden imamo vpogled v podatke.
Število testiranih kontrastov temelji na teoriji.
• V SPSS: deviation, simple, difference, helmert, repeated, polynomial
• Če računamo le en kontrast, je verjetnost a napake (EC)
ustrezna in lahko uporabimo t-test.
• Pri več kontrastih moramo poskrbeti, da FWER ni
prevelika: FWER ≤ 1-(1-EC) K ≤ 1-(1-K(EC))
• Bonferronijeva neenakost: FWER ≤ vsota vseh EC
• Testi:
– Bonferroni,
– Sidak,
– Dunnet
20
Post hoc kontrasti
• Izvedemo jih šele, ko že izvemo za rezultate ANOVE. Če
je F stat. pomemben, izvedemo različne post hoc teste.
eksploratoren pristop
• Dejanska verjetnost a napake je zato večja od
predvidene. Kriterij testiranja mora biti strog.
• Za vsako primerjavo izračunamo t, a potem dobljeno
vrednost primerjamo s strožjim kriterijem kot pri
običajnem t-testu ali a priori kontrastih.
• (Fisherjev LSD), Tukeyev (HSD) postopek, Schefféjev
test, sekvenčni testi (kriterij je povezan z mestom
razlike v vrsti), npr. R-E-G-W Q, itd.
21
Neparametrični testi
Primerjava median več neodvisnih vzorcev:
Kruskal-Wallisov H test
• zvezna spremenljivka, ordinalna
• Ali je porazdelitev (Mdn) v vseh vzorcih enaka
• Vse podatke rangiramo. Izračunamo vsote rangov v vsakem
vzorcu in statistiko H. Primerjamo jo s c 2 p(df = a-1).
Razširjeni medianski test
Poiščemo skupno mediano vseh podatkov.
Preštejemo, koliko podatkov posameznega
vzorca pade pod / nad skupno mediano - c 2
test (2 × a tabela).
22
Kruskal - Wallisov test:
glasba tišina hrup
6 5 3
4 7 2
4 8 1
rangirano:
7 6 3
4,5 8 2
4,5 9 1
16 23 6 R j
256 529 36 R
2 j
12 R
H = N N
1 n
2
j
j
točke rang ozadje
1 1 hrup
2 2 hrup
3 3 hrup
4 4,5 glasba
4 4,5 glasba
5 6 tišina
6 7 glasba
7 8 tišina
8 9 tišina
3
N 1
Pri majhnih
vzorcih - tablice.
Pri velikih
vzorcih
= (12/(9·10)) · (256/3+529/3+36/3) - 3(9+1) = 6,49 c 2 ,05(2) = 5,991
23
4