KORELACIJA I REGRESIJA

KORELACIJA
I
REGRESIJA
PP…
2012

OSNOVNI
POJMOVI
KORELACIJA
uzajamna
povezanost
među
pojavama
(varijablama,
obeležjima,
faktorima)
(eng.
correla,on)
VRSTE
KORELACIJA
jednostruka,
višestruka
linearna,
nelinearna
poziOvna,
negaOvna
MERENJE
JAČINE
POVEZANOSTI
koeficijent
korelacije
r
(na
uzorku),
odn.
ρ
(na
populaciji)
koeficijent
determinacije
r 2

 (odn.)
 
 R 2

PRIKAZ
RASPROSTIRANJA
PODATAKA
grafički
prikaz
• 
između
promenljivih
x
i
y
nema
povezanosO
• 
poziOvna
povezanost
porast
promenljive
x
→
porast
promenljive
y
• 
negaOvna
povezanost
porast
promenljive
x
→
smanjenje
promenljive
y

REGRESIJA
izračunavanje
matemaOčkog
modela
povezanosO
(uOcaja)
promenljive
x
(uzroka)
i
promenljive
y
(posledice):




y
=
f(x)
oblici
regresije
–
linearna,
nelinearna

VIŠESTRUKA
LINEARNA
REGRESIJA
x 1 ,
x 2 ,
...
,
x k 


–
nezavisno
promenljive
(uzroci)
y





















–
zavisno
promenljiva
(posledica)

UTVRĐIVANJE
KORELACIJE
koeficijent
korelacije
(linearne):
r = s xy
⎧
r = znak + / - → vrsta veze direktna/obrnuta
⎨
⎩ vrednost iz [0,1] → jacina korelacije
€
s xy =
s 2 x =
s 2 y =
n
∑
i=1
n
∑
i=1
n
i=1
n
∑
n
s x s y
x i y i
− x y →
n €
x i
2
y i
2
kovarijansa izmedju x i y
− x 2 → varijansa promenljive x
− y 2 → varijansa promenljive y
n → broj parova podataka (x i ,y i ), i =1,2,...,n

MS Excel =CORREL(raspon podataka X, raspon podataka Y)
x i y i
6 2
10 5
10 7
18 11
20 17
20 12

ZNAČENJE
KOEF.
KORELACIJE
značenje
koeficijenta
korelacije
uzorka
(r)
:
r
predstavlja
nepristrasnu
procenu
koeficijenta
korelacije
osnovnog
skupa,
tj.
populacije
(ρ)
ρ =
[kovarijansa (x,y) na populaciji]
[st. dev. x na populaciji]⋅[st. dev. y na populaciji] = σ xy
σ x σ y

KOEFICIJENT DETERMINACIJE
r 2 =
n
∑
i=1
n
∑
i=1
( y ˆ i
− y )
( y i
− y )
suma kvadrata odstupanja
objašnjena regresionom funkcijom
suma kvadrata odstupanja
podataka od aritmetičke sredine
€
r 2 (izmedju 0 i 1) utvrđuje koliko je promene zavisno
promenljive objašnjeno promenom nezavisno promenljive
Primer:
Ako je koeficijent korelacije 0.9, tada je koeficijent determinacije 0.81
što znači da je 81% promene zavisno promenljive objašnjeno
promenom nezavisno promenljive

REGRESIONA
JEDNAČINA
Jednačina
LINEARNE
regresije:
ˆ y = ax + b
KoeficijenO
a
i
b
određuju
se
iz
uslova:
a
(koeficijent
smera
pravca)
b
(odsečak
na
y
osi)
€
a = s xy
s x
2
b = y − ax

a = 0,84
b = −2,72
x i y i
6 2
10 5
€
ˆ y = ax + b
10 7
18 11
20 17
20 12
€

Nakon unešene formule,
označiti ćelije u kojima je
potrebno smestiti
koeficijente regresije
Zatim pritisnuti taster F2,
a potom istovremeno
kombinaciju tastera
CTRL+SHIFT+ENTER

NELINEARNE
REGRESIJE
METODE
LINEARIZACIJE
€
€
1. y = b ⋅ x a ⇒ ln y = ln b + a ln x
y ˜ = b ˜ + a ⋅ x ˜
2. y = b ⋅e ax ⇒ ln y = ln b + ax
y ˜ = b ˜ €
+ ax
3. y = b + a x ⇒ y = b + a ⋅ 1 x
y = b + a˜ x
4. y = b + a x ⇒ y = b + a ⋅ ˜ x
5. y =1− e -ax ⇒ ln(y −1) = −ax
-ln(y −1) = ax
ln(y −1) −1 = ax
ln(
˜ y = ax
1
y −1 ) = ax
U
Excel‐u:
Sca=er
diagram
+
Add
Trand
Line
+
€
Op,ons
(R
Squared,
Show
Equa,on
on
Chart)

VIŠESTRUKA
KORELACIJA
I
REGRESIJA
Podaci :
⎡ x 1,1 x 1,2 x 1,k
⎤
⎢
⎥
⎢
€
⎥
X = ⎢ x i,1 x i,2 x i,k
⎥
⎢
⎥
⎢
⎥
⎣ ⎢ x n,1 x n,2 x n,k ⎦ ⎥
x 1 x 2 x n
n − obim uzorka
Jednacina :
ˆ y = a 1
x 1
+ a 2
x 2
+…+ a k
x k
+ b
y =
k − broj nezavisno promenljivih, tj. faktora
⎡
⎢
⎢
⎢
⎢
⎢
⎣ ⎢
y 1
y i
y n
⎤
⎥
⎥
⎥
⎥
⎥
⎦ ⎥
€
Parametri :
⎡ a 1
⎢
α =
⎢
⎣ ⎢ a k
⎤
⎥
⎥
= ? b = ?
⎦ ⎥
€
α = ( X T X) −1 X T y b = y − a 1 x 1 − a 2 x 2 −…− a k x k
METODA
NAJMANJIH
KVADRATA

VIŠESTRUKA KORELACIJA I
REGRESIJA
Korelacione matrice :
⎡ r x1 x 1
r x1 x 2
r x1
⎤
x
⎢
k
⎥
r x2 x
R XX = ⎢ 1
r x2 x 2
r x2 x k ⎥
⎢ ⎥
⎢
⎥
⎣ r xk x 1
r xk x 2
r xk x k ⎦
⎡
⎢
c = ⎢
⎢
⎢
⎣
r x1 y
r x2 y
r xk y
⎤
⎥
⎥
⎥
⎥
⎦
KOEFICIJENT
DETERMINACIJE
R 2 = c T
( R XX ) −1 c
€
€
U
Excel‐u:
Računamo
korišćenjem
funkcije
LINEST

Nakon unešene formule,
označiti ćelije u kojima je
potrebno smestiti
koeficijente regresije
Zatim pritisnuti taster F2,
a potom istovremeno
kombinaciju tastera
CTRL+SHIFT+ENTER