Vektör Makinaları Temelli Hiperspektral Sınıflandırma için Seyreklik ...

T
( φ( x) = ( φ1( x) , φ2( x) , K , φM(
x)
) ) doğrusal
ağırlıklandırılmış toplamı olarak ifade edilen fonksiyonlar
( y ( x ) ) ile tanımlanmaktadır.
M
∑
i=
1
T
( ) ( )
y( xw ; ) = wφx
= wφ x (1)
i i
Eğitim aşamasında amaç, daha önceden görülmemiş giriş
vektörlerinin hangi sınıfta olduğunu doğru tahmin edebilmek
amacı ile eğitim verisindeki her i x ile ilişkili i w
parametrelerini bulmaktır. Eğitim işlemi sırasında i w
parametrelerin çoğunluğu otomatik olarak sıfırlanmaktadır ve
sıfırlanmayan w i değerleri ile ilişkili giriş vektörleri ilgililik
vektörleri olmakta ve test aşamasında kullanılmaktadır.
Destek vektör makineleri [3] denetimli (supervised)
sınıflandırma ve regresyon için gelişmiş teknoloji
sunmaktadır. DVM’ler, öğrenme boyunca, ayırma düzlemi
(aşırı düzlem) ile bunun her iki tarafında bulunan veri
örnekleri arasındaki mesafenin maksimum olması için
düzlemin pozisyonunu optimize etmektedir. DVM iki sınıfa
ait örnekler arasındaki karar yüzeyini oluştururken yüzeyin iki
sınıfa olan uzaklığını en yüksek dereceye çıkarmaya
çalışmaktadır. DVM karar fonksiyonu olarak denklem (2)’yi
kullanmaktadır.
N
y( xw ; ) = wK xx , + w
(2)
∑
i=
1
( ) 0
i i
Burada i w her x i ile ilişkili ağırlık parametresini, ( ) , K ⋅ ⋅
kernel fonksiyonunu göstermektedir. DVM [3] son
zamanlarda multispektral [4] ve hiperspektral [5]
görüntülerde regresyon ve sınıflandırma problemlerini
çözmek için uygulanmıştır. DVM hakkında daha ayrıntılı
bilgi için [3-5]’e bakılabilir.
Destek vektör makineleri denetimli (supervised)
sınıflandırma için gelişmiş teknoloji olmasına rağmen
olasılıksal çıkış verememe, ödünleşim parametre hesabı
gereksinimi (örneğin C değeri) ve Mercer kernel
fonksiyonlarına bağımlılık gibi dezavantajları vardır. DVM
için bahsedilen dezavantajlar, DVM’nin Bayes davranış
gösteren biçimi olan İVM sınıflandırma yöntemi kullanılarak
çözülmektedir. Ayrıca İVM az sayıda kernel fonksiyonu
gerektirmektedir. Destek vektör makineleri ile
karşılaştırıldığında sınıflandırma (test) süresi İVM
kullanılarak, daha az kernel fonksiyonu kullanılması nedeni ile
azalmaktadır.
t ∈ 0,1 olarak
İki sınıflı sınıflandırma için hedef bilgisi { }
alınabilmektedir. Burada sadece iki değer (0 ve 1) olduğundan
dolayı ptw ( ) için Bernoulli dağılımı kullanılmaktadır.
− y
Lojistik sigmoid bağlantı fonksiyonu σ ( y) = 1/(1 + e )
doğrusal model üretmek amacı ile y( x ) ’e uygulanmaktadır.
Bernoulli dağılımı kullanılarak benzerlik ifadesi
tn ∈{ 0,1}
için denklem (3)’de gösterildiği gibi ifade
edilmektedir.
n
N
∏
{ } { } 1
tn
⎡ ⎤
p( tw) = σ y( xn; w) ⎣1 −σ
y( xn;
w ) ⎦
n
(3)
n=
1
Ağırlık parametrelerinin önsel olasılığı denklem 4 ile
gösterilmektedir.
N
p(
w α ) = ∏
i=
1
2
αi αiwi
exp( − )
2π
2
(4)
Burada = ( α , α , , α )
T
α 1 2 K N hiperparametreleri ifade
etmektedir. Bayes teoremi kullanılarak ağırlık
parametrelerinin sonsal olasılıkları hesaplanmaktadır.
p( tw) p(
wα)
p(
wtα , ) =
p(
t α)
Burada p( tw ) benzerliği, p( w α ) önsel olasılığı, p( t α )
ise kanıtı (evidence) göstermektedir. w değerleri analitik
olarak elde edilemez. Bu nedenle [10]’de kullanılan Laplace
yaklaşım prosedürü w değerlerini elde etmek için
kullanılmaktadır. Geçerli α değerleri ile ilişkili w ağırlık
değerleri sonsal (posterior) dağılım kullanılarak
bulunmaktadır. pw ( / , tα) doğrusal olarak pt (/ wpw ) ( / a )
ile orantılıdır. Bu nedenle maksimum w’yi bulmak için
denklem (6) kullanılabilmektedir.
log { p( tw) p(
wα)
} =
N
1 T
∑[
tnlog yn + (1 −tn)log(1 − yn)
] − wAw
2
(6)
n=
1
{ ( ; ) }
yn = σ yxn w ’dir. Sonsal olasılık ifadesi geçerli α
değerlerini kullanarak en olası w değerlerini bulmak için
aşamalı çözüm kullanılmaktadır. Denklem (6) düzenlenmiş
logistik logaritmik benzerlik fonksiyonudur ve aşamalı en
büyüklemeyi gerektirmektedir. En olası w değerlerini bulmak
için aşamalı yeniden ağırlıklandırılmış en yakın kareler
yöntemi (‘iteratively-reweighed least-squares’) [11]
kullanılmaktadır. Denklem (6) ile gösterilen ifadenin iki kere
w’ye bağlı türevi alınarak Hessian matrisi elde edilmektedir ve
elde edilen ifade denklem (7) ile gösterilmektedir.
T
∇∇ log p(
wtα , ) =− ( Φ ΒΦ+ A )
(7)
w w wMP
Β ( 1 2
−t
(5)
Β = diag( β , β ,..., β ) ) köşegen matrisidir ve
{ yx ( ) } 1 { yx ( ) }
N
βn = σ n ⎡⎣ −σ
n ⎤⎦
ile ifade edilmektedir.
Hessian denkleminin değili alınırak ve terslenerek kovaryans
matrisi ∑ elde edilmektedir.
Σ = ( Φ ΒΦ+ A )
T −1
T
w ΣΦ Βt ˆ
MP =
ˆ −1
t = Φw MP + Β ( t−y )
Yukarıdaki denklemler genelleştirilmiş yakın kareler
probleminin çözülmesi sonucu oluşmaktadır. w MP değerlerini
(8)