Klassifikation - Database Systems Group - Ludwig-Maximilians ...

DATABASE
SYSTEMS
GROUP
Splitstrategien
Gini-Index
Gini-Index für eine Menge T von Trainingsobjekten
k
∑
gini( T)= 1−
pj
= 1
j
– kl kleiner i Gini-Index Gi i I d ⇔ geringe i UUnreinheit, i h i
– großer Gini-Index ⇔ hohe Unreinheit
2
DDas AAttribut ib A hhabe b die di Partitionierung P i i i T T1, T T2, . . . , T Tm erzeugt.
Gini-Index des Attributs A in Bezug auf T ist definiert als
DATABASE
SYSTEMS
GROUP
m
| Ti
|
giniA( T)
= ⋅gini(
Ti
)
| T| ∑
i=
1
Splitstrategien
9 „ja“ 5 „nein“ Entropie = 0,940
Feuchtigkeit g
hoch normal
Beispiel p
9 „ja“ 5 „nein“ Entropie = 0,940
Wind
schwach stark
3„ja“ 3 „ja 4„nein“ 4 „nein 6„ja“ 6 „ja 1„nein“ 1 „nein 6 „ja“ „j 2 „nein“ „
3 „ja“ j 3 „nein“
Entropie = 0,985 Entropie = 0,592 Entropie = 0,811 Entropie = 1,0
7 7
Informationsgewinn(
T,
Feuchtigkeit)
= 0,
94 − ⋅0,
985 − ⋅0,
592 = 0,
151
14 14
8 6
Informationsgewinn(
T,
Wind)
= 0,
94 − ⋅0,
811−
⋅1,
0 = 0,
048
14 14
⇒ Feuchtigkeit liefert den höheren Informationsgewinn
67
68