Einführung in die Methoden der Künstlichen Intelligenz - Goethe ...

8 Maschinelles Lernen
Negative-Vorhersage-Rate Der Anteil richtig als falsch klassifizierten unter allen als
falsch klassifizierten
|{x ∈ M | P (x) = 0 ∧ K(x) = 0}|
|{x ∈ M | P (x) = 0}|
Im medizinischen Bereich sind alle diese Werte wichtig. Bei seltenen Krankheiten
kann ein guter Recall, d.h. der Anteil der Kranken, die erkannt wurden, mit einer sehr
schlechten Präzision verbunden sein. Zum Beispiel, könnte ein Klassifikator für Gelbfieber
wie folgt vorgehen: Wenn Körpertemperatur über 38,5 C, dann liegt Gelbfieber vor. In
Deutschland haben 10.000 Menschen Fieber mit 38,5 C aber nur 1 Mensch hat Gelbfieber,
der dann auch Fieber hat. Dann ist der Recall 1, aber die Precision ist 0.0001, also sehr
schlecht. Hier muss man also möglichst beide Größen ermitteln, und den Test genauer
machen (precision erhöhen).
8.2 Wahrscheinlichkeit und Entropie
In diesem Abschnitt führen wir den Begriff der Entropie ein, wobei wir zunächst eine kurze
Wiederholung zu diskreten Wahrscheinlichkeiten geben.
8.2.1 Wahrscheinlichkeit
Sei X ein Orakel, das bei jeder Anfrage einen Wert aus der Menge {a 1 , . . . , a n } ausgibt,
d.h. X ist analog zu einer Zufallsvariablen. Man interessiert sich für die Wahrscheinlichkeit
p i , dass das Orakel den Wert a i ausgibt. Macht man (sehr) viele Versuche, so kommt in
der Folge der Ergebnisse b 1 , . . . , b m , für ein festes i der Anteil der a i in der Folge dem Wert
p i immer näher. Man nennt die Zahlen p i , i = 1, . . . , n auch diskrete Wahrscheinlichkeitsverteilung
(der Menge a i ), bzw. des Orakels X.
Zum Beispiel ist beim Münzwurf mit den Ausgängen Kopf und Zahl in einer ausreichend
langen Folge in etwa die Hälfte Kopf, die andere Hälfte Zahl, d.h. man würde hier
Wahrscheinlichkeiten 0, 5 und 0, 5 zuordnen.
Es gilt immer 0 ≤ p i ≤ 1 und ∑ i p i = 1. Sind die a i Zahlen, dann kann man auch den
Erwartungswert ausrechnen: E(X) = ∑ i p ia i . Das ist der Wert, dem die Mittelwerte der
(Zahlen-)Folgen der Versuche immer näher kommen.
Wenn man die Arbeitsweise von X kennt, dann kann man mehr Angaben machen. Z.B.
das sogenannte Urnenmodell:
X benutzt einen Eimer in dem sich Kugeln befinden, rote, blaue und grüne.
Bei jeder Anfrage wird „zufällig“ eine Kugel gezogen, deren Farbe ist das Ergebnis,
und danach wird die Kugel wieder in den Eimer gelegt.
In diesem Fall sind die Wahrscheinlichkeiten p rot , p blau , p grün jeweils genau die relativen
Häufigkeiten der roten, blauen, bzw. grünen Kugeln unter den Kugeln, die sich in der Urne
jeweils vor dem Ziehen befinden.
Stand: 30. Januar 2013 262 M. Schmidt-Schauß & D. Sabel, Skript KI, WS 2012/13