07.12.2012 Aufrufe

Vortrag Jaekel, Mikut, Malberg, Bretthauer

Vortrag Jaekel, Mikut, Malberg, Bretthauer

Vortrag Jaekel, Mikut, Malberg, Bretthauer

MEHR ANZEIGEN
WENIGER ANZEIGEN

Erfolgreiche ePaper selbst erstellen

Machen Sie aus Ihren PDF Publikationen ein blätterbares Flipbook mit unserer einzigartigen Google optimierten e-Paper Software.

Datenbasierte Regelsuche fur Fuzzy-Systeme<br />

mittels baumorientierter Verfahren<br />

Jens Jakel, Ralf <strong>Mikut</strong>, Hagen <strong>Malberg</strong>, Georg <strong>Bretthauer</strong><br />

Forschungszentrum Karlsruhe GmbH,<br />

Institut fur Angewandte Informatik<br />

Postfach 3640, D-76021 Karlsruhe<br />

Tel.: 07247/82-5736, Fax: 07247/82-5785,<br />

E-Mail: jaekel@iai.fzk.de<br />

Kurzfassung: Der Beitrag gibt zunachst einen Uberblick uber Verfahren zur datengestutzten<br />

Regelsuche. Dabei liegt der Schwerpunkt auf baumorientierten Methoden,<br />

die sich zur Generierung von Fuzzy-Regeln nutzen lassen. Im zweiten Teil wird ein Algorithmus<br />

naher vorgestellt. Dieser beinhaltet die Induktion eines Entscheidungsbaums<br />

und seine Transformation in Fuzzy-Regeln. Er bildet den Ausgangspunkt fur die Generierung<br />

und Bewertung neuer, generalisierender Regelhypothesen, aus denen abschlie end<br />

kooperierende Regeln zu einer Regelbasis zusammengestellt werden. Die Darstellung des<br />

Algorithmus bezieht als Beispiel die Regelgenerierung fur eine medizinische Diagnoseaufgabe<br />

ein.<br />

1 Einfuhrung<br />

Fuzzy-Systeme werden { z. B. als Fuzzy-Modell oder Fuzzy-Regler { insbesondere bei komplexen,<br />

nichtlinearen Prozessen eingesetzt. Dabei besteht eine wesentliche Motivation darin,<br />

dem Anwender Einblick in die Problemlosung zu geben. Dazu mu die Regelbasis des<br />

Fuzzy-Systems aus verstandlichen und signi kanten Regeln bestehen und eine bestimmte<br />

Approximations- bzw. Klassi kationsgute aufweisen. Verfahren zum automatischen, datengestutzten<br />

Generieren einer solchen Regelbasis stellen seit einigen Jahren einen intensiv<br />

bearbeiteten Forschungsschwerpunkt dar [1].<br />

Eine Regelbasis kann zum einen unmittelbar in der Menge moglicher Regelbasen gesucht<br />

werden. Ein alternatives Vorgehen besteht in der Suche von guten Regeln und<br />

dem Kombinieren geeigneter Regeln zu einer Regelbasis. Dabei besteht das Problem in<br />

dem zweckma igen Generieren von Hypothesen und ihrer Bewertung. Bei praktischen<br />

Aufgabenstellungen ist das vollstandige Durchsuchen des Hypothesenraums unmoglich,<br />

weswegen verschiedene Suchstrategien zum Einsatz kommen. Diese konnen ihrem Wesen<br />

nach heuristisch, probabilistisch (Evolutionare Algorithmen) oder systematisch (induktives<br />

Lernen) sein. Daruber hinaus bilden Clustertechniken die Grundlage von Regelgenerierungsverfahren<br />

[2, 3], auf die hier nicht weiter eingegangen wird.<br />

Insbesondere die Methoden des Maschinellen Lernens [4] bilden eine Grundlage fur e ziente<br />

Suchstrategien. Sie haben deshalb, vor allem in Form der baumorientierten Verfahren,<br />

zunehmend Verbreitung bei der Fuzzy-Regelgenerierung gefunden. Innerhalb des Maschinellen<br />

Lernens wiederum hat die Theorie der Fuzzy-Mengen zur Behandlung der Unscharfe<br />

linguistischer Ausdrucke und der Unsicherheit von Daten Akzeptanz erlangt (s. z. B. [5, 6]).<br />

Schwerpunkt dieses Beitrags bildet die Vorstellung eines Regelsuchverfahrens fur Fuzzy-<br />

Systeme, das die E zienz der Induktion von Entscheidungsbaumen zum Generieren von<br />

Regelhypothesen nutzt. Diese dienen als Ausgangspunkt fur das Aufstellen generalisierter<br />

Regelhypothesen. Die Verallgemeinerungen betre en die Struktur der Pramissen (auftretende<br />

Eingangsgro en) und die linguistischen Terme (Bilden von modi zierten Termen).<br />

Die Bewertung der Hypothesen berucksichtigt die verschiedenen Anforderungen


(Modellgute, Transparenz, Signi kanz). Ein Vorteil dieses Vorgehens gegenuber dem Generalisieren<br />

des Entscheidungsbaums besteht darin, nichtoptimale Entscheidungen uber<br />

die Aufteilung in einem Knoten aufheben zu konnen. Aus der Menge der generierter Regeln<br />

werden schlie lich diejenigen gewahlt, deren kooperatives Zusammenwirken in einer<br />

Regelbasis die beste Gesamtgute ergibt.<br />

Ziel der Arbeit ist es,<br />

zunachst einen Uberblick uber Verfahren zur Regelsuche zu geben, wobei eine Konzentration<br />

auf Verfahren des Maschinellen Lernens erfolgt, und<br />

ein baumorientiertes Verfahren vorzustellen, wozu eine Anwendung aus der medizinischen<br />

Diagnose herangezogen wird.<br />

2 Uberblick uber Verfahren zur datenbasierten Regelsuche<br />

Datenbasierte Regelsuchverfahren gehen von einer Menge von Beispielen B =<br />

fx[k];y[k] j k = 1;::: ;Ng aus, wobei vorausgesetzt wird, da die Beispiele u. U. mit<br />

Storungen uberlagerte Realisierungen einer unbekannten Funktion y = f(x) sind. Die<br />

Eingangsgro en x und die Ausgangsgro e y konnen nominale (kategorische), ordinale oder<br />

numerische Variable sein. Die Aufgabe besteht darin, eine regelbasierte Beschreibung bzw.<br />

Approximation dieser Funktion f zu nden.<br />

Ist y eine nominale oder ordinale Variable, wird i. allg. von einem Klassi kationsproblem<br />

gesprochen. Anwendungen nden sich z. B. bei Diagnose, der Entscheidungs ndung<br />

oder der Mustererkennung. Aufgabenstellungen mit numerischen y werden zumeist<br />

als Regressions- bzw. Approximationsprobleme bezeichnet. Entsprechende Anwendungen<br />

sind z. B. Pradiktionsmodelle oder Reglerfunktionale.<br />

Bei der o. g. Aufgabenstellung bestehen zusatzlich bestimmte Anforderungen, zu denen<br />

die Verstandlichkeit der Einzelregeln,<br />

die Transparenz ihres Zusammenwirkens,<br />

die Genauigkeit der Approximation von f,<br />

ein niedriger Aufwand zur Speicherung und Auswertung der Regeln,<br />

ein niedriger Me aufwand fur die in den Regelpramissen auftretenden Variablen<br />

gehoren. Diese Anforderungen schlagen sich zum einen in einem Vorzugskriterium bez. des<br />

Suchraums nieder, z. B. durch Beschrankung auf bestimmte Formen von Regeln oder auf<br />

Regeln mit einer festgelegten maximalen Anzahl von Partialpramissen und zum anderen in<br />

der Bewertung der Hypothesen. Dabei kann z. B. die Bevorzugung allgemeinerer Regeln,<br />

die Bevorzugung klarerer Regeln oder eine Kombination beider zugrunde liegen.<br />

Stellen die Hypothesen komplette Regelbasen dar, wird im Kontext sog. Classi er Systems<br />

hau g vom Pittsburgh-Ansatz [7] gesprochen. Hier soll dieser Fall als direkter Zugang<br />

bezeichnet werden. Im Unterschied dazu bilden beim Michigan-Ansatz einzelne Regeln<br />

die Hypothesen [8]. Dieser Ansatz wird im folgenden indirekter Zugang genannt.<br />

Beim direkten Zugang, bei dem i. allg. globale Gutema e angewendet werden, besteht das<br />

Problem, die Qualitat einzelner Regeln nicht bewerten zu konnen. Das kann dazu fuhren,<br />

da sich fehlerhafte Einzelregeln in ihren Auswirkungen kompensieren und so trotzdem ein<br />

gutes Approximationsverhalten ergeben, was die Interpretierbarkeit der Regeln reduziert.<br />

Au erdem ist der Suchraum wegen der gro en Anzahl moglicher Hypothesen sehr gro .


Der Suchraum beim indirekten Zugang ist deutlich kleiner. Da sich die Bewertung bei<br />

der Regelsuche zunachst auf die einzelnen Regeln bezieht, besteht die Notwendigkeit, ihr<br />

Zusammenwirken in der Regelbasis ahnlich wie beim direkten Zugang zu bewerten. Zudem<br />

ist meist nur ein Teil des Eingangsraums durch die Regeln abgedeckt.<br />

Im Suchraum von Regelhypothesen besteht eine Halbordnung:<br />

Eine Regelhypothese ist spezi scher als eine andere, wenn aus der Erfulltheit der zweiten<br />

Pramisse die der ersten folgt. Bei Regelbasen als Hypothesen la t sich eine vergleichbare<br />

Halbordnung angeben.<br />

Damit konnen zwei prinzipielle Suchrichtungen unterschieden werden:<br />

Neue Hypothesen konnen Spezialisierungen oder Verallgemeinerungen zuvor akzeptierter<br />

Hypothesen sein. Spezialisierung bedeutet, da die Suche vom Allgemeinen zum Speziellen<br />

erfolgt, bei Verallgemeinerungen wird die umgekehrte Suchrichtung verfolgt.<br />

Ausgehend von einer Menge von Anfangshypothesen, diese kann z. B. aus einer initialen<br />

Regelbasis (direkter Zugang), der allgemeinsten Regel mit " leerer\ Pramisse oder aus den<br />

speziellsten mittels der Beispiele aufstellbarer Regeln (indirekter Zugang) bestehen, werden<br />

sukzessive neue Hypothesen generiert, bewertet und entsprechend akzeptiert oder verworfen.<br />

Fur das Aufstellen neuer Hypothesen kommen verschiedene heuristische, probabilistische<br />

und induktive Strategien in Frage. Tabelle 1 zeigt eine Einteilung ausgewahlter<br />

Verfahren zur Regelgenerierung fur Fuzzy-Systeme entsprechend der beiden Zugange sowie<br />

der Suchstrategien.<br />

heuristisch<br />

probabilistisch<br />

Induktion<br />

ASMOD [9, 10]<br />

GA-basierter Entwurf<br />

direkter Zugang indirekter Zugang<br />

von Fuzzy-Reglern [12]<br />

hierarchischer Fuzzy-Systeme [13]<br />

strukturierter Fuzzy-Systeme [14]<br />

von Neuro-Fuzzy-Systemen mit<br />

SMOG [15, 16]<br />

Fuzzy-CART [20]<br />

LOLIMOT [21]<br />

Fuzzy-Entscheidungsbaume [22{27]<br />

Fuzzy-ROSA (explorative Standardstrategie)<br />

[11]<br />

evolutionare Regelgenerierung [17]<br />

Fuzzy-ROSA (evolutionare Suchstrategie)<br />

[18]<br />

GA-basierte Regelgenerierung [19]<br />

baumbasierte Regelgenerierung [11,<br />

28{32]<br />

Fuzzy Version Space Learning [33, 34]<br />

induktives Lernen modularer<br />

Fuzzy-Regeln [35]<br />

Induktion hierarchischer Fuzzy-<br />

Systeme [36]<br />

Tabelle 1: Einteilung von Verfahren zur Regelgenerierung fur Fuzzy-Systeme<br />

Nachfolgend werden die Verfahren der Induktion von Fuzzy-Entscheidungsbaumen und<br />

Regeln naher betrachtet. Ein Entscheidungsbaum kann prinzipiell in einen Regelsatz<br />

uberfuhrt werden. Darauf beruhen die baumorientierten Regelinduktionsverfahren. Die<br />

Induktion von Entscheidungsbaumen, zuruckgehend auf [37], erfolgt in Richtung der Spezialisierung.<br />

Daher wird der Begri der Top-Down-Induktion gebraucht. Die Verfahren zur<br />

Fuzzy-Regelgenerierung beruhen zumeist auf dem von Quinlan entwickelten Algorithmen<br />

ID3 [38], der nachfolgend vorgestellt wird.


Induktion eines Entscheidungsbaums mit ID3 Ein Entscheidungsbaum besteht aus<br />

Knoten und Zweigen und kann als gerichteter Graph interpretiert werden (vgl. Bild 4).<br />

Jeder Knoten weist der Ausgangsgro e einen linguistischen Term zu, der fur die zugehorige<br />

Beispielmenge die beste Entscheidung darstellt. Wenn die Beispielmenge korrekt klassiziert<br />

wird, ist ihre weitere Auftrennung nicht notwendig und der Knoten wird somit zu<br />

einem Endknoten. Weist die Beispielmenge noch Klassi kationsfehler auf, so wird sie in<br />

Abhangigkeit vom Wert einer Variablen xl in die entsprechende Zahl von Zweigen aufgespalten.<br />

Von den moglichen Entscheidungsvariablen xl wird diejenige gewahlt, die die<br />

Transinformation H(xl;y) maximiert [38]. Die Transinformation H(xl; y) stellt ein Ma<br />

fur die wechselseitige Abhangigkeit zwischen xl und y dar. Sie la t sich mit<br />

H(xl; y) =H(xl)+H(y) , H(xl;y) (1)<br />

berechnen. Dabei ist H(xl) die Eingangsentropie, H(y) die Ausgangsentropie und H(xl;y)<br />

die Gesamtentropie. Die Entropie einer Gro e z mit einer disjunkten Einteilung in i =<br />

1;::: ;c Klassen Ai ergibt sich zu<br />

cX<br />

H(z) =, ^p(z 2 Ai) ld^p(z 2 Ai) (2)<br />

i=1<br />

mit den geschatzten Klassenwahrscheinlichkeiten ^p(z 2 Ai) =h(z 2 Ai) =n(z 2 Ai)=N.<br />

Die Verbundentropie H(z;w) zweier Gro en z und w berechnet sich entsprechend als<br />

Doppelsumme mit den geschatzten Wahrscheinlichkeiten ^p(z 2 Ai ^ w 2 Bj) = h(z 2<br />

Ai ^ w 2 Bj) =n(z 2 Ai ^ w 2 Bj)=N. h ist die Hau gkeit, die sich als Quotient aus der<br />

Anzahl n und der Gesamtanzahl der Datensatze N ergibt.<br />

Die Berechnung der relativen Hau gkeiten, also auch die Transinformation (1), bezieht<br />

sich dabei immer auf die verbliebene Beispieldatenmenge in einem Entscheidungsknoten<br />

und nicht auf den gesamten Lerndatensatz. Wenn keine weitere Entscheidungsvariable<br />

existiert oder der Zuwachs der Transinformation zu gering ist, wird der Knoten zu einem<br />

Endknoten.<br />

Eine Weiterentwicklung des Entscheidungskriteriums erfolgt im C4.5-Algorithmus [39],<br />

der die Transinformation (1) noch durch die Eingangsentropie teilt. Damit werden im<br />

Gegensatz zum ID3-Verfahren Aufteilungen nachVariablen unterdruckt, die eine sehr hohe<br />

Eingangsentropie (z. B. durch viele linguistische Terme) aufweisen. Bei gleicher Anzahl<br />

linguistischer Terme in den Eingangsvariablen und ahnlichen Verteilungen sind hingegen<br />

die Ergebnisse beider Verfahren nahezu gleich.<br />

Die Berechnung von Klassenwahrscheinlichkeiten setzt die Disjunktheit der Werte einer<br />

Variablen voraus. Deshalb werden bei einem Teil der Verfahren [22, 24{26, 30] spezi sche<br />

Ma e wie eine Fuzzy-Entropie oder Unsicherheits- und Unscharfema e genutzt, wobei z. B.<br />

anstelle der Anzahl n die Summe der Zugehorigkeitswerte zur Fuzzy-Mengen der Klasse<br />

verwendet wird und N sich als Summe der Zugehorigkeitswerte der Beispiele zum betrachteten<br />

Knoten ergibt. Die anderen Verfahren verwenden zunachst gewohnliche Mengen<br />

anstelle der Fuzzy-Mengen.<br />

Der E zienz des Baum-Induktionsverfahrens stehen verschiedene Nachteile gegenuber:<br />

Die Reihenfolge der Spezialisierungen, die von den Lerndaten abhangt, entscheidet<br />

daruber, welcher Entscheidungsbaum entsteht. Mit anderen Worten, zwei unterschiedliche<br />

Datensatze desselben Prozesses konnen zu sehr unterschiedlichen Entscheidungsbaumen<br />

fuhren.


Bei gestorten und nicht eindeutigen Daten lernt der Entscheidungsbaum auch die<br />

Storung auswendig und ist nicht in der Lage, befriedigend zu generalisieren.<br />

Abgeleitete Regeln sind i. allg. zu speziell, u. a. wegen der vergleichsweise geringeren<br />

Reprasentationsfahigkeit eines Entscheidungsbaums.<br />

Um die Generalisierungsfahigkeit zu gewahrleisten, wird die Entwicklung des Baumes<br />

vorzeitig gestoppt oder Spezialisierungen am vollstandig entwickelten Baum werden<br />

zuruckgenommen (geprunt). Allerdings kann dieser Vorgang eine nichtoptimale Entwicklung<br />

des Baums (Auswahl einer bestimmten Variablen in einem Knoten) i. allg. nicht beheben.<br />

Zudem konnen bestimmte Regelsatze nicht durch einen Baum reprasentiert werden.<br />

Aus diesem Grund bringt es Vorteile, nicht den Baum, sondern die aus ihm abgeleiteten<br />

Regeln zu generalisieren (s. Abschnitt 3).<br />

Die induktiven Verfahren, die unmittelbar Regeln generieren, beruhen auf dem Version<br />

Space Learning [40] oder anderen Verfahren, z. B. PRSIM [41]. Beim Version Space<br />

Learning werden parallel beide Suchrichtungen, in Richtung Spezialisierung und Generalisierung,<br />

verfolgt. Zu spezielle und zu allgemeine Hypothesen werden sukzessive ausgeschlossen.<br />

Der PRSIM-Algorithmus sucht in Richtung der Spezialisierungen ahnlich wie<br />

bei der Induktion eines Entscheidungsbaums, wobei getrennt nach Regeln fur jeden Wert<br />

(Term) der Ausgangsvariablen gesucht wird.<br />

3 Ein baumorientiertes Verfahren zur Generierung von<br />

Fuzzy-Regeln<br />

3.1 Prinzip<br />

Die Grundidee des nachfolgend beschrieben Verfahrens (s. Bild 1) besteht darin, zunachst<br />

den Hypothesenraum in Richtung Spezialisierung systematisch zu durchsuchen. Dazu<br />

dient ein Induktionsverfahren fur Entscheidungsbaume. Anschlie end wird ausgehend von<br />

den i. allg. zu speziellen Regelhypothesen nach Verallgemeinerungen gesucht. Sowohl die<br />

Induktion des Entscheidungsbaums als auch das anschlie ende Generalisieren (Prunen)<br />

der Regeln nutzen spezielle Ma e zur Bewertung der Gute von Hypothesen.<br />

Zur Darstellung des Verfahrens dient als Beispiel die Analyse der spontanen Barorezeptorsensitivitat,<br />

eine Aufgabenstellung, die im folgenden Abschnitt eingefuhrt wird.<br />

Bild 1: Prinzip der Regelgenerierung


3.2 Analyse der spontanen Barorezeptorsensitivitat bei Patienten mit<br />

dilatativer Kardiomyopathie mit der Dualen Sequenzmethode<br />

Die Analyse der spontanen Barorezeptorsensitivitat (BRS) hat sich als eine aussagekraftige<br />

Methode zur Klassi kation und Verlaufsprognose insbesondere bei Patienten mit<br />

eingeschrankter linksventrikularer Funktion [42] erwiesen. Die BRS beschreibt die parasympathische<br />

(vagale) Gegenregulation der Herzfrequenz (ausgedruckt als BBI beatto-beat<br />

interval of heart rate, kurz: Herzrate) auf spontane Blutdruckanderungen (BP<br />

blood pressure), indem der durch die Druckrezeptoren (z. B. Sinus carotikus) registrierte<br />

Blutdruck, neuronal von der Medulla oblongata (verlangertes Mark) gesteuert, auf<br />

die Herzfrequenz zuruckwirkt. Eine verbesserte diagnostische Aussagekraft gegenuber<br />

klassischen Sequenzmethoden kann bei Anwendung der Dualen Sequenzmethode (DSM)<br />

erzielt werden [43, 44]. Diese unterscheidet in bradykarde (Herzrate steigt re ektierend<br />

bei Blutdruckerhohung) und tachykarde (Herzrate sinkt re ektierend auf Blutdruckverringerung)<br />

Barore ex-Regulationen. Zusatzlich werden unter Berucksichtigung der unterschiedlichen<br />

Regulationseigenschaften der parasympathischen und sympathischen Reizleitung<br />

die Blutdruck- und Herzfrequenzzeitreihen untereinander verschoben, so da auch<br />

zeitlich verzogerte Herzfrequenzreaktionen auf die verursachende Blutdruckanderung analysiert<br />

werden konnen. Schematisch sind die verschiedenen Analysebereiche der DSM im<br />

Bild 2 dargestellt.<br />

BP_1 BP_2 BP_3<br />

BP_4 BP_5 BP_6<br />

BP_7<br />

BBI_1 BBI_2 BBI_3 BBI_4 BBI_5 BBI_6 BBI_7<br />

sync Shift 3<br />

BP_8<br />

kontinuierlicher Blutdruck<br />

Bild 2: Zuordnung der synchronen (sync) und der um drei Werte verschobenen (Shift 3)<br />

Herzfrequenz-Gegenregulation auf die verursachende Blutdruckanderung<br />

Der Anstieg von jeweils drei konsekutiv ansteigenden bzw. abfallenden Blutdruck- und<br />

Herzfrequenzwerten wird durch die lineare Regression ermittelt und beschreibt die Sensitivitat<br />

des Re exes:<br />

BRS = BBI<br />

BP<br />

ms<br />

mmHg<br />

EKG<br />

Zeit<br />

Zeit<br />

: (3)<br />

Als Ergebnis der BRS-Berechnung mittels DSM werden 152 Parameter ermittelt, die folgende<br />

Informationen beinhalten:<br />

Anzahl der Anstiege (absolut und prozentual) in de nierten Anstiegssektoren,<br />

Unterscheidung in bradykarde und tachykarde Herzfrequenzreaktionen,<br />

Verschiebeoperation (synchrone oder verzogerte Herzfrequenzreaktion),<br />

mittlerer Anstieg aller Herzfrequenzreaktionen.


In einer klinischen Studie [44] wurde untersucht, ob mittels DSM bei Patienten mit dilatativer<br />

Kardiomyopathie (DCM) Parameter zur Hochrisikostrati zierung und Verlaufsprognose<br />

ermittelt werden konnen. Die dilatative Kardiomyopathie ist eine sehr schwerwiegende<br />

Myokarderkrankung, bei welcher der Herzmuskel bei einer Ejektionsfraktion unter 30%<br />

bereits so insu zient ist, da eine Herztransplantation notwendig wird.<br />

In dieser Studie wurden 26 Patienten (20 mannlich und sechs weiblich) und ein Probandenkollektiv<br />

mit 23 Personen untersucht, das hinsichtlich des Alters und des Geschlechts<br />

vergleichbar ist. Unter vergleichbaren Zeit- und Umgebungsbedingungen wurden mit dem<br />

photoplethysmographischen Blutdruckme gerat PORTAPRES Mod. 2 (Fa. BMI-TNO)<br />

halbstundige kontinuierliche Blutdruckverlaufe aufgezeichnet. Die entsprechende Klassi<br />

kation im Datensatz entstammt hier den routinema igen klinischen Untersuchungen<br />

(Ultraschall, Dopplersonographie).<br />

Mit dem Einsatz eines Fuzzy-Klassi kators sollen diejenigen Parameter der DSM ermittelt<br />

werden, mit denen einerseits die DCM-Patienten von den Gesunden getrennt (diagnostiziert)<br />

werden konnen und andererseits auch eine physiologische Aussage uber das<br />

charakteristische BRS-Regulationsverhalten bei DCM-Patienten moglich ist.<br />

Die mittels der DSM bestimmten Parameter beruhen auf medizinischen Erfahrungen und<br />

Erwartungen uber ein typisches Regulationsverhalten. Dabei stehen systematische Untersuchungen,<br />

inwieweit durch Modi kation oder Kombination dieser Parameter weitere<br />

aussagekraftige Merkmale fur die Klassi kation gewonnen werden konnen, noch aus.<br />

Das vorgestellte Problem ist insofern typischfur medizinische Klassi kationsaufgaben, weil<br />

aufgrund der geringen Anzahl von Datensatzen eine statistische Absicherung schwierig ist.<br />

Daruber hinaus ist eine eindeutige Trennung zwischen Kranken und Gesunden hau g nicht<br />

moglich.<br />

3.3 Wahl der Zugehorigkeitsfunktionen<br />

Um den Entscheidungsbaum in linguistische Regeln uberfuhren zu konnen, werden fur<br />

die Ein- und Ausgangsvariablen entsprechende linguistische Variablen, Terme und Zugehorigkeitsfunktionen<br />

de niert.<br />

Die Induktion eines Entscheidungsbaums setzt eine disjunkte Partitionierung der Eingangsvariablen<br />

voraus. Daher werden den linguistischen Termen sowohl gewohnliche als<br />

auch Fuzzy-Mengen zugeordnet. Die Zugehorigkeitsfunktionen der gewohnlichen Mengen<br />

sind rechteckformig und nicht uberlappend, die der Fuzzy-Mengen dreieckformig und einfach<br />

uberlappend. Dabei soll hier gelten, da die Summe der Zugehorigkeitswerte stets<br />

Eins ist.<br />

Zur Festlegung der Zugehorigkeitsfunktionen konnen sowohl Expertenwissen als auch Daten<br />

herangezogen werden. Bei der datenbasierten Bestimmung der Zugehorigkeitsfunktionen<br />

wird neben Clustertechniken auch das nachfolgend skizzierte heuristische Verfahren<br />

angewendet.<br />

Ausgehend von zwei Zugehorigkeitsfunktionen mit Maxima an den Grundbereichsgrenzen<br />

wird schrittweise je eine weitere Zugehorigkeitsfunktion eingefuhrt, bis die zulassige Anzahl<br />

erreicht wird. Deren Maximum liegt an der Stelle xl[k], ein im Datensatz enthaltener<br />

Wert, fur den ein Kriterium maximal wird. Das Kriterium ist hier die gewichtete Summe<br />

der Eingangsentropie H(xl) und der Transinformation H(xl;y) (Abschnitt 2). Im Unterschied<br />

zu Clustertechniken wird damit auch Information bez. der Ausgangsgro en zur<br />

Festlegung der Zugehorigkeitsfunktionen der Eingangsgro en genutzt. Dieses Verfahren


ist insbesondere bei der Regelgenerierung mittels ID3 bzw. C4.5 vorteilhaft, da die Zugehorigkeitsfunktionen<br />

so festgelegt werden, da mit ihnen eine gute Trennung nach den<br />

Ausgangsklassen durch den Entscheidungsbaum erfolgen kann.<br />

Fur das Anwendungsbeispiel wird die Anzahl der Zugehorigkeitsfunktionen zu funf festgelegt,<br />

die mit sehr klein (SK), klein (K), mittel (M), gro (G) und sehr gro (SG) bezeichnet<br />

werden. Bild 3 zeigt beispielhaft die fur ein Merkmal ermittelten Zugehorigkeitsfunktionen<br />

und Histogramme uber die beiden Ausgangsklassen.<br />

Bild 3: Automatisch generierte Zugehorigkeitsfunktionen fur das Merkmal x141 und Histogramme<br />

fur die beiden Ausgangsklassen (schwarz: Proband, wei : Patient)<br />

3.4 Induktion eines Entscheidungsbaums und Ableiten der Regeln<br />

Mit dem ID3- bzw. C4.5-Algorithmus wird wie in Abschnitt 2 ein Entscheidungsbaum<br />

generiert. Fur jeden Endknoten des Entscheidungsbaums wird eine Regel gebildet. Deren<br />

Pramisse besteht aus einer konjunktiven Verknupfung aller Variablen und ihrer linguistischen<br />

Terme in den Entscheidungsknoten, die auf dem Pfad zwischen der Wurzel des<br />

Baumes und dem jeweiligen Endknoten durchlaufen werden. Wegen der vollstandigen Partitionierung<br />

des Eingangsraums durch den ID3-Algorithmus ergibt sich eine Regelbasis,<br />

die den Eingangsraum redundanzfrei abdeckt. Die Zuweisung von Fuzzy-Mengen anstelle<br />

der gewohnlichen Menge erfolgt rein formal.<br />

Bild 4 zeigt den besten mit dem ID3-Algorithmus erzeugten Entscheidungsbaum, wobei<br />

alle 152 Merkmale zur Verfugung standen. Aus diesem Baum lassen sich 17 Regeln bilden,<br />

wobei lediglich vier Merkmale verwendet werden. Allerdings entstehen so auch einige<br />

Regeln, fur die nur ein oder gar kein Beispiel im Lerndatensatz existiert (vgl. Bild 4, z. B.<br />

x141=1, x18=1).<br />

Zur Gewinnung weiterer Regelhypothesen erweist sich die Induktion verschiedener Entscheidungsbaume,<br />

z. B. durch Herausstreichen dominanter Eingangsvariablen aus dem Datensatz,<br />

als sinnvoll. Damit wird der abgesuchte Hypothesenraum beim Generalisieren<br />

gro er (112 Regeln bei funf verschiedenen Entscheidungsbaumen).<br />

Als zusatzliches Ergebnis bei der Generierung von Entscheidungsbaumen entstehen heuristische<br />

Merkmalsrelevanzen, die aus einer gewichteten Addition der Transinformation


Bild 4: Mit ID3 generierter Entscheidungsbaum zur BRS-Analyse (oben im Knoten Entscheidungsvariable<br />

x l,unten im Knoten Entscheidung y, y =1Patient, y = 2 Proband, in Klammern<br />

Beispielanzahl, Terme: 1=SK, :::, 5=SG)<br />

zwischen dem jeweiligen Merkmal und der Ausgangsgro e entstehen. Der Wichtungsfaktor<br />

ergibt sich als Quotient der Beispielanzahl je Knoten und der Beispielanzahl aller<br />

untersuchten Knoten.<br />

Fur die BRS-Analyse ergeben sich die folgenden heuristischen Merkmalsrelevanzen:<br />

1. Merkmal : x141 ( 10-15_brady_3_a) - Guete 0.370<br />

2. Merkmal : x113 ( alle_tachy_3_a) - Guete 0.292<br />

3. Merkmal : x151 ( alle_brady_3_a) - Guete 0.193<br />

4. Merkmal : x95 ( 7.5-10_tachy_3_a) - Guete 0.181<br />

5. Merkmal : x85 ( 4-5_tachy_3_a) - Guete 0.176<br />

...<br />

31. Merkmal : x12 ( 0-2.5_tachy_1_p) - Guete 0.106<br />

...<br />

49. Merkmal : x18 ( 5-7.5_tachy_1_p) - Guete 0.082<br />

50. Merkmal : x100 ( 10-12.5_tachy_3_p) - Guete 0.082<br />

...<br />

80. Merkmal : x33 ( 50-75_tachy_1_a) - Guete 0.058<br />

...<br />

151. Merkmal : x69 ( 25-50_brady_1_a) - Guete 0.008<br />

152. Merkmal : x71 ( 50-75_brady_1_a) - Guete 0.002<br />

3.5 Generalisieren und logische Reduktion von Regeln<br />

Modulare Bewertung von Fuzzy-Regeln Die Bewertung der Regeln mu die Anforderungen<br />

Relevanz, Verstandlichkeit und statistische Absicherung in geeigneter Weise<br />

berucksichtigen. Dazu dient hier das Kriterium [32, 45]<br />

Q =(1, FP<br />

F 0 ) (1 , FK) ; ; > 0 (4)<br />

P<br />

dessen erster Term die relative Verbesserung der Prognosegute im Vergleich zur Trivialschatzung<br />

(Regel mit stets wahrer Pramisse und hau gstem Term in der Konklusion)<br />

angibt. Indirekt wird hierbei die statistische Absicherung bewertet, da nur Regeln, die<br />

hinreichend durch Beispiele abgedeckt sind, eine wesentliche Verbesserung der Prognosegute<br />

bewirken konnen. Der zweite Term, die Bewertung der Klarheit der Pramissen-<br />

Konklusionszuordnung, ist um so gro er, je geringer der Anteil von Gegenbeispielen in der<br />

Menge der abgedeckten Beispiele ist. Die Exponenten und erlauben eine Gewichtung


eider Bewertungen. Die in (4) verwendeten Gro en berechnen sich wie folgt:<br />

FP = kY ^ , Y kF = kRP , Y kF ! Min;<br />

mit 1<br />

R T n R = 1Tq und R 0n q (5)<br />

0<br />

Y = @ B1 (y[1]) ::: B1 (y[N])<br />

:::::::::::::::::::::::::: A ; P =<br />

Bn(y[1]) ::: Bn(y[N])<br />

1<br />

FK =1,kR 1k1 =1, max<br />

i=1;::: ;n ri1<br />

Pr(x[1]) ::: Pr(x[N])<br />

1 , Pr(x[1]) ::: 1 , Pr(x[N])<br />

Hierbei ist P die Matrix der korrigierten Regelaktivierungen, Y die Matrix der fuzzi zierten<br />

Ausgangsgro e, ^ Y ihre Schatzung und F 0 P der Prognosefehler der Trivialschatzung.<br />

Generalisieren Als Generalisierungsmoglichkeiten in den Regelpramissen werden zugelassen:<br />

1. Streichen einer beliebigen Variable und ihrer linguistischen Terme und<br />

2. Hinzufugen eines benachbarten ODER-verknupften linguistischen Terms fur eine<br />

linguistische Variable.<br />

Das Generalisieren geht damit uber identische Umformungen der Regeln, z. B. mit dem<br />

Quine-McCluskey-Algorithmus wie in [46] beschrieben, hinaus.<br />

Mit der zweiten Generalisierungsmoglichkeit entstehen abgeleitete Terme, die durch die<br />

Beschrankung auf benachbarte Terme interpretierbar bleiben.<br />

Fur jede Regel werden nun alle bildbaren Hypothesen mittels (4) bewertet und die beste<br />

als neue Regel ubernommen. Diese Prozedur wird solange durchgefuhrt, bis alle Generalisierungen<br />

einer Regel auf schlechter bewertete Hypothesen fuhren.<br />

Beim Generalisieren der Regel<br />

Q=0.136 ( 0 Feh./ 9 Bsp.): WENN x100=SG UND x141=K DANN Patient<br />

fur die BRS-Analyse ergeben sich die folgenden Hypothesen und Bewertungen (Anzahl<br />

der Beispiele bzw. Fehler durch Rundung der Zugehorigkeitswerte):<br />

Q=0.157 ( 0 Feh./10 Bsp.): WENN x100=(G [ SG) UND x141=K DANN Patient<br />

Q=0.051 ( 2 Feh./11 Bsp.): WENN x100=SG UND x141=(K [ M) DANN Patient<br />

Q=0.213 ( 0 Feh./15 Bsp.): WENN x100=SG UND x141=(SK [ K) DANN Patient<br />

Q=0.084 ( 4 Feh./14 Bsp.): WENN x141=K DANN Patient<br />

Q=0.050 (10 Feh./27 Bsp.): WENN x100=SG DANN Patient<br />

Die dritte Hypothese wird akzeptiert und weiter generalisiert. Dabei entsteht die Regel:<br />

Q=0.287 ( 0 Feh./18 Bsp.): WENN x100=(G [ SG) UND x141=(SK [ K) DANN Patient<br />

Bild 5 stellt die angegebene Regel dar (umrahmt). Die Gitterlinien fur die Merkmale x100<br />

und x141 kennzeichnen die Maxima der Zugehorigkeitsfunktionen. Hierbei zeigt sich, das<br />

ein Gro teil der Beispiele der Klasse " Patient\ ( " *\) durch diese Regel erklart wird.<br />

Im Ergebnis des Prunings entstehen aus den 112 Regeln des Baums 34 generalisierte<br />

Regeln, z. B.:<br />

(6)<br />

(7)


Bild 5: Gra sche Darstellung der generalisierten Regel<br />

1. Q=0.318: WENN x12=(M [ G [ SG) UND x141=(M [ G [ SG) DANN Proband<br />

2. Q=0.292: WENN x67=(K [ M [ G) UND x103=(M [ G [ SG) UND x151=SG DANN Proband<br />

3. Q=0.287: WENN x100=(G [ SG) UND x141=(SK [ K) DANN Patient<br />

4. Q=0.227: WENN x33=SK UND x113=SG DANN Proband<br />

5. Q=0.221: WENN x83=(SK [ K) UND x151=(SK [ K [ M) DANN Patient<br />

...<br />

20. Q=0.114: WENN x100=(NICHT SG) UND x141=(NICHT SK) DANN Proband<br />

...<br />

Logische Reduktion In Folge der Generalisierung konnen identische Regeln entstehen.<br />

Von diesen werden alle bis auf eine gestrichen. Weiterhin konnen Pramissen speziellerer<br />

Regeln durch die allgemeinerer (mit derselben Konklusion) vollstandig abgedeckt werden.<br />

In diesem Fall werden die speziellen Regeln geloscht, wenn ihre Bewertung nicht besser<br />

als die der allgemeineren ist.<br />

3.6 Aufstellen der Regelbasis<br />

Die Problematik der Auswahl von Regeln hangt wiederum eng mit den hier verwendeten<br />

Methoden zur Generalisierung zusammen. Allgemeine Regeln, die aus unterschiedlichen<br />

speziellen Regeln hervorgehen, unterscheiden sich hau g nur in den linguistischen Termen<br />

der gleichen linguistischen Variablen oder in jeweils einer anderen linguistischen Variablen.<br />

Mit anderen Worten, es besteht ein hohes Ma an Redundanz in der Regelmenge.<br />

Die wichtigste Aufgabe der Regelauswahl besteht darin, das Zusammenwirken der Regeln<br />

in einer Regelbasis zu betrachten und partiell redundante Regeln zu reduzieren. Deswegen<br />

werden in der Menge zuvor generierter Regeln gute Einzelregeln gesucht, die miteinander<br />

kooperieren und sich erganzen. Hierbei mu das anzuwendende Inferenzverfahren beachtet<br />

werden, da verschiedene Inferenzverfahren bei logisch aquivalenten Regelbasen auf unterschiedliche<br />

Ergebnisse fuhren konnen [47].<br />

Durch die Auswahl von Regeln wird der Eingangsraum i. allg. nicht mehr vollstandig abgedeckt.<br />

Deswegen wird der Regelbasis eine Regel zugefugt, deren Pramisse das Komplement<br />

zur Vereinigung der Pramissen aller ubrigen Regeln der Regelbasis ist.


Als Ma zur Bewertung wird der relative Prognosefehler herangezogen. Da nunmehr die<br />

Konklusionen festgesetzt sind, ist in (5) anstelle von R die Matrix C1 zu setzen, die die<br />

Zuordnung einer Konklusion " y = Bi\ zur Pramisse Pj mit cij =1kodiert [45].<br />

Im Beispiel werden die Regeln Nr. 1, 3, 4 und 20 fur die Regelbasis ausgewahlt und mit<br />

einer Defaultregel " SONST Patient\ erganzt (ursprungliche Regelnummer in Klammern):<br />

1. (1.) Q=0.318: WENN x12=(M [ G [ SG) UND x141=(M [ G [ SG) DANN Proband<br />

2. (3.) Q=0.287: WENN x100=(G [ SG) UND x141=(SK [ K) DANN Patient<br />

3. (4.) Q=0.227: WENN x33=SK UND x113=SG DANN Proband<br />

4. (20.) Q=0.114: WENN x100=(NICHT SG) UND x141=(NICHT SK) DANN Proband<br />

5. SONST Patient<br />

Die Verwendung der Defaultregel bewirkt eine erhebliche Reduktion der Regelbasis, da<br />

i. allg. nur Ausnahmen von der hau gsten Klasse (hier: Klasse " Patient\) erklart werden<br />

mussen.<br />

Aus medizinischer Sicht sind diese Regeln nun zu diskutieren:<br />

Regel 1:<br />

Der Parameter x141 (10-15 brady 3 a) beschreibt gro e (10-15 ms/mmHg) und lang<br />

anhaltende (Shift 3) Reaktionen der Herzfrequenz auf Blutdruckanderungen. Die verursachenden<br />

Blutdruckschwankungen scheint das Herz der Patienten nicht mehr ausgleichen<br />

zu konnen, so da der Klassi kator bei gro en Werten dieses Parameters auf Probanden<br />

schlie t. Der Parameter x12 (0-2.5 tachy 1 p) beschreibt die niedrigsten Variabilitaten<br />

der Herzrate, d. h. das Herz reagiert nur minimal auf Blutdruckschwankungen. Sicherlich<br />

wird dieser Parameter auch von Me fehlern uberlagert, da die Interpretation des<br />

Parameters schwerfallt.<br />

Regel 2:<br />

Der Parameter x100 (10-12.5 tachy 3 p) kennzeichnet die prozentuale Anzahl der tachykarden<br />

Anstiege im Bereich 10-12.5 ms/mmHg. O ensichtlich liegt in diesem Bereich<br />

die maximale Gegenregulation bei Patienten, was sich in dem hoheren Prozentsatz in dem<br />

Anstiegsbereich manifestiert. Bei Probanden hingegen konnen noch weitaus intensivere<br />

Gegenregulationen (>12 ms/mmHg) vorkommen, so da deren anstiegsbezogene prozentuale<br />

Verteilung ausgeglichener ist. Der verminderte Parameter x141 (10-15 brady 3 a)<br />

beschreibt die bei Patienten eingeschrankte und o enbar ine ektive Gegenregulation auf<br />

hohe Blutdruckanderungen.<br />

Diese Regel, die einzige au er der Defaultregel mit einer Konklusion Patient, dient einer<br />

besseren Approximation einer nichtachsenparalellen Klassengrenze (vgl. Bild 5) durch eine<br />

geringfugige Uberdeckung mit Regel Nr. 20, die zu einem lokalen Widerspruch fuhrt.<br />

Regel 3:<br />

Der erste Parameter (x33 { 50-75 tachy 1 a) der Regel ist schwierig zu interpretieren,<br />

da in diesem Regulationsbereich vermutlich aphysiologische Extremwerte, gegebenenfalls<br />

Extrasystolen liegen konnten. Die Gesamtanzahl von Herzfrequenzreaktionen auf verursachende<br />

Blutdruck uktuationen (x113 { alle tachy 3 a) ist dagegen ein wichtiger<br />

Parameter zur Klassi kation, deren Gro e Hinweise auf Regulationsabweichungen gestattet.<br />

Eine gro e Anzahl von bradykarden Fluktuationen la t auf eine gesunde Regulation<br />

schlie en.<br />

Das Verfahren verwendet die Variable x33, da damit die Fehleranzahl der Regel auf Null<br />

reduziert wird. Bei einer relativ gleichma igen Verteilung der Werte der Variablen wird<br />

sich die Anzahl der Beispiele, fur die die Regel aktiviert wird, soweit verringern, da die


speziellere Regel nicht besser bewertet wird. Im gegebenen Fall, bei dem diese Variable<br />

fast immer sehr kleine Werte annimmt, verringert sich die abgedeckte Beispielanzahl<br />

kaum. Eine Moglichkeit, solche Probleme zu losen, besteht darin, die Verteilung oder die<br />

heuristische Bewertung der Variablen beim Generalisieren zu berucksichtigen.<br />

Regel 4:<br />

Diese Regel ist au er einer Uberschneidung reziprok zur Regel 2.<br />

Die Regelbasis erreicht auf dem Lerndatensatz eine Klassi kationsgute von 98%, wenn<br />

die Fuzzy-Entscheidung wieder in eine scharfe Entscheidung umgewandelt wird. Bei einer<br />

mehrfach durchgefuhrten 10-fachen Crossvalidierung mit einer zufalligen Auswahl der<br />

Lerndaten fallt diese Quote fur den Testdatensatz allerdings auf 74.1%. Sie liegt damit<br />

im Bereich einer schwerer interpretierbaren linearen Diskriminanzanalyse (74.3%) [43], bei<br />

der sechs Merkmale mit speziellen Verfahren ausgewahlt wurden. Interessanterweise sind<br />

die geeignetsten Merkmale fur eine lineare Diskriminanzanalyse und fur eine nichtlineare<br />

Fuzzy-Klassi kation nahezu vollstandig disjunkt. Nur ein fur die Diskriminanzanalyse ausgewahltes<br />

Merkmal ist unter den besten sechs heuristischen Merkmalen vertreten, wahrend<br />

die ausgewahlte Regelbasis generell mit anderen Merkmalen arbeitet.<br />

4 Zusammenfassung und Ausblick<br />

Die vorliegende Arbeit gibt zunachst einen Uberblick uber Verfahren zur datenbasierten<br />

Generierung von Fuzzy-Regeln, wobei der Schwerpunkt auf baumorientierten Verfahren<br />

liegt. Das hier vorgestellte Verfahren zeichnet sich durch das Generalisieren der mittels<br />

Entscheidungsbaum gewonnen Regeln aus. Dabei werden spezielle Ma e verwendet, die<br />

die Erfullung bestimmter Anforderungen an die Regeln bewerten. Eine weitere Besonderheit<br />

des Verfahrens besteht in der Auswahl von Regeln zur Bildung einer Regelbasis,<br />

die ihr Zusammenwirken berucksichtigt. Daruber hinaus ist das Verfahren in der Lage,<br />

die Auswahl von relevanten Merkmalen sowie die Festlegung der Zugehorigkeitsfunktionen<br />

automatisch vorzunehmen bzw. zu unterstutzen.<br />

Als Beispiel zur Beschreibung der Regelgenerierung dient die Analyse der Barorezeptorsensitivitat<br />

bei dilativer Kardiomyopathie. Dieses medizinische Diagnoseproblem stellt<br />

aufgrund geringer Datensatz- und gro er Merkmalsanzahl eine gro e Herausforderung fur<br />

automatische Verfahren dar. Die erzielten Ergebnisse sind mit den Resultaten einer linearen<br />

Diskriminanzanalyse hinsichtlich der Klassi kationsgute vergleichbar, aber besser<br />

interpretierbar.<br />

In zukunftigen Arbeiten soll der Nutzen von mehrfachen aufeinanderfolgenden Spezialisierungen<br />

und Generalisierungen untersucht werden. Weiterhin wird eine starkere Verbindung<br />

zwischen dem Entwurf der Zugehorigkeitsfunktionen und der Regelgenerierung<br />

angestrebt. Au erdem soll das Verfahren dahingehend erweitert werden, da bei der Regelgenerierung<br />

gleichzeitig Regelplausibilitaten bestimmt und geeignet verarbeitet werden.<br />

Literatur<br />

[1] Kiendl, H. et al. (Hg.) Berichtsbande Workshop Fuzzy Control d. GMA-FA 5.22 ,Forschungsberichte<br />

der Fak. Elektrotechnik der Uni Dortmund. 1994-1998.<br />

[2] Kruse, R.; Nauck, D. Learning Methods for Fuzzy Systems. In: Proc. Fuzzy-Neuro-Systeme<br />

'95, Darmstadt, S. 7{22. 1995.<br />

[3] Babuska, R. Fuzzy Modelling for Control. Boston: Kluwer. 1998.<br />

[4] Wysotzki, F. Maschinelles Lernen. Automatisierungstechnik 45 (1997) 11, S. 526{536.


[5] Koch, M.; Kuhn, T.; Wernstedt, J. Fuzzy Control: optimale Nachbildung und Entwurf optimaler<br />

Entscheidungen. Munchen: Oldenbourg. 1996.<br />

[6] Wehenkel, L. A. Automatic Learning Techniques in Power Systems. Boston: Kluwer. 1998.<br />

[7] Smith, S. F. ALearning System Based on Genetic Adaptive Systems. Dissertation, Univ. of<br />

Pittsburgh. 1980.<br />

[8] Holland, J. H.; Holyoak, K. J.; Nisbett, K. J.; Thagard, P. R. Induction: Processes Of<br />

Inference. Cambridge, MA: MIT Press. 1986.<br />

[9] Kavli, T. ASMOD{An Algorithm for Adaptive Spline Modelling of Observation Data. In:<br />

Advances in Intelligent Control (Harris, C. J., Hg.), S. 141{161. London: Taylor and Francis.<br />

1994.<br />

[10] Lines, G. T.; Kavli, T. The Equivalence of Spline Models and Fuzzy Logic Applied to Model<br />

Construction and Interpretation. In: Neural Adaptive Control Technology (Zbikowski, R.;<br />

Hunt, K. J., Hg.). Singapore: World Scienti c. 1996.<br />

[11] Fritsch, M. Baumorientierte Regel-Induktionsstrategie fur das ROSA-Verfahren zur Modellierung<br />

komplexer dynamischer Systeme. Fortschritt-Bericht VDI, Reihe 8, Nr. 565. Dusseldorf:<br />

VDI-Verlag. 1996.<br />

[12] Karr, C. L. Design of an Adaptive Fuzzy Logic Controller Using a Genetic Algorithm. In:<br />

Proc. Int. Conf. on Genetic Algorithms, S. 450{457. San Mateo. 1991.<br />

[13] Ho mann, F.; P ster, G. Optimierung hierarchischer Fuzzy-Regler mit Genetischen Algorithmen.<br />

In: Fuzzy Logik: Theorie und Praxis, Proc. 4. Dortmunder Fuzzy-Tage (Reusch, B.,<br />

Hg.), S. 97{89. Berlin: Springer. 1994.<br />

[14] Jakel, J. Linguistische Fuzzy-Systeme mit verallgemeinerten Konklusionen und ihre Anwendung<br />

zur Modellbildung und Regelung. Fortschritt-Berichte VDI, Reihe 8, Nr. 793. Dusseldorf:<br />

VDI-Verlag. 1999.<br />

[15] Marenbach, P.; Brown, M. Evolutionary versus Inductive Construction of Neurofuzzy Systems<br />

for Bioprocess Modelling. In: Proc. 2nd Int. Conf. Genetic Algorithms in Engineering Systems:<br />

Innovations and Applications GALESIA'97 . University of Strathclyde, Glasgow, UK. 1997.<br />

[16] Bettenhausen, K. D. Automatische Struktursuche fur Regler und Strecke. Beitrage zur datengetriebenen<br />

Analyse und optimierenden Fuhrung komplexer Prozesse mit Hilfe evolutionarer<br />

Methoden und lernfahiger Fuzzy-Systeme. Dissertation, TH Darmstadt. 1995.<br />

[17] Bonarini, A. Evolutionary Learning of General Fuzzy Rules with Biased Evaluation Functions:<br />

Competition and Cooperation. In: Proc. 1st IEEE Conf. on Evolutionary Computation, Bd. 1,<br />

S. 51{56. Piscataway, NJ: IEEE Press. 1994.<br />

[18] Krone, A.; Back, T.; Teuber, P. Evolutionares Suchkonzept zum Aufstellen signi kanter<br />

Fuzzy-Regeln. Automatisierungstechnik 44 (1996) 8, S. 405{411.<br />

[19] Herrera, F.; Lozano, M.; Verdegay, J.L. A Learning Process for Fuzzy Control Rules Using<br />

Genetic Algorithms. Fuzzy Sets and Systems 100 (1998), S. 143{158.<br />

[20] Jang, J.-S. R. Structure Determination in Fuzzy Modeling: A Fuzzy CART Approach. In:<br />

Proc. IEEE Int. Conf. on Fuzzy Systems, S. 480{485. Orlando, Florida. 1994.<br />

[21] Nelles, O.; Fischer, M. Local Linear Model Trees (LOLIMOT) for Nonlinear System Identication<br />

of a Cooling Blast. In: Proc. 4th Europ. Congr. on Intelligent Techniques and Soft<br />

Computing EUFIT'96 , S. 1187{1191. Aachen. 1996.<br />

[22] Rives, J. FID3: Fuzzy Induction Decision Tree. In: Proc. 1st Int. Symp. Uncertainty, Modelling<br />

and Analysis, S. 457{462. 1990.<br />

[23] Maher, P. E.; St. Clair, D. Uncertain Reasoning in an ID3 Machine Learning Framework. In:<br />

Proc. 2nd IEEE Int. Conf. on Fuzzy Systems, S. 7{12. San Francisco. 1993.<br />

[24] Janikow, C. Z. Fuzzy Processing in Decision Trees. In: Proc. Int. Symp. On Arti cial<br />

Intelligence, S. 360{367. Monterrey. 1993.<br />

[25] Yuan, Y.; Shaw, M. J. Induction of Fuzzy Decision Trees. Fuzzy Sets and Systems 69 (1995)<br />

2, S. 125{139.<br />

[26] Boyen, X.; Wehenkel, L. Automatic Induction of Fuzzy Decision Trees and its Application to<br />

Power System Security Assessment. Fuzzy Sets and Systems 102 (1999), S. 3{19.


[27] Runkler, T.; Roychowdhury, S. Generating Decision Trees and Membership Functions by<br />

Fuzzy Clustering. In: Proc. 7th Europ. Congr. on Intelligent Techniques and Soft Computing<br />

EUFIT'99 . Aachen. 1999.<br />

[28] Keller, H. B. Learning Rules for Modelling Dynamic Systems Behaviour. In: EUROSIM'95<br />

(Breitenecker, F.; Husinsky, I., Hg.), S. 1205{1210. Amsterdam: Elsevier Science. 1995.<br />

[29] Dung, L. T.; Otto, P. Fuzzy-Modellbildung mit maschinell gelernten Regeln. In: Proc. 42.<br />

Int. Wissensch. Kolloquium, S. 209{215. TU Ilmenau. 1997.<br />

[30] Hayashi, I.; Maeda, T.; Bastian, A.; Jain, L. C. Generation of Fuzzy Decision Trees by Fuzzy<br />

ID3 with Adjusting Mechanism of AND/OR Operators. In: Proc. IEEE Int. Conf. Fuzzy<br />

Systems, S. 681{685. Piscataway, NJ. 1998.<br />

[31] Otto, P.; <strong>Malberg</strong>, H. Fuzzy-Modellbildung zur Analyse von Wechselwirkungen bei Biosignalen<br />

des Herz-Kreislaufsystems. In: Kiendl und Knicker [48], S. 82{95. 1998.<br />

[32] Jakel, J.; Groll, L.; <strong>Mikut</strong>, R. Tree-Oriented Hypothesis Generation for Interpretable Fuzzy<br />

Rules. In: Proc. 7th Europ. Congr. on Intelligent Techniques and Soft Computing EUFIT'99 .<br />

Aachen. 1999.<br />

[33] Wang, C.-H.; Hong, T.-P.; Tseng, S.-S. Inductive Learning From Fuzzy Examples. In: Proc.<br />

the 5th IEEE Int. Conf. on Fuzzy Systems, S. 13{18. New Orleans, LA, USA. 1996.<br />

[34] Hong, T. P.; Tseng, S. S. A Generalised Version Space Learning Algorithm for Noisy and<br />

Uncertain Data. IEEE Trans. Knowledge Data Engng. 9 (1997), S. 336{340.<br />

[35] Wang, C.-H.; Liu, J.-F.; Hong, T.-P.; Tseng, S.-S. AFuzzy Inductive Learning Strategy for<br />

Modular Rules. Fuzzy Sets and Systems 103 (1999), S. 91{105.<br />

[36] Holve, R. \The curse of Dimensionality" { und was man dagegen tun kann ::: Hierarchische<br />

Fuzzy Systeme zur Musterklassi kation. In: Kiendl und Knicker [48], S. 195{208. 1998.<br />

[37] Hunt, E. B.; Marin, J.; Stone, P. T. Experiments in Induction. New York: Academic Press.<br />

1966.<br />

[38] Quinlan, J. R. Induction of Decision Trees. Machine Learning 1 (1986), S. 81{106.<br />

[39] Quinlan, J. R. C4.5:Programs for Machine Learning. San Mateo, Ca: Morgan Kaufmann.<br />

1993.<br />

[40] Mitchell, T. M. Version Spaces: An Approach to Concept Learning. Techn. Ber. HPP-79-2,<br />

Stanford University, Palo Alto, CA. 1978.<br />

[41] Cendrowska, J. PRSIM: An Algorithm for Inducing Modular Rules. Int. J. Man-Machine<br />

Studies 27 (1987), S. 349{370.<br />

[42] La Rovere, M. T.; Bigger, J. T. J.; Marcus, F. I.; Mortara, A.; Schwartz, P. J. Barore ex Sensitivity<br />

and Heart-Rate Variability in Prediction of Total Cardiac Mortality After Myocardial<br />

Infarction. ATRAMI (Autonomic Tone and Re exes After Myocardial Infarction). Lancet 351<br />

(1998) 9101, S. 478{484.<br />

[43] <strong>Malberg</strong>, H.; Wessel, N.; Schirdewan, A.; Osterziel, K. J.; Voss, A. Duale Sequenzmethode zur<br />

Analyse der spontanen Barore exsensitivitat bei Patienten mit dilatativer Kardiomyopathie.<br />

Z. Kardiologie 88 (1999) 5, S. 331{337.<br />

[44] <strong>Malberg</strong>, H. Analyse und Klassi kation der Wechselwirkungen der autonomen Regulation des<br />

Herz-Kreislaufsystems. Dissertation, TU Ilmenau. 1999.<br />

[45] Jakel, J.; Groll, L.; <strong>Mikut</strong>, R. Bewertungsma e zum Generieren von Fuzzy-Regeln unter<br />

Beachtung linguistisch motivierter Restriktionen. In: Kiendl und Knicker [48], S. 15{28.<br />

1998.<br />

[46] Klose, A.; Nurnberger, A. Applying Boolean Transformations to Fuzzy Rule Bases. In: Proc.<br />

7th Europ. Congr. on Intelligent Techniques and Soft Computing EUFIT'99 . Aachen. 1999.<br />

[47] <strong>Mikut</strong>, R.; Jakel, J.; Groll, L. Inference Methods for Partial Redundant Rule Bases. In: Proc.<br />

7th Zittau Fuzzy Colloquium, S. 245{251. 1999.<br />

[48] Kiendl, H.; Knicker, R. (Hg.) Berichtsband 8. Workshop Fuzzy Control d. GMA-FA 5.22 ,<br />

Forschungsbericht 0298 der Fak. Elektrotechnik der Uni Dortmund. 1998.

Hurra! Ihre Datei wurde hochgeladen und ist bereit für die Veröffentlichung.

Erfolgreich gespeichert!

Leider ist etwas schief gelaufen!