Paper - Hogeschool Gent

Hoofdstuk 5. Resultaten 45
Een onevenwicht in documenten kan op twee manieren bereikt worden. De beschikbare
evenwichtige dataset van 500 positieve en 500 negatieve documenten kan afgebouwd wor-
den naar bijvoorbeeld 100 positieve en 500 negatieve. De 500 moeizaam verkregen positieve
documenten afbouwen is echter geen goed idee. 500 documenten is gezien de grote data-
hoeveelheid reeds miniem en deze dataset verder afbouwen zou zorgen voor een slechtere
definiëring van de positieve klasse.
Het alternatief is om de verzameling negatieve trainingsdocumenten flink uit te breiden.
Maar om ook maar enigszins in de buurt te komen van de verhouding 1/50, gaat het hier
over duizenden nieuwe negatieve documenten die allemaal zouden moeten gecontroleerd
worden. Deze controle zou echter flink wat tijd in beslag nemen. Daarom is geopteerd om
random documenten te samplen en deze zonder controle toe te voegen aan de negatieve
trainingsset. Precies omdat de klassenverhouding zo groot is, mag de controle overgeslagen
worden. Er kan immers met grote waarschijnlijkheid gezegd worden dat 98% van alle
documenten die toegevoegd worden aan de negatieve trainingsset ook effectief negatief
zijn.
Om de verhouding tussen features en documenten te tonen zijn enkele nieuwe kolommen
gedefinieerd in tabel 5.3 (p. 46). Hieronder volgt een verduidelijking van de kolomtitels:
NoF+ = number of features positive, het aantal features in de positieve trainingsset
NoF- = number of features negative, het aantal features in de negatieve trainingsset
NoF ratio = NoF+ / NoF-
TrS+ = training set positive, het aantal documenten in de positieve trainingsset
TrS- = training set negative, het aantal documenten in de negatieve trainingsset
TrS ratio = TrS+ / NoF-
Voor de realistische testset is deze laatste verhouding dus ongeveer gelijk aan 1/50 = 0, 02.
Voor het gemak van de besprekingen zijn de testen genummerd. Deze nummering staat
links van tabel 5.3 (p. 46) en komt terug in figuur 5.7 en 5.8 (p. 47). Merk op dat de
horizontale as van de figuren terug het percentage gebruikte features toont. Test 1 is de
baseline en komt overeen met de tweede rij uit tabel 5.2 (p. 44).