10 Zentrale Bef<strong>und</strong>e <strong>der</strong> <strong>DESI</strong>-<strong>Studie</strong> <strong>in</strong> SüdtirolOberschule für Landwirtschaft, Fachoberschule für Soziales;• Lehranstalten: Lehranstalt für Wirtschaft <strong>und</strong> Tourismus, Fachlehranstalt für Handwerk <strong>und</strong>Industrie.AusschlusskriterienAnalog zu großen Schulleitungsstudien war es auch im Rahmen <strong>der</strong> <strong>DESI</strong>-<strong>Studie</strong> nicht zugelassen,Schüler<strong>in</strong>nen <strong>und</strong> Schüler nur aufgr<strong>und</strong> ger<strong>in</strong>ger Leistungsfähigkeit vom Test auszuschließen. Allerd<strong>in</strong>gsgab es vergleichbar mit <strong>in</strong>ternationalen Standards aus PISA <strong>und</strong> IGLU klar def<strong>in</strong>ierte Kriterien,nach denen folgende Personen vom Test ausgeschlossen werden konnten:• Schüler<strong>in</strong>nen <strong>und</strong> Schüler mit e<strong>in</strong>er permanenten körperlichen Beh<strong>in</strong><strong>der</strong>ung, die ihnen dieTeilnahme an <strong>der</strong> Testsituation unmöglich macht.• Schüler<strong>in</strong>nen <strong>und</strong> Schüler, die emotional o<strong>der</strong> geistig nicht <strong>in</strong> <strong>der</strong> Lage s<strong>in</strong>d, auch nur denallgeme<strong>in</strong>en Anweisungen des Tests zu folgen, o<strong>der</strong> die durch die Testsituation <strong>in</strong> unzumutbaremMaße emotional belastet würden.• Schüler<strong>in</strong>nen <strong>und</strong> Schüler, die weniger als e<strong>in</strong> Jahr <strong>in</strong> deutscher Sprache unterrichtet wurden<strong>und</strong> <strong>der</strong>en Muttersprache nicht deutsch ist.BeteiligungsratenVon den 1520 durch die Stichprobenziehung bestimmten Schüler<strong>in</strong>nen <strong>und</strong> Schülern wurden fünf wegenkörperlicher, sieben wegen geistiger Bee<strong>in</strong>trächtigungen <strong>und</strong> sechs weitere wegen fehlen<strong>der</strong>Sprachkenntnisse ausgeschlossen. Weitere 71 Schüler<strong>in</strong>nen <strong>und</strong> Schüler waren aus verschiedenenGründen am Erhebungstag nicht anwesend, so dass sich die Auswertungen auf die Daten von 1431Schüler<strong>in</strong>nen <strong>und</strong> Schülern stützen. Somit liegt die Beteiligungsrate bei 94,1% aller durch die Stichprobenziehungausgewählten Schüler<strong>in</strong>nen <strong>und</strong> Schüler.Skalierung <strong>und</strong> KompetenzniveausDie Methoden mit denen die <strong>DESI</strong>-Südtirol Daten ausgewertet wurden werden hier nur soweit beschrieben,wie es für e<strong>in</strong> Verständnis <strong>der</strong> anschließend präsentierten <strong>Ergebnisse</strong> notwendig ist. Dienachfolgenden Ausführungen gelten <strong>in</strong> gleicher Weise für die Auswertung <strong>der</strong> <strong>DESI</strong>-Daten aus Südtirol,wie auch <strong>der</strong> <strong>DESI</strong>-Daten aus Deutschland (vgl. Hartig 2006).Die Erfassung <strong>der</strong> Sprachkompetenzen erfolgt <strong>in</strong> <strong>DESI</strong> im Rahmen e<strong>in</strong>es differenzierten multidimensionalenAnsatzes. Jede Sprachkompetenz bildet e<strong>in</strong>e Teildimension <strong>und</strong> wird <strong>in</strong> <strong>DESI</strong> durch e<strong>in</strong>en separatenTest repräsentiert. Die verschiedenen <strong>DESI</strong>-Tests enthalten entsprechend <strong>der</strong> Vielfalt <strong>der</strong> erfasstenKompetenzen unterschiedliche schriftliche Teststimuli. Die Testaufgaben haben zum größten Teil e<strong>in</strong>geschlossenes Antwortformat (multiple-choice), teilweise aber auch offene Antwortformate wie z.B. dieTextproduktionsaufgaben. Während bei den geschlossenen Antwortformaten von vornhere<strong>in</strong> klar def<strong>in</strong>iertist, welche Antworten richtig s<strong>in</strong>d, werden die offenen Antworten anhand entsprechen<strong>der</strong> Kodieranweisungendah<strong>in</strong>gehend e<strong>in</strong>geschätzt, für welche Testleistungen wie viele Punkte vergeben werden.Dieses Rat<strong>in</strong>g <strong>der</strong> offenen Antworten erfolgte für die <strong>DESI</strong>-Südtirol <strong>Studie</strong> analog <strong>der</strong> <strong>DESI</strong>-<strong>Studie</strong> <strong>in</strong>Deutschland.Die Skalierung <strong>der</strong> <strong>DESI</strong>-Leistungsdaten erfolgte auf <strong>der</strong> Gr<strong>und</strong>lage <strong>der</strong> Item-Response-Theorie. Hierbeiwerden die Lösungswahrsche<strong>in</strong>lichkeiten <strong>der</strong> e<strong>in</strong>zelnen Aufgaben als e<strong>in</strong>e Funktion <strong>der</strong>Itemschwierigkeit <strong>und</strong> <strong>der</strong> zugr<strong>und</strong>e liegenden Fähigkeit betrachtet. Das <strong>in</strong> <strong>DESI</strong> verwendete IRT-Modell ist e<strong>in</strong> generalisiertes Rasch-Modell, welches <strong>in</strong> <strong>der</strong> Analysesoftware ConQuest implementiertist. Innerhalb dieses Modells können sowohl dichotome (z.B. falsch/richtig) als auch ord<strong>in</strong>ale Auswertungsformate(partial credit-Modell, z.B. falsch/teilweise richtig/vollständig gelöst) <strong>in</strong>nerhalb <strong>der</strong>selbenTests modelliert werden. Die Auswertung auf Basis des Rasch-Modells hat e<strong>in</strong>e Reihe untersuchungs<strong>und</strong>auswertungstechnischer Vorteile. E<strong>in</strong>er davon ist die Möglichkeit <strong>der</strong> Vorgabe von Aufgaben <strong>in</strong> ei-
Zentrale Bef<strong>und</strong>e <strong>der</strong> <strong>DESI</strong>-<strong>Studie</strong> <strong>in</strong> Südtirol 11nem Matrix-Design, d.h. dass je<strong>der</strong> Schüler nur e<strong>in</strong>e Teilmenge aller Aufgaben jedes Tests bearbeitet.Die Schätzung <strong>der</strong> Schülerleistungen erfolgt, wie auch <strong>in</strong> an<strong>der</strong>en large scale assessments, mit so genanntenplausible values. Diese ermöglichen durch das E<strong>in</strong>beziehen von erklärenden H<strong>in</strong>tergr<strong>und</strong>variablenwie Schulform, Geschlecht <strong>und</strong> sozioökonomischem H<strong>in</strong>tergr<strong>und</strong> e<strong>in</strong>e messfehlerbere<strong>in</strong>igte Schätzung<strong>der</strong> Zusammenhänge zwischen den erklärenden Variablen <strong>und</strong> den erfassten Schülerleistungen.Der für die Skalierung <strong>der</strong> <strong>in</strong> <strong>DESI</strong> verwendeten Leistungstests entscheidende Vorteil <strong>der</strong> Rasch-Skalierung ist die Möglichkeit, Aufgabenschwierigkeiten <strong>und</strong> Schülerleistungen auf e<strong>in</strong>er geme<strong>in</strong>samenSkala abzubilden. Die Personenfähigkeiten werden mit θ, die Aufgabenschwierigkeiten mit σ bezeichnet.Die Schwierigkeit σ e<strong>in</strong>er Aufgabe ist im Rasch-Modell def<strong>in</strong>iert als <strong>der</strong> Punkt auf <strong>der</strong> Kompetenzskala,an dem die Wahrsche<strong>in</strong>lichkeit von Personen mit e<strong>in</strong>er Fähigkeit von θ = σ 50% beträgt, die Aufgabezu lösen. Anhand des im Rasch-Modell angenommenen Zusammenhanges zwischen Personenfähigkeit<strong>und</strong> Lösungswahrsche<strong>in</strong>lichkeit lassen sich auch Punkte auf <strong>der</strong> Kompetenzskala bestimmen, andenen die Lösungswahrsche<strong>in</strong>lichkeit für e<strong>in</strong>e spezifische Aufgabe e<strong>in</strong>en beliebigen an<strong>der</strong>en Wert als50% annimmt. Bei <strong>der</strong> Beschreibung von Kompetenzen <strong>in</strong>teressiert, ob e<strong>in</strong>e Population die Anfor<strong>der</strong>ungenbestimmter Aufgaben mit e<strong>in</strong>er h<strong>in</strong>reichenden Sicherheit bewältigen kann – e<strong>in</strong>e Lösungswahrsche<strong>in</strong>lichkeitvon 50% ersche<strong>in</strong>t hierfür relativ niedrig. Daher wurde <strong>in</strong> <strong>DESI</strong>, wie <strong>in</strong> an<strong>der</strong>en <strong>in</strong>ternationalenSchulvergleichstudien, auch e<strong>in</strong>e höhere Lösungswahrsche<strong>in</strong>lichkeit e<strong>in</strong>gefor<strong>der</strong>t <strong>und</strong> e<strong>in</strong>e„65%-Schwelle“ festgelegt. D.h. e<strong>in</strong>er Schüler<strong>in</strong> o<strong>der</strong> e<strong>in</strong>em Schüler wird erst dann e<strong>in</strong>e Fähigkeit zugeschrieben,wenn die Schüler<strong>in</strong> bzw. <strong>der</strong> Schüler Anfor<strong>der</strong>ungen <strong>der</strong> betreffenden Art <strong>in</strong> zwei von dreiFällen korrekt bewältigen kann.Aus den <strong>DESI</strong>-Leistungstests resultieren quantitative Messungen auf kont<strong>in</strong>uierlichen Skalen. Es istaber gerade <strong>in</strong> <strong>DESI</strong> von herausragendem Interesse, über welche spezifischen Kompetenzen Schüler<strong>in</strong>nen<strong>und</strong> Schüler auf e<strong>in</strong>em bestimmten Niveau verfügen bzw. welche fachbezogenen Leistungsanfor<strong>der</strong>ungensie bewältigen können. Es besteht also <strong>der</strong> Bedarf an e<strong>in</strong>er kriteriumsorientierten Interpretation<strong>der</strong> quantitativen Leistungswerte. Die numerischen Werte auf <strong>der</strong> Kompetenzskala sollen zu konkreten,fachbezogenen Kompetenzen <strong>in</strong> Bezug gesetzt werden. Genau dieses Ziel soll mit <strong>der</strong> Bildung so genannterKompetenzniveaus erreicht werden.Die Kompetenzniveaus <strong>in</strong> <strong>DESI</strong> wurden, an<strong>der</strong>s als <strong>in</strong> PISA, basierend auf e<strong>in</strong>er a priori-Beschreibung<strong>der</strong> Aufgabenmerkmale bestimmt. In PISA <strong>und</strong> <strong>in</strong> an<strong>der</strong>en large scale assessments wurden a posterioriSchwellen im Abstand von e<strong>in</strong>er Standardabweichung, also 100 Punkten auf <strong>der</strong> PISA-Skala, gesetzt.Die <strong>in</strong>haltliche Def<strong>in</strong>ition <strong>der</strong> Niveaus erfolgte im Nachh<strong>in</strong>e<strong>in</strong> durch Inspektion <strong>der</strong> zwischen denSchwellen liegenden Items. In <strong>DESI</strong> wurden im Gegensatz dazu bereits vorab Beschreibungen <strong>der</strong> Testaufgabenh<strong>in</strong>sichtlich möglicher schwierigkeitsbestimmen<strong>der</strong> Charakteristika vorgenommen. Diese Beschreibungenwurden aus Modellen <strong>der</strong> jeweils zu erfassenden Kompetenzen abgeleitet <strong>und</strong> be<strong>in</strong>haltenAnnahmen darüber, welche spezifischen Anfor<strong>der</strong>ungen zur Schwierigkeit e<strong>in</strong>er Aufgabe beitragen sollen.Nach <strong>der</strong> Def<strong>in</strong>ition <strong>und</strong> Kodierung <strong>der</strong> schwierigkeitsbestimmenden Merkmale konnten diese zuden empirisch ermittelten Aufgabenschwierigkeiten <strong>in</strong> Beziehung gesetzt werden.In <strong>DESI</strong> werden als Aufgabenschwierigkeiten die oben genannten, aus <strong>der</strong> Rasch-Skalierung resultierenden65%-Schwellen verwendet, d.h. diejenigen Werte auf <strong>der</strong> Kompetenzskala, mit denen Schüler<strong>in</strong>nen<strong>und</strong> Schüler die jeweilige Aufgabe mit e<strong>in</strong>er Wahrsche<strong>in</strong>lichkeit von 65% lösen können. DieSchwellen zwischen den Kompetenzniveaus <strong>der</strong> <strong>DESI</strong>-Tests wurden schließlich als die erwartetenSchwierigkeiten auf Basis <strong>der</strong>jenigen Aufgabenmerkmale gebildet, welche die größte Erklärungskraftfür Unterschiede <strong>in</strong> den Aufgabenschwierigkeiten haben. Die <strong>in</strong>haltliche Def<strong>in</strong>ition <strong>der</strong> Schülerkompetenzenauf den so gebildeten Kompetenzniveaus wurde <strong>in</strong> <strong>der</strong> Regel durch diese vorhersagestärkstenMerkmale vorgenommen.E<strong>in</strong> Nachteil dieser a priori-Def<strong>in</strong>ition <strong>der</strong> Kompetenzniveaus besteht vor allem <strong>in</strong> <strong>der</strong> ungleichen Anzahl<strong>der</strong> Niveaus <strong>in</strong> verschiedenen Tests <strong>und</strong> <strong>der</strong> weniger gleichmäßigen Verteilung <strong>der</strong> Niveaus auf denKompetenzskalen.Mit e<strong>in</strong>er a priori-Beschreibung <strong>der</strong> Aufgabenmerkmale, wie sie <strong>in</strong> <strong>DESI</strong> vorgenommen wurde, geht jedoch<strong>der</strong> erhebliche Vorteil e<strong>in</strong>her, dass sich aus den theoretischen Überlegungen <strong>der</strong> Testautoren kon-