32En ce qui a trait à l‟étudiant, s‟il donne une mauvaise réponse, il obti<strong>en</strong>t un « tutorat » sous forme d‟un<strong>en</strong>semble <strong>de</strong> sous-questions qui subdivis<strong>en</strong>t le problème <strong>en</strong> étapes. L‟élève ne peut réessayer <strong>de</strong> répondreà la question originale avant d‟avoir réussi ces sous-étapes. S‟il hésite, il peut <strong>de</strong>man<strong>de</strong>r <strong>de</strong>s conseils,incluant par exemple <strong>de</strong>s définitions <strong>de</strong>s termes. P<strong>en</strong>dant qu‟il travaille sur le système, celui-ci <strong>en</strong> appr<strong>en</strong>ddavantage sur ses capacités, sa précision, sa vitesse, son besoin d‟assistance <strong>et</strong> ses t<strong>en</strong>tatives <strong>et</strong> peutainsi prédire son résultat aux tests standardisés.L‟<strong>en</strong>seignant, pour sa part, a accès à une analyse détaillée <strong>de</strong>s difficultés r<strong>en</strong>contrées, lui perm<strong>et</strong>tant <strong>de</strong>rec<strong>en</strong>trer son <strong>en</strong>seignem<strong>en</strong>t. Il peut par exemple obt<strong>en</strong>ir, pour chacun <strong>de</strong>s étudiants, chaque action posée,le temps qu‟il a mis pour répondre correctem<strong>en</strong>t, le nombre <strong>de</strong> suggestions <strong>de</strong>mandées ou le résultat àchacune <strong>de</strong>s sous-étapes <strong>de</strong> l‟étayage. Comme le disait un appr<strong>en</strong>ant : “It’s spooky, he’s watchingeverything we do”.En 2004-2005, le système a été utilisé dans les classes <strong>de</strong> <strong>de</strong>ux écoles du Massachus<strong>et</strong>ts. Il cont<strong>en</strong>ait alors493 questions <strong>et</strong> 1 216 étayages <strong>et</strong> a servi à recueillir <strong>de</strong>s <strong>données</strong> sur l‟appr<strong>en</strong>tissage <strong>de</strong> 912 étudiants.L‟année suivante, 616 autres dossiers ont été constitués. <strong>Les</strong> résultats ont été comparés aux exam<strong>en</strong>s duMCAS <strong>de</strong> fin d‟année puis, <strong>de</strong>ux ans plus tard, à ceux <strong>de</strong> 10e année. En fonction d‟un <strong>en</strong>semble <strong>de</strong>mesures incluant le résultat obt<strong>en</strong>u (la mesure « statique ») <strong>de</strong> même que plusieurs mesures dynamiquescomme le nombre <strong>de</strong> questions complétées, le pourc<strong>en</strong>tage <strong>de</strong> réponses correctes aux sous-questions <strong>de</strong>l‟étayage <strong>et</strong> le nombre <strong>de</strong> suggestions <strong>de</strong>mandées, F<strong>en</strong>g <strong>et</strong> autres conclu<strong>en</strong>t : “MCAS score can be b<strong>et</strong>terpredicted by using features reflecting stu<strong>de</strong>nt assistance requirem<strong>en</strong>t, effort, att<strong>en</strong>dance, <strong>et</strong>c, ev<strong>en</strong> if weignore stu<strong>de</strong>nt responses to original questions”.<strong>Les</strong> sondagesMême s‟ils ne vis<strong>en</strong>t pas d‟abord l‟évaluation <strong>de</strong>s appr<strong>en</strong>tissages, les outils <strong>de</strong> sondage maint<strong>en</strong>antcourants <strong>en</strong> <strong>ligne</strong> peuv<strong>en</strong>t y contribuer. Par exemple, Tarouco <strong>et</strong> Hack (2000) trait<strong>en</strong>t <strong>de</strong> l‟emploi d‟unlogiciel <strong>de</strong> sondage pour construire l‟équival<strong>en</strong>t d‟une <strong>en</strong>quête Delphi perm<strong>et</strong>tant à un groupe d‟étudiants<strong>de</strong> dégager <strong>de</strong>s cons<strong>en</strong>sus. Ils peuv<strong>en</strong>t aussi servir, <strong>de</strong> diverses façons, <strong>de</strong> souti<strong>en</strong> à l‟amélioration <strong>de</strong>l‟<strong>en</strong>seignem<strong>en</strong>t. Par exemple, ils sont utilisés pour poser <strong>de</strong>s questions <strong>de</strong> type « le point le plus obscur »afin d‟évaluer la compréh<strong>en</strong>sion du cont<strong>en</strong>u <strong>et</strong> d‟ajuster l‟<strong>en</strong>seignem<strong>en</strong>t. Dans ces cas, comme lorsqu‟ils‟agit d‟évaluer les pairs ou le formateur, le fait que les réponses puiss<strong>en</strong>t <strong>de</strong>meurer anonymes est unavantage 90 . En mo<strong>de</strong> synchrone, diverses technologies <strong>de</strong> vote, comme celle implantée au départem<strong>en</strong>t<strong>de</strong> génie mécanique <strong>de</strong> l‟Université <strong>de</strong> Strathcly<strong>de</strong>, évoquée par Ripley (2007), perm<strong>et</strong>t<strong>en</strong>t d‟évaluerrapi<strong>de</strong>m<strong>en</strong>t la compréh<strong>en</strong>sion <strong>de</strong> tous, plutôt que celle <strong>de</strong> quelques étudiants plus démonstratifs.<strong>Les</strong> systèmes <strong>de</strong> notation adaptés<strong>Les</strong> questionnaires informatisés r<strong>en</strong><strong>de</strong>nt automatique le calcul <strong>de</strong>s résultats. Ce faisant, ils perm<strong>et</strong>t<strong>en</strong>tégalem<strong>en</strong>t d‟utiliser plus facilem<strong>en</strong>t d‟autres mesures, plus complexes, pour mieux évaluer la progression<strong>de</strong> l‟appr<strong>en</strong>tissage.L‟exemple le plus connu <strong>de</strong> ces techniques <strong>de</strong> notation particulières est le tarif régressif (ou correctionnégative) utilisé pour réduire la part <strong>de</strong> hasard dans le choix <strong>de</strong>s réponses à un QCM. L‟évaluateursoustrait, par exemple, un point <strong>en</strong> cas <strong>de</strong> réponse fausse ou <strong>de</strong> non-réponse. Comme l‟explique leGRECO (2004) : « Le fait <strong>de</strong> r<strong>et</strong>rancher un point par réponse fausse supprime statistiquem<strong>en</strong>t lapossibilité d’avoir la moy<strong>en</strong>ne pour un étudiant qui répondrait au hasard ».Le GRECO conseille aussi l‟ajout d‟options <strong>de</strong> réponses comme « toutes les réponses sont vraies », pourobliger l‟étudiant à se positionner <strong>et</strong> l‟inciter à la vigilance. Hanz<strong>en</strong> <strong>et</strong> autres (2010) utilis<strong>en</strong>t ainsi quatr<strong>et</strong>ypes <strong>de</strong> « solutions générales implicites » (SGI) s‟appliquant à toutes les questions d‟un test (générales),mais pas nécessairem<strong>en</strong>t <strong>de</strong> façon explicite (<strong>et</strong> donc implicites). En conséqu<strong>en</strong>ce, l‟étudiant a toujoursquatre choix supplém<strong>en</strong>taires <strong>de</strong> réponses, correspondant à : aucune <strong>de</strong> ces réponses n‟est exacte,toutes les propositions sont exactes, l‟énoncé <strong>de</strong> la question est incompl<strong>et</strong> (impossibilité <strong>de</strong> répondre) ouune absurdité est prés<strong>en</strong>te dans l‟énoncé (p.ex. une contre-vérité) qui r<strong>en</strong>d la question sans obj<strong>et</strong>.Le GRECO traite égalem<strong>en</strong>t <strong>de</strong> la possibilité d‟ajouter, pour chaque question, « une grille <strong>de</strong>vant êtrer<strong>en</strong>seignée par l’étudiant <strong>et</strong> indiquant le <strong>de</strong>gré <strong>de</strong> certitu<strong>de</strong> avec lequel il a opéré son choix ». Le <strong>de</strong>gré <strong>de</strong>certitu<strong>de</strong> ou <strong>de</strong> confiance (confi<strong>de</strong>nce-based marking ou CBM) est « une façon systématique <strong>et</strong>REFAD Pratiques <strong>et</strong> <strong>défis</strong> <strong>de</strong> l’évaluation <strong>en</strong> <strong>ligne</strong> 2011
33transversale d’habituer les étudiants à se questionner sur leur propre certitu<strong>de</strong> », qui « assure unepluridim<strong>en</strong>sionnalité car sont alors mesurés à la fois l’exactitu<strong>de</strong> <strong>de</strong>s réponses (cognition) <strong>de</strong> l’étudiant <strong>et</strong>le réalisme (métacognition) <strong>de</strong> c<strong>et</strong> étudiant » (Poumay, 2003). Il perm<strong>et</strong> aussi d‟i<strong>de</strong>ntifier plus justem<strong>en</strong>tles fausses perceptions <strong>et</strong> d‟ajuster la pédagogie <strong>en</strong> conséqu<strong>en</strong>ce, comme le note le JISC (2010) <strong>en</strong>regard <strong>de</strong> son application à l‟Université <strong>de</strong> Glamorgan. C<strong>et</strong>te façon d‟évaluer est employée <strong>de</strong>puis lesannées 1990 à l‟école <strong>de</strong> mé<strong>de</strong>cine <strong>de</strong> l‟University College <strong>de</strong> Londres (UCL). L‟étudiant inscrit un <strong>de</strong>gré<strong>de</strong> certitu<strong>de</strong> <strong>en</strong> regard <strong>de</strong> chaque question <strong>de</strong> tests puisés dans une banque <strong>de</strong> questions. Le test mêlequestions simples <strong>et</strong> complexes, ce qui favorise une réflexion plus approfondie. De même, ce type <strong>de</strong>mesure est utilisé dans les tests administrés par Hanz<strong>en</strong> <strong>et</strong> autres (2010) à l‟Université <strong>de</strong> Liège. Ils yemploi<strong>en</strong>t une échelle <strong>de</strong> certitu<strong>de</strong> à six <strong>de</strong>grés <strong>et</strong> donn<strong>en</strong>t <strong>de</strong>s résultats différ<strong>en</strong>ts aux réponses correctes<strong>et</strong> incorrectes selon le <strong>de</strong>gré <strong>de</strong> confiance indiqué. Ainsi, l‟étudiant qui associe une confiance plus élevéeà une bonne réponse obti<strong>en</strong>t davantage <strong>de</strong> points, mais il <strong>en</strong> perd davantage si sa réponse est mauvaise.Pour le JISC (2007), c<strong>et</strong>te façon d‟évaluer peut faire <strong>en</strong> sorte que <strong>de</strong>s questionnaires, même objectifs,mesur<strong>en</strong>t <strong>de</strong>s compét<strong>en</strong>ces <strong>de</strong> plus haut niveau, <strong>en</strong> obligeant l‟étudiant à réfléchir davantage <strong>et</strong> às‟autoévaluer.Le développem<strong>en</strong>t <strong>de</strong> banques <strong>de</strong> questionsUn <strong>de</strong>s principaux <strong>défis</strong> <strong>de</strong> l‟utilisation <strong>de</strong>s questionnaires par Intern<strong>et</strong> est le temps considérable qui doitgénéralem<strong>en</strong>t être consacré à la construction d‟exercices <strong>de</strong> qualité. Il faut non seulem<strong>en</strong>t « beaucoup d<strong>et</strong>emps pour rédiger les énoncés <strong>et</strong> les propositions » <strong>de</strong> façon à ce qu‟ils soi<strong>en</strong>t exacts, clairs <strong>et</strong> vali<strong>de</strong>s <strong>en</strong>regard <strong>de</strong>s objectifs d‟appr<strong>en</strong>tissage, mais il faut <strong>en</strong> plus élaborer « les corrections <strong>et</strong> rétroactions auxréponses fournies par les appr<strong>en</strong>ants » 91 . Ils sont donc, comme l‟indique Vinc<strong>en</strong>t (2006): « le résultat d’undur labeur, collectif ou individuel ».Pour faciliter la tâche, <strong>de</strong>s services comme Respondus donn<strong>en</strong>t accès à <strong>de</strong>s milliers <strong>de</strong> questions liées auxmanuels scolaires <strong>de</strong> grands éditeurs anglophones. Mais les efforts collaboratifs <strong>en</strong>tre <strong>en</strong>seignants d‟unmême établissem<strong>en</strong>t, d‟un même domaine ou d‟un même réseau se multipli<strong>en</strong>t. Ceux-ci accroiss<strong>en</strong>t nonseulem<strong>en</strong>t la quantité d‟exercices disponibles, mais contribu<strong>en</strong>t à <strong>en</strong> améliorer la qualité, <strong>en</strong> incluant <strong>de</strong>smécanismes <strong>de</strong> révision par les pairs.L‟Écosse par exemple, sous la gouverne <strong>de</strong> sa Scottish Qualifications Authority (SQA), a développé un<strong>et</strong>elle banque <strong>de</strong>s questions <strong>en</strong> <strong>ligne</strong> (JISC, 2006 <strong>et</strong> 2007). C‟est aussi <strong>en</strong> Écosse que s‟est développé leproj<strong>et</strong> Collaborating for change (COLA), lui-même partie du proj<strong>et</strong> COLEG (Scottish Colleges Op<strong>en</strong> learningExchange Group) pour construire <strong>de</strong>s tests automatisés pouvant être utilisés dans les quatre<strong>en</strong>vironnem<strong>en</strong>ts d‟appr<strong>en</strong>tissage alors prés<strong>en</strong>ts dans les collèges écossais : Blackboard, Moodle, Serco(Teknical) Virtual Campus <strong>et</strong> WebCT.Il a m<strong>en</strong>é au développem<strong>en</strong>t collaboratif, par <strong>en</strong>viron 100 auteurs, d‟une banque <strong>de</strong> plus <strong>de</strong> 500 jeuxquestionnairesformatifs <strong>en</strong> réseau. Le proj<strong>et</strong> a d‟abord choisi, parmi 18 disciplines, trois domaines àdévelopper <strong>en</strong> priorité : l‟informatique, les technologies <strong>de</strong> l‟information <strong>et</strong> les affaires. Il a par ailleurs limitéle type <strong>de</strong> questions à concevoir. <strong>Les</strong> rédacteurs volontaires ont été formés lors d‟ateliers. Leurs questions,rédigées à l‟ai<strong>de</strong> <strong>de</strong> modèles <strong>en</strong> Word, étai<strong>en</strong>t revues par les pairs <strong>et</strong> par les responsables du proj<strong>et</strong>.La conversion <strong>de</strong>s questions dans un format compatible avec les quatre <strong>en</strong>vironnem<strong>en</strong>ts d‟appr<strong>en</strong>tissage aété un défi. Le IMS Question and Test Interoperability (QTI) standard (IMS-QTI) a été choisi, mais il s‟estavéré que les plateformes n‟y étai<strong>en</strong>t pas totalem<strong>en</strong>t compatibles. <strong>Les</strong> questions d‟infrastructures <strong>et</strong>d‟interopérabilité qui peuv<strong>en</strong>t freiner <strong>de</strong> tels proj<strong>et</strong>s sont abordées plus <strong>en</strong> détail dans le rapport <strong>de</strong> la ItemBanks Infrastructure Study (IBIS), égalem<strong>en</strong>t financé par le JISC.<strong>Les</strong> exerciseurs par Intern<strong>et</strong> résultant du proj<strong>et</strong> COLA sont utilisables par les collèges écossais <strong>de</strong>puis2005. « Tutors who have used the assessm<strong>en</strong>ts regard them very highly » (JISC, 2006) <strong>et</strong> tant lesformateurs que les étudiants considèr<strong>en</strong>t leur usage bénéfique. Il semble que le proj<strong>et</strong> a égalem<strong>en</strong>t aidé àfaire connaître l‟évaluation <strong>en</strong> <strong>ligne</strong> <strong>et</strong> ses possibilités.2,12 <strong>Les</strong> simulationsLorsque <strong>de</strong>s logiciels <strong>de</strong> questionnaire automatisés perm<strong>et</strong>t<strong>en</strong>t l‟emploi d‟élém<strong>en</strong>ts multimédias à la foisdans les questions <strong>et</strong> dans les réponses, il peut <strong>de</strong>v<strong>en</strong>ir difficile <strong>de</strong> tracer une frontière <strong>en</strong>tre QCM <strong>et</strong>REFAD Pratiques <strong>et</strong> <strong>défis</strong> <strong>de</strong> l’évaluation <strong>en</strong> <strong>ligne</strong> 2011
- Page 1 and 2: Les pratiques et défis de l’éva
- Page 3 and 4: TABLE DES MATIÈRESSommaire .......
- Page 6 and 7: IntroductionAssessment is central t
- Page 8 and 9: Chapitre 1.Des facteurs de dévelop
- Page 10 and 11: 10comme ailleurs, on fait un consta
- Page 12 and 13: 12Des évaluations variéesRegardle
- Page 14 and 15: 141,26 La fréquence de la mesureRa
- Page 16 and 17: 161,3 Vers un alignementA good teac
- Page 18 and 19: 18Une histoire, quatre perspectives
- Page 20 and 21: 20de la recherche sous-jacente d‟
- Page 22 and 23: Chapitre 2.Des pratiques et modèle
- Page 24 and 25: 24Les QCM conventionnels ne sont to
- Page 26 and 27: 26Son utilisationJusqu‟au début
- Page 28 and 29: 28réordonner les questions et les
- Page 30 and 31: 30Dans de grands groupesL‟usage d
- Page 34 and 35: 34simulations. En effet, on peut al
- Page 36 and 37: 36le tuteur. Les nombreux outils ma
- Page 38 and 39: 382,22 Les cyberportfoliosIl me sem
- Page 40 and 41: 40Le portfolio comme activité d’
- Page 42 and 43: 42L’Option du blogueSonia Blouin
- Page 44 and 45: 44Des sites de logiciels comme Zuna
- Page 46 and 47: 46handicapé, l‟impact du daltoni
- Page 48 and 49: 48éventuellement à lui construire
- Page 50 and 51: 50Les étudiants complètent chaque
- Page 52 and 53: 52madame Blouin pour cette recherch
- Page 54 and 55: 54Le plagiatLa Commission de l‟é
- Page 56 and 57: 56• Une faible minorité d‟appr
- Page 58 and 59: 58Des recherchesPlusieurs études o
- Page 60 and 61: 6057,2 % d’entre eux vont encore
- Page 62 and 63: 62relevait des taux de tricherie de
- Page 64 and 65: 64parmi le groupe le plus à risque
- Page 66 and 67: 66journaux étudiants, dans la docu
- Page 68 and 69: 68La formation à la rechercheIl se
- Page 70 and 71: 70• demander l’analyse ou la cr
- Page 72 and 73: 72De façon générale, on estime q
- Page 74 and 75: 74• Le climat de non-confiance au
- Page 76 and 77: 76Grijalva et autres (2006) font é
- Page 78 and 79: 78En résumé : Des exercices sur l
- Page 80 and 81: 80168 Bunn, D. N., Caudill, S. B. e
- Page 82 and 83:
Chapitre 4.Des avantages et d’aut
- Page 84 and 85:
84l‟ouvrage et de s‟assurer que
- Page 86 and 87:
86réussissaient mieux l‟examen f
- Page 88 and 89:
88styles d‟apprentissage et perso
- Page 90 and 91:
90En résumé : Des exercices sur l
- Page 92 and 93:
ConclusionThe issue for e-assessmen
- Page 94 and 95:
ANNEXE : Un inventaire de logiciels
- Page 96 and 97:
96mots à partir d’un fichier au
- Page 98 and 99:
98Respondussecondaire, liés à des
- Page 100 and 101:
100CMapToolsComputerisedassessment
- Page 102 and 103:
102CopyTrackerLogiciel libre de dé
- Page 104 and 105:
Bibliographie 1Cette bibliographie
- Page 106 and 107:
106system that tutors as it assesse
- Page 108 and 109:
108http://www.matimtl.ca/ePortfolio