Avec l’IA, le vrai danger est-il de ne plus réfléchir ?
Ils ont utilisé l’IA pour leur examen. Le vrai problème ? Ils n’ont même pas relu la réponse.
Une histoire récente, survenue dans une université américaine, m’a beaucoup fait réfléchir.
À Alcorn State University, dans le Mississippi, le professeur d’histoire Jason Gibson devait évaluer ses étudiants sur la Révolution industrielle et ses liens avec notre époque numérique.
Il soupçonnait certains d’entre eux de copier directement ses questions dans un chatbot d’intelligence artificielle avant de rendre la réponse générée.
Il a donc imaginé une expérience très simple.
Dans l’énoncé de son examen, il a inséré une instruction écrite en blanc sur fond blanc.
Invisible pour un étudiant lisant normalement la question.
Mais parfaitement présente lorsqu’on copie-colle tout le texte dans un outil d’IA.
L’instruction demandait au modèle d’introduire le mot « Madagascar » dans sa réponse d’une manière qui n’avait aucun sens.
Le résultat a été spectaculaire.
Sur 35 étudiants répartis dans deux classes, 32 ont rendu une réponse comportant cette étrange référence à Madagascar. Certaines phrases générées étaient totalement absurdes et sans aucun rapport avec la Révolution industrielle.
Le professeur a expliqué que les étudiants concernés avaient échoué à cette partie de l’examen. Son objectif, selon lui, n’était pas de les humilier, mais de rappeler les exigences d’intégrité académique.
Mais ce qui m’intéresse le plus dans cette histoire n’est pas la « triche ».
C’est autre chose.
Ils n’avaient apparemment même pas relu ce que l’IA avait écrit.
Utiliser l’IA n’est pas la même chose que lui déléguer sa pensée
Nous allons devoir faire une distinction de plus en plus importante dans l’éducation.
Il existe une grande différence entre :
utiliser une IA pour apprendre
et
utiliser une IA pour ne plus avoir à apprendre.
Un élève peut très bien demander à une IA :
« Je ne comprends pas pourquoi la Révolution industrielle a profondément transformé les villes. Peux-tu me l’expliquer avec un exemple ? »
Il peut ensuite poser une autre question.
Demander une contradiction.
Comparer l'explication avec son cours.
Chercher une source.
Reformuler l’idée dans ses propres mots.
Dans ce cas, l’IA devient un outil d’apprentissage.
Mais le processus peut aussi ressembler à ceci :
Copier la question → la coller dans ChatGPT → copier la réponse → rendre le devoir.
L’IA n’assiste alors plus la réflexion.
Elle la remplace.
Et c’est précisément ce que cette histoire rend visible.
Le détail qui me frappe : 32 étudiants
Ce chiffre est peut-être encore plus intéressant que la technique utilisée par le professeur.
32 sur 35.
Nous ne pouvons évidemment pas généraliser à partir d’une seule classe.
Mais cet épisode illustre un problème auquel les enseignants, les parents et les établissements commencent à être confrontés : l’IA générative permet aujourd’hui de produire en quelques secondes un devoir qui ressemble fortement à un travail intellectuel terminé.
La différence fondamentale est que le travail cognitif qui devrait précéder le texte peut ne jamais avoir eu lieu.
Un texte de deux pages apparaît.
Les phrases sont correctes.
Le vocabulaire est convenable.
L’argumentation paraît structurée.
Mais l’élève a-t-il compris ce qu'il vient de rendre ?
C’est devenu une question essentielle.
L’IA crée une illusion nouvelle : le produit existe sans le processus
Pendant longtemps, un professeur pouvait raisonnablement supposer qu’un élève ayant produit une dissertation relativement cohérente avait au moins réalisé une partie du travail nécessaire pour l’écrire.
Lire.
Chercher.
Comparer.
Organiser ses idées.
Écrire.
Corriger.
Avec les LLM, cette relation entre le résultat visible et l’effort intellectuel qui l’a produit s’est rompue.
On peut désormais obtenir le résultat sans passer par la plupart des étapes.
C’est probablement l’une des transformations les plus importantes introduites par l’IA dans l’éducation.
Et elle nous oblige à réfléchir à ce que nous voulons réellement évaluer.
Le document final ?
Ou la capacité à raisonner pour arriver jusqu’à ce document ?
La réponse ne peut probablement pas être : « Interdisons ChatGPT »
Cette réaction est compréhensible.
Elle me paraît néanmoins difficilement tenable sur le long terme.
Ces outils vont être intégrés aux moteurs de recherche, aux suites bureautiques, aux logiciels de programmation, aux téléphones et, progressivement, à presque tous nos environnements numériques.
Nos enfants travailleront probablement dans un monde où utiliser une IA sera aussi banal qu’utiliser aujourd’hui un moteur de recherche.
La compétence à développer ne peut donc pas simplement être :
« Savoir travailler sans IA. »
Elle doit aussi devenir :
« Savoir travailler intelligemment avec une IA. »
Et ce n’est pas du tout la même chose que savoir écrire un prompt.
La compétence fondamentale : rester dans la boucle
Quand j’utilise une IA, j’essaie de rester présente à chaque étape importante.
Je lis ce qu’elle produit.
Je l’interroge.
Je lui demande parfois pourquoi elle arrive à une conclusion.
Je vérifie certains faits.
Je corrige.
Je supprime.
Je reformule.
Je lui demande de défendre l’opinion inverse.
Et surtout : je garde la responsabilité de la réponse finale.
C’est cela que j’aimerais apprendre aux jeunes.
L’IA peut être dans la boucle.
Mais l’humain doit y rester aussi.
On pourrait résumer un bon usage ainsi :
Question → réflexion personnelle → interaction avec l’IA → vérification → correction → réponse finale
et non :
Question → IA → copier-coller.
Apprendre à vérifier devient aussi important qu’apprendre à chercher
Nous avons passé des années à apprendre aux enfants à rechercher de l’information sur Internet.
Aujourd’hui apparaît une compétence supplémentaire :
évaluer une réponse déjà formulée.
C’est parfois plus difficile.
Face à une page de résultats Google, nous voyons plusieurs sources.
Face à un chatbot, nous recevons directement une réponse fluide et convaincante.
Cette fluidité peut créer une illusion d’autorité.
Pourtant, une phrase parfaitement écrite peut être fausse.
Une référence peut ne pas exister.
Un raisonnement peut contenir une erreur.
Une IA peut même suivre une instruction absurde cachée dans un texte — exactement comme dans l’expérience de Jason Gibson.
Le réflexe essentiel devient donc :
« Est-ce que cette réponse a du sens ? »
Une question extraordinairement simple.
Et pourtant, 32 étudiants semblent avoir oublié de se la poser.
Et si nous changions aussi la façon d’évaluer ?
Cette histoire pose également une question aux enseignants.
Si une dissertation peut être générée instantanément, peut-être faut-il parfois évaluer davantage le processus.
On pourrait demander à un étudiant de fournir :
son raisonnement initial ;
les questions qu’il a posées à l’IA ;
les réponses qu’il a rejetées ;
les informations qu’il a vérifiées ;
les corrections qu’il a apportées ;
ce qu’il pense que l’IA a mal compris.
On pourrait également demander :
Quelle partie de cette réponse vous a demandé le plus de réflexion ?
Ou :
Sur quel point n’êtes-vous pas d’accord avec l’IA ?
Ou encore :
Quelle source avez-vous utilisée pour vérifier cette affirmation ?
Tout à coup, utiliser ChatGPT ne permet plus de contourner le travail.
L’utilisation de ChatGPT devient elle-même un objet de réflexion.
Une compétence que les parents peuvent déjà transmettre
Il n’est pas nécessaire d'être enseignant ou spécialiste de l’intelligence artificielle.
Lorsqu'un enfant utilise un chatbot pour ses devoirs, quelques questions peuvent suffire :
« Est-ce que tu comprends la réponse ? »
« Qu'est-ce que tu avais trouvé toi-même avant de demander à l'IA ? »
« Comment sais-tu que cette information est vraie ? »
« Y a-t-il quelque chose dans la réponse qui te semble étrange ? »
« Comment l'expliquerais-tu maintenant avec tes propres mots ? »
Ce sont de petites questions.
Mais elles replacent immédiatement l’enfant dans le processus intellectuel.
L’IA comme copilote, pas comme pilote automatique
J’utilise souvent la métaphore du copilote.
Un bon copilote aide.
Il suggère.
Il vérifie.
Il peut signaler quelque chose que nous n’avions pas vu.
Mais nous ne quittons pas le cockpit.
Avec les outils actuels, il est extrêmement tentant de passer en pilote automatique.
Et c’est peut-être cela que l’histoire de Madagascar nous apprend.
Le problème n’est pas seulement que des étudiants aient demandé à une IA de travailler à leur place.
Le plus inquiétant est qu’ils semblent lui avoir accordé suffisamment de confiance pour remettre une réponse contenant des phrases manifestement absurdes.
Ils avaient externalisé l’écriture.
Puis, semble-t-il, la vérification.
Et finalement leur propre jugement.
Ce que nous devrions enseigner à nos enfants
Dans les prochaines années, savoir utiliser l’intelligence artificielle deviendra probablement une compétence ordinaire.
La véritable différence se fera ailleurs.
Entre ceux qui accepteront immédiatement une réponse parce qu’elle est bien formulée…
et ceux qui continueront à demander :
Est-ce vrai ?
Est-ce pertinent ?
Est-ce que je comprends ?
Qu'est-ce qui manque ?
Et qu'est-ce que j'en pense, moi ?
Le défi éducatif n’est donc peut-être pas de maintenir l’IA hors de la classe.
Il est de faire en sorte que, lorsque l’IA entre dans la classe, la pensée critique n’en sorte pas.
Commentaires