Un livre sur les champignons de la région de Saskatchewan (Canada), autrefois publié sur Amazon, aurait pu devenir un guide mortel s’il avait été suivi à la lettre.

L’affaire n’a été révélée qu’après que Donovan Thiesson, spécialiste en mycologie, a découvert le problème et lancé l’alerte. Le livre recommandait aux lecteurs d’identifier les champignons à partir de leur « odeur et de leur goût » — une pratique extrêmement dangereuse, car goûter ne serait-ce qu’une infime quantité d’un champignon mortel peut provoquer une insuffisance hépatique aiguë et entraîner la mort. Il a ensuite été établi que l’ouvrage avait été rédigé par une IA.

C’est l’un des exemples les plus inquiétants de la superficialité de l’information à l’ère de l’intelligence artificielle, où auteurs et équipes éditoriales peuvent commettre des erreurs tant dans leur réflexion que dans leurs actions.

Une étude menée par des chercheurs de l’ Université de Californie, Berkeley et de Cornell University montre que l’IA est un outil extrêmement efficace pour accroître la quantité de recherches produites, mais pas nécessairement leur qualité. En analysant plus de deux millions de manuscrits publiés entre 2018 et mi-2024 sur les plateformes de prépublication arXiv, bioRxiv et SSRN, les chercheurs ont constaté que les utilisateurs de l’IA pouvaient augmenter leur production scientifique de 50 %, voire près de 90 % dans les domaines de la biologie et des sciences sociales.

Le problème est que nombre de ces travaux sont bien présentés, complexes et donnent une apparence très scientifique, tout en étant de moindre qualité et moins susceptibles de réussir l’évaluation par les pairs. Cet afflux de manuscrits surcharge les systèmes d’évaluation, oblige les relecteurs, les experts et les organismes de financement à consacrer davantage d’efforts pour identifier les travaux réellement novateurs. L’IA crée ainsi un défi : distinguer la qualité authentique au milieu d’une masse de productions très convaincantes en apparence.

Dans mon propre travail, j’observe un phénomène similaire à une échelle plus modeste. Je reçois de plus en plus de rapports soigneusement présentés, saturés de mots-clés spécialisés. Même un nouvel employé peut désormais préparer un discours aussi éloquent que celui d’un expert. Pourtant, lorsqu’on approfondit la discussion, il apparaît souvent que l’auteur ou l’orateur ne maîtrise pas réellement le sujet.

Derrière cette maîtrise apparente de l’IA se cache un problème préoccupant : l’« illusion de compréhension » — croire que l’on sait alors qu’en réalité on ne comprend pas ou presque rien.

Les réponses rapides et faciles fournies par l’IA à presque toutes les questions brouillent la frontière entre « posséder une information » et « posséder une compréhension ». Une explication fluide donne l’impression d’avoir compris. Un bon résumé donne l’impression d’avoir lu le livre. Un texte reformulé avec élégance donne l’impression de disposer d’un raisonnement solide. Pourtant, dans bien des cas, nous ne possédons que la surface du savoir, et non sa profondeur.

La raison est simple : le cerveau humain ne fonctionne pas comme un simple dispositif de lecture-écriture. La connaissance ne se construit pas uniquement par la réception et la mémorisation de réponses. Elle résulte d’un processus plus lent et complexe : lire, douter, comparer, reformuler avec ses propres mots. C’est un travail intellectuel discret, exigeant et rarement immédiat dans ses résultats. Mais c’est précisément ce processus qui forge la compréhension, qui permet de saisir le « pourquoi » plutôt que de se contenter du « quoi ».

Cette illusion de compréhension favorisée par l’IA est-elle dangereuse ?

Comme souvent, ce qui s’obtient facilement s’ancre difficilement dans la mémoire. Une information obtenue en un clic procure une satisfaction immédiate sans forcément nourrir la curiosité. C’est particulièrement vrai lorsque le besoin d’information vient de l’extérieur — une demande d’un supérieur, d’un enseignant — plutôt que d’une motivation personnelle.

Ce risque concerne tout le monde, mais il est particulièrement important pour les jeunes, qui ont besoin d’une période de construction des bases intellectuelles. Or, la concurrence future s’annonce extrêmement intense.

Pour une personne disposant déjà de solides fondations, l’IA peut aider à élargir la réflexion, tester des hypothèses et accroître la productivité. Un rapport de McKinsey & Company publié en 2025, intitulé Superagency in the Workplace: Empowering People to Unlock AI’s Full Potential, souligne que les professionnels expérimentés (35 à 44 ans) sont les plus optimistes et les plus confiants face à la révolution de l’IA. Après des années d’expérience, ils ont accumulé un capital de connaissances leur permettant de devenir experts dans leur domaine et dans la compréhension du monde social. Pour eux, l’IA est un assistant idéal chargé des tâches courantes.

Mais pour ceux qui apprennent encore à penser, un outil trop puissant peut devenir une béquille utilisée trop tôt.

Le marché du travail de demain ne manquera pas de personnes sachant utiliser l’IA. Résumer, rédiger des brouillons, créer des tableaux, traduire ou générer des idées deviendra de plus en plus banal et peu coûteux. Ce dont les entreprises auront davantage besoin, ce sont des personnes capables d’évaluer, de poser les bonnes questions, de relier la technologie aux réalités économiques, sociales et humaines. Les produits de demain auront peut-être moins la perfection mécanique des machines, mais davantage l’empreinte des compétences humaines.

On observe déjà une tendance au ralentissement des recrutements de jeunes talents. À leur place, de nombreuses organisations préfèrent fournir un assistant IA à des employés expérimentés afin qu’ils puissent accomplir deux ou trois fois plus de travail qu’auparavant. À court terme, cette stratégie réduit les coûts et améliore l’efficacité.

Cependant, un « vide de compétences » pourrait apparaître lorsque les travailleurs expérimentés quitteront le marché du travail, tandis que les jeunes n’auront pas eu l’occasion d’apprendre progressivement, de commettre des erreurs et de se développer. La pression concurrentielle rendra les portes d’entrée plus étroites et les exigences plus élevées. Dans un tel contexte, il n’y aura aucune place pour l’illusion du « je sais tout ».

En 2002, lors d’une conférence de presse du ministère américain de la Défense consacrée à la sécurité nationale, le secrétaire à la Défense de l’époque, Donald Rumsfeld, évoqua différentes catégories d’information et de connaissance, devenues célèbres sous le nom de « matrice de Rumsfeld » :

• Known Knowns (ce que nous savons que nous savons) : faits établis et données vérifiées.
• Known Unknowns (ce que nous savons que nous ne savons pas) : questions dont nous connaissons l’existence mais que nous ne comprenons pas encore.
• Unknown Knowns (ce que nous ne savons pas que nous savons) : connaissances implicites ou oubliées.
• Unknown Unknowns (ce que nous ne savons pas que nous ignorons) : événements imprévus échappant à toute expérience ou prévision.
  
  

Les deux premières catégories — savoir ce que l’on sait et savoir ce que l’on ignore — constituent un point de départ essentiel dans l’acquisition des connaissances. Elles permettent d’explorer progressivement la zone la plus incertaine et imprévisible : celle des inconnues. En termes plus simples, selon un proverbe vietnamien, « connaître les autres et se connaître soi-même » est la base de la curiosité et de la découverte.

L’IA peut nous aider à avancer plus vite, mais elle ne peut pas parcourir à notre place le chemin de la maturité intellectuelle. Une société remplie de réponses instantanées n’est pas nécessairement une société plus sage. Ce qu’il faut préserver à l’ère de l’IA généralisée, ce n’est pas la lenteur en elle-même, mais l’équilibre entre réflexion, exploration, pression de la vitesse et qualité du résultat. Si nous perdons ce processus exigeant, nous risquons de nous retrouver face à un paradoxe : une abondance de réponses dénuées de sens et une pénurie de questions pertinentes.

Le monde aura toujours besoin de personnes capables de poser les bonnes questions pour aller plus loin, approfondir leur compréhension et découvrir de nouveaux savoirs.

Lê Vũ Minh