Dans La Formation de l’esprit scientifique, publié en 1938, Gaston Bachelard déplace la question de l’erreur. Il cherche les obstacles qui apparaissent dans l’acte même de connaître : une image familière, une explication satisfaisante, une habitude intellectuelle peuvent retenir la pensée. Ce que nous savons déjà nous aide à comprendre, mais peut aussi nous empêcher de formuler un problème nouveau. [1] [2]
L’obstacle épistémologique a quelque chose de dérangeant : il peut naître d’un savoir qui a été utile. Une réponse demeure, tandis que la question qui lui donnait son sens s’efface. On finit alors par prendre la familiarité d’une idée pour sa clarté. Apprendre demande de rendre nos connaissances à nouveau discutables, parfois de reprendre les concepts avec lesquels nous regardons. [1]
Ce déplacement fournit un point de départ pour examiner nos usages de l’intelligence artificielle. Le rapprochement qui suit est une lecture contemporaine, pas une théorie des modèles que Bachelard aurait formulée par avance. Il invite à regarder aussi celui qui évalue : ses attentes, son vocabulaire et ce qu’il accepte trop vite comme une preuve.
Ce qui nous convainc trop vite
Une démonstration réussie peut montrer qu’une tâche est réalisable. Pour décider si elle sera réalisable demain, dans d’autres conditions, il faut rendre visibles les choix qui ont conduit au résultat : exemples retenus, essais écartés, corrections humaines, outils disponibles. La fascination devient un obstacle lorsqu’elle nous détourne de ces questions. L’échec mérite alors autant d’attention que la séquence que l’on choisit de montrer.
Le vocabulaire demande la même vigilance. Dire qu’un modèle comprend ou raisonne peut être utile pour décrire une capacité. Encore faut-il préciser laquelle. Répond-il correctement à une question connue ? Résiste-t-il à une reformulation ? Peut-il vérifier sa réponse ? Le problème commence lorsqu’un mot tient lieu d’explication et nous fait attribuer à une réussite davantage que ce que l’épreuve permet d’établir.
Un score peut produire un effet analogue. Une décimale donne une impression de précision ; elle ne renseigne pas, à elle seule, sur la solidité de la mesure. Combien de cas ont été testés ? Comment ont-ils été choisis ? Le résultat varie-t-il d’une exécution à l’autre ? Avant de comparer deux nombres, il faut comprendre ce qui a été compté et ce qui a été laissé de côté.
Les données elles-mêmes participent à cette construction. Définir une catégorie, choisir un échantillon ou décider qu’une réponse est acceptable engage déjà une interprétation. Cela ne rend pas toute mesure arbitraire. Cela nous oblige à expliciter les choix qui la rendent possible, afin que d’autres puissent les examiner, les contester et refaire l’épreuve.
Garder la question ouverte
Prenons un assistant chargé de retrouver une information dans des documents. Une réponse bien écrite laisse encore plusieurs questions ouvertes : la référence existe-t-elle, soutient-elle réellement la réponse, et le système sait-il signaler une information absente ? Ces trois vérifications décrivent mieux le service attendu qu’une appréciation générale de son intelligence. Elles permettent aussi de préciser les erreurs que l’on cherche à éviter.
Cette lecture a une limite. Les catégories de Bachelard viennent d’une enquête sur la formation de la pensée scientifique ; elles ne constituent pas un protocole d’évaluation de l’IA. Une métaphore peut aider à chercher, une intuition peut ouvrir une piste. C’est lorsqu’elles cessent d’être interrogées qu’elles risquent de fermer l’enquête. Leur utilité dépend donc de la place qu’on leur donne.
La question à emporter est simple : qu’est-ce qui me ferait réviser mon jugement ? Si aucune observation ne peut modifier ma confiance dans un outil, mon évaluation est déjà refermée. Lire Bachelard peut aider à retrouver ce point d’ouverture : préciser la question, organiser la mise à l’épreuve, puis accepter que le résultat transforme ce que l’on croyait savoir.