Une équipe prend du retard. Pour rattraper le calendrier, elle accélère les opérations, réduit les vérifications et reporte certaines tâches jugées secondaires. Pendant quelques jours, la situation semble s’améliorer.
Puis apparaissent les erreurs, les reprises, les malentendus. Le travail supplémentaire absorbe le temps gagné. Le retard s’accroît. La réponse paraît évidente : il faut accélérer davantage.
Le remède participe désormais au problème.
Ce mécanisme se retrouve sous des formes très différentes dans les entreprises, les écosystèmes, les politiques publiques ou nos propres habitudes. Nous intervenons sur une situation, obtenons un résultat immédiat, puis découvrons que notre intervention a modifié les conditions qui avaient rendu cette situation possible.
Ce n’est pas nécessairement une erreur de raisonnement individuelle. C’est parfois une erreur de perspective.
Nous avons regardé un événement là où il fallait observer un système.
Le monde n’est pas une collection de problèmes indépendants
Dans Thinking in Systems, Donella Meadows propose de changer notre manière de regarder le réel. [1]
Un système n’est pas simplement un ensemble d’éléments. C’est un ensemble d’éléments reliés entre eux, organisé de manière à produire un certain comportement.
Une forêt, une économie, un navire, une organisation ou une ville peuvent être étudiés comme des systèmes. Ce qui les caractérise ne réside pas seulement dans leurs composants, mais dans leurs relations, leurs mécanismes de régulation et leur fonctionnement d’ensemble.
Considérons une entreprise qui connaît des retards chroniques.
Nous pourrions incriminer le manque de personnel, un outil informatique inadapté ou des collaborateurs insuffisamment organisés. Ces facteurs peuvent être réels. Mais ils n’expliquent pas nécessairement pourquoi les retards persistent.
Il faut peut-être chercher ailleurs : dans la manière dont les engagements sont pris, dont les priorités sont modifiées, dont les informations circulent, ou dans les incitations qui conduisent chacun à accepter davantage de travail que l’organisation ne peut raisonnablement en absorber.
Les individus peuvent agir rationnellement à leur échelle tout en contribuant à un résultat collectivement défavorable.
C’est l’une des intuitions importantes de la pensée systémique : un comportement problématique peut naître d’une structure parfaitement ordinaire, sans qu’aucun de ses participants ne cherche à le produire.
Changer les personnes ne suffit donc pas toujours. Il faut parfois changer les relations entre elles, les règles qu’elles suivent ou les objectifs qu’elles poursuivent.
Les boucles invisibles
Notre intuition fonctionne relativement bien face à des relations simples : une cause, un effet.
Mais les systèmes sont rarement linéaires.
Une action produit un résultat, qui modifie à son tour les conditions de l’action suivante. L’effet revient influencer sa propre cause. C’est ce qu’on appelle une boucle de rétroaction.
Certaines boucles renforcent une évolution.
Plus une technologie est adoptée, plus il peut devenir intéressant de développer des services compatibles avec elle. Ces services augmentent son utilité, ce qui favorise de nouvelles adoptions.
D’autres boucles cherchent à maintenir un équilibre.
Un thermostat mesure la température, compare cette mesure à une consigne, puis active ou désactive le chauffage. Le système réagit à l’écart entre son état et l’état souhaité.
Les deux mécanismes sont indispensables. Mais leur interaction peut produire des comportements difficiles à anticiper.
Prenons une ressource naturelle renouvelable, comme une population de poissons.
Lorsque les prises augmentent, les revenus des pêcheurs peuvent progresser. Ces revenus permettent d’investir dans des équipements plus performants, qui augmentent encore la capacité de pêche.
Si les prélèvements dépassent durablement la capacité de renouvellement de la population, la ressource décline. Les prises peuvent alors diminuer malgré des moyens techniques toujours plus importants.
Chaque acteur a pu chercher à améliorer sa situation. Pourtant, le système dans son ensemble s’est appauvri.
L’erreur serait de ne regarder que la quantité pêchée cette année, sans observer l’évolution de la population de poissons dont dépendent les captures futures.
Meadows distingue ici deux réalités fondamentales : les stocks, qui s’accumulent ou se vident, et les flux, qui les alimentent ou les diminuent. [2]
Cette distinction dépasse largement l’écologie.
Les connaissances, la confiance, les dettes, les compétences, les ressources matérielles ou les tâches en attente peuvent également être pensées comme des stocks. Ils possèdent une histoire, une inertie, parfois un seuil au-delà duquel leur reconstitution devient difficile.
Nous avons tendance à regarder ce qui entre et ce qui sort. Plus rarement ce qui s’accumule entre les deux.
Pourquoi les bonnes intentions ne suffisent pas
Une seconde difficulté tient au temps.
Nous raisonnons spontanément à partir de ce qui se produit immédiatement après une décision. Pourtant, un système peut répondre avec plusieurs jours, plusieurs années ou plusieurs générations de retard.
Une politique peut sembler efficace avant que ses effets secondaires n’apparaissent. Une organisation peut améliorer ses résultats à court terme en consommant progressivement ses réserves de compétence, de confiance ou de résilience.
Le problème devient plus subtil lorsque les indicateurs de réussite masquent cette évolution.
Imaginons un service dont l’objectif officiel est de résoudre les demandes des utilisateurs. Pour améliorer sa performance, on décide de mesurer le nombre de dossiers clôturés par jour.
Les chiffres progressent.
Mais si les équipes sont incitées à privilégier les dossiers faciles, à fermer prématurément certaines demandes ou à reporter les problèmes complexes, la mesure peut finir par déformer le travail qu’elle était censée améliorer.
L’indicateur continue d’augmenter tandis que la qualité réelle du service se dégrade.
Meadows décrit ce type de situation comme l’un des pièges possibles des systèmes : poursuivre un mauvais objectif. [1]
Un système tend à produire les comportements que ses règles et ses incitations favorisent, même lorsque ces comportements contredisent les intentions affichées.
Il existe ainsi une différence fondamentale entre ce que nous déclarons vouloir et ce que notre organisation encourage effectivement.
Pour comprendre cette différence, il ne suffit pas de lire les objectifs. Il faut observer les comportements dans le temps.
Là où il faut intervenir
L’une des contributions les plus fécondes de Meadows est sa réflexion sur les points de levier : les endroits où une intervention peut modifier le fonctionnement d’un système. [3]
Nous cherchons souvent à agir sur ce qui est immédiatement visible et mesurable : un budget, un taux, une capacité, un délai, un effectif.
Ces paramètres comptent. Mais ils ne sont pas toujours les leviers les plus puissants.
Modifier la circulation de l’information peut parfois transformer les comportements sans modifier les ressources disponibles.
Changer une règle peut produire davantage d’effets que multiplier les contrôles.
Revoir l’objectif poursuivi peut rendre inutiles des années d’optimisation.
Et changer notre représentation même du problème peut ouvrir des possibilités que nous ne pouvions pas envisager auparavant.
Imaginons une organisation confrontée à une surcharge chronique.
Elle pourrait augmenter les ressources, recruter ou accélérer les processus. Ces solutions peuvent être nécessaires.
Mais elle pourrait aussi rendre visibles les capacités réellement disponibles, modifier les conditions dans lesquelles de nouveaux engagements sont acceptés, ou cesser de considérer l’utilisation maximale des ressources comme le principal signe d’efficacité.
Dans le premier cas, on tente d’absorber davantage de travail.
Dans le second, on intervient sur le mécanisme qui produit la surcharge.
Il ne s’agit pas de prétendre que les interventions structurelles sont toujours simples ou préférables. Elles peuvent être coûteuses, difficiles à mettre en œuvre et produire leurs propres effets inattendus.
L’intérêt de la pensée systémique est ailleurs : elle élargit l’éventail des interventions possibles.
Et si l’intelligence artificielle amplifiait nos systèmes ?
Cette réflexion prend une dimension particulière avec l’intelligence artificielle.
Nous développons des outils capables de produire des documents, d’analyser des informations, de coordonner des tâches et, progressivement, d’agir dans des environnements numériques.
La promesse est souvent formulée en termes de productivité : accomplir plus de tâches, plus rapidement, avec moins d’effort.
Mais que se passe-t-il lorsque nous introduisons ces capacités dans une organisation dont les mécanismes restent inchangés ?
Un système capable de produire dix fois plus rapidement des rapports peut simplement conduire à demander dix fois plus de rapports.
Une automatisation qui accélère le traitement des demandes peut augmenter le nombre de demandes créées.
Un agent chargé d’optimiser une mesure particulière peut améliorer cette mesure au détriment de dimensions absentes de son objectif.
Ces conséquences ne sont pas inévitables. Elles constituent néanmoins des hypothèses qu’il faut examiner dès la conception.
L’important n’est donc pas seulement de demander ce qu’un système d’IA sait faire.
Il faut aussi comprendre quels comportements son introduction risque de renforcer, quelles dépendances elle peut créer et quelles capacités humaines elle pourrait progressivement affaiblir.
Une intelligence artificielle capable d’optimiser un processus n’est pas nécessairement capable de déterminer si ce processus mérite d’être optimisé.
Cette distinction est essentielle.
L’augmentation de notre capacité d’action ne garantit pas une meilleure compréhension de ce sur quoi nous agissons. Elle peut même amplifier les conséquences de nos erreurs de représentation.
Plus les outils deviennent puissants, plus la qualité des objectifs, des règles et des mécanismes de retour d’information devient importante.
Apprendre à voir avant de vouloir contrôler
La pensée systémique n’offre pas une méthode universelle pour résoudre les problèmes.
C’est précisément ce qui fait sa valeur.
Elle nous invite à reconnaître que nos représentations sont incomplètes, que les systèmes évoluent et que leurs réponses à nos interventions peuvent nous surprendre.
Elle recommande d’observer les comportements dans la durée, de rendre explicites nos hypothèses, de chercher les informations manquantes et de rester attentifs aux conséquences imprévues.
Il ne s’agit pas de transformer chaque situation en diagramme compliqué.
Il s’agit de développer quelques réflexes.
Lorsqu’un problème revient, se demander ce qui le reproduit.
Lorsqu’une solution paraît évidente, examiner ce qu’elle pourrait renforcer ou affaiblir.
Lorsqu’un indicateur s’améliore, vérifier ce qui s’est réellement amélioré.
Lorsqu’un système devient plus efficace, se demander s’il devient aussi plus résilient.
Et lorsque nous pensons avoir identifié la cause d’un phénomène, considérer la possibilité qu’elle soit elle-même la conséquence d’autre chose.
Il existe une forme de modestie intellectuelle dans cette démarche.
Nous ne sommes jamais entièrement extérieurs aux systèmes que nous cherchons à comprendre. Nos décisions, nos instruments de mesure et nos tentatives de correction en modifient le fonctionnement.
La question n’est donc pas seulement de savoir comment agir sur le monde.
Elle est aussi de comprendre comment le monde répond à nos actions.
Avant de chercher une meilleure solution, il faudrait peut-être apprendre à reconnaître ce qui rend le problème si facile à reproduire.
Pour prolonger la réflexion
Donella H. Meadows, Thinking in Systems: A Primer, édité par Diana Wright, Chelsea Green Publishing, 2008. [1]
L’ouvrage constitue une introduction majeure à la pensée systémique : stocks et flux, boucles de rétroaction, délais, résilience, pièges systémiques et points de levier. La discussion sur l’intelligence artificielle est un prolongement contemporain de ces concepts, et non un sujet traité directement par Meadows.