1ère partie – Elles ne réfléchissent pas toutes de la même façon.
Dans cette première partie, nous allons voir, ou revoir, ce qui est indispensable de comprendre ou savoir sur les IA avant de pouvoir répondre à la question posée dans le titre dans une deuxième partie qui sera publiée dans une semaine.
Nous nous posons tous des questions, aussi bien philosophiques que très techniques, sur l’utilisation de l’IA. Pour ma part, j’utilise Mistral car je suis chauvin et qu’il faut soutenir l’effort de souveraineté. Il y a des jours où le résultat que produit mon IA me bluffe par son résultat sur une question ou un problème qui me paraissait compliqué. Et puis, dans l’heure qui suit, je tombe de ma chaise tellement sa réponse peut être stupide ou complètement erronée sur une question à laquelle aurait répondu facilement un enfant de 10 ans ou une simple recherche Google. D’où peuvent bien provenir ces écarts ? Si la réponse de mon IA me fait douter, est-ce que je dois suivre ce qu’elle me dit, ou est-ce que je fais confiance à mon intuition ou à mon propre processus de réflexion ?
Le livre « Faut-il encore décider ? La décision à l’heure de l’intelligence artificielle[1] » sortie récemment en librairie, apporte des réponses et des réflexions sur ces deux questions très différentes. Il est écrit à quatre mains : d’une part, Olivier Sibony, professeur à HEC qui a publié de nombreux ouvrages sur le processus de décision ; je l’avais découvert lors de mes propres travaux sur le management de la complexité ; d’autre part, Éric Hazan, dirigeant d’un fonds d’investissement, enseignant à HEC et à Sciences Po, qui a publié plusieurs ouvrages sur la transformation digitale et l’IA.
Je vous conseille cet ouvrage rapide et facile à lire malgré la profondeur de la réflexion et les aspects techniques qui expliquent le fonctionnement des IA. Des IA, le des est important car il n’y a pas un type d’IA, mais plusieurs. En pleine période de bac de français, résumé…
Avant de résumer, je reviens rapidement sur quelques basiques qu’il me semble fondamental de garder en tête : l’IA n’est pas intelligente, l’IA ne pense pas, l’IA n’est que mathématique, science de la probabilité et puissance de calcul gigantesque. L’IA est créée (pour le moment…) par l’homme et n’est que le miroir de ses qualités et de ses défauts ; il est acquis que les IA ont les mêmes biais que leurs créateurs. On se souvient du débat sur la question de savoir si ChatGPT était « woke » ou pas. N’oublions pas que les IA ont besoin d’un volume considérable de données pour espérer atteindre un niveau de fiabilité acceptable et nous garantir un faible niveau d’erreur.
Avant de savoir s’il faut retenir la décision proposée par l’IA ou pas, il faut savoir de quelle IA on parle. Pourquoi l’IA peut-elle faire des erreurs stupides ? Les auteurs apportent une réponse qui m’a tout autant étonné que convaincu : « Il faut revenir à l’idée fondatrice de l’IA, qui est de faire réfléchir des machines à la manière des humains. ». Les premiers travaux des petits génies de l’IA ont été inspirés des recherches du prix Nobel d’économie 2002 Daniel Kahneman (1934-2024). Ses travaux menés au cours des années 1970-1980 ont permis des avancées majeures dans la compréhension du fonctionnement de notre cerveau. Dans son livre Système 1 / système 2, les deux vitesses de la pensée[2], il explique comment notre cerveau travaille. Schématiquement, le système 1 est celui du fonctionnement réflexe, celui qui réagit instantanément à toute sollicitation en s’appuyant sur l’intuition et l’expérience. Le système 2 est celui de la réflexion volontaire qui utilise principalement la logique et le fruit de nos savoir-faire, qu’ils soient manuels ou intellectuels. Système 1 est rapide, Système 2 est lent et paresseux ; il ne démarre que si on le lui demande et cela demande un effort conscient. Système 2 a tendance à laisser travailler Système 1 sans toujours très bien le contrôler. Au fil de 30 ans d’avancées techniques, et surtout du développement récent des puissances de calcul, les « réseaux de neurones », base technique d’un certain type d’IA, s’inspirent du fonctionnement du Système 1. « Ils apprennent de manière rapide, automatique et associative, sans avoir besoin de règles explicites. Il se forge une sorte d’intuition fondée sur la statistique ». Ce que l’on appelle les LLM (Large Language Model) génèrent leur réponse en choisissant, après chaque ensemble de mots, celui qui a la plus forte probabilité d’occurrence.
Ce type d’IA est dit « connexionniste ». « Les LLM nous ébahissent par leurs capacités à mener une conversation avec nous sur n’importe quel sujet (…) à reconnaître et à produire des images et plus généralement à s’acquitter avec fluidité des tâches qui nous semblaient encore récemment inaccessibles à une machine. En revanche, il est souvent impossible, même pour des spécialistes, de comprendre comment elles arrivent à leur conclusion. Celles-ci varient d’ailleurs souvent si on leur pose la même question plusieurs fois. ». Ces IA sont donc celles qui sont utilisées quand il s’agit de travailler sur des mots, des images et des sons. Elles ne « raisonnent » pas au sens classique du terme mais se forgent une sorte d’intuition fondée sur la statistique.
Le second type d’IA est dit « symbolique » ou GOFAI (good old-fashioned artificial intelligence). Ce type de système réplique, à force de règles et de symboles, la manière humaine de résoudre un problème. C’est une tentative d’imitation du fonctionnement de notre Système 2. À partir de la succession infinie de règles de base, l’intelligence n’est ici rien d’autre que le résultat d’un puissant calcul itératif. Partout où il faut se conformer rigoureusement à une logique prédéterminée, ces systèmes restent indispensables. C’est le domaine des robots et des systèmes automatiques de pilotage. La limite de ces systèmes est connue, illustrée par certains farceurs qui se déguisent en panneau « Stop » pour arrêter un véhicule autonome. On ne sait pas aujourd’hui comment apprendre à la machine à décider avec toute la fiabilité nécessaire si ce panneau « Stop » est un vrai ou une farce alors que c’est simplissime pour un candidat au permis de conduire. C’est là que certaines erreurs de ce type d’IA nous paraissent totalement stupides.
Nous avons donc face à nous deux types d’IA au fonctionnement totalement opposé ; les unes sont rigides, les autres sont flexibles. L’exemple de ce qui s’est passé à San Francisco il y a deux mois est intéressant. Alors que la ville était sous des trombes d’eau depuis plusieurs heures et que les rues étaient inondées, les taxis autonomes qui pullulent dans cette ville se sont arrêtés. Au propre comme au figuré, ils se sont noyés car leur compréhension de la situation extérieure ne correspondait à aucune des règles apprises. Au-delà des sourires narquois des réseaux sociaux se moquant des taxis arrêtés au milieu de carrefours avec les portes fermées empêchant les clients de sortir pour « raison de sécurité », l’exemple permet de mieux comprendre les limites des IA que l’on utilise. En comprenant cela, on pourrait se dire qu’en mixant les deux logiques, une fois que l’IA « symbolique » du taxi autonome serait arrivée à la limite de sa compréhension, elle aurait pu utiliser une autre IA « connexionniste » sur base de réseau de neurones pour comprendre « simplement » qu’il pleuvait vraiment trop pour continuer en toute sécurité. Elle aurait alors proposé à la première de se trouver une solution de sécurité autre que de s’arrêter là où il était. Cette connexion que nous faisons quelquefois avec difficulté entre nos propres Système 1 et Système 2 est un défi qui est loin d’être résolu par nos petits génies de l’IA et qui fait douter aujourd’hui les plus grands, comme Sam Altman de la possibilité, à horizon visible, d’avoir des véhicules totalement autonomes avec un niveau acceptable de fiabilité.
Ceux qui ont entendu parler de cet exemple des taxis autonomes de San Francisco savent que les taxis autonomes de la seconde flotte autorisée à circuler à San Francisco ne se sont pas arrêtés. Il ne faut surtout pas penser qu’ils étaient plus fiables pour circuler dans des conditions extrêmes où quasiment plus aucun véhicule ne circulait ; le curseur « risque » n’avait simplement pas été positionné de la même façon dans les règles édictées de l’IA embarquée. Cela ouvre le débat de qui et comment est décidé le niveau de risque acceptable, comment lui faire confiance ? Nous n’avons pas tous la même perception de ce risque (n’est-ce pas JD ?).
Cela nous amène au processus de décision du manager et du dirigeant. Savoir s’il peut suivre ce que lui propose son IA dépend d’abord de savoir comment travaille son IA. Suivant le problème posé, on comprend assez bien que les différents types d’IA ne vont pas travailler de la même façon. De plus, une même IA peut donner deux réponses très différentes à une même question ; cela peut être déstabilisant, mais n’est-ce pas le cas tous les jours quand deux collaborateurs proposent deux approches différentes à un même problème ? On va alors demander à chacun d’expliquer son raisonnement et tenter de déceler tel ou tel manque, telle ou telle erreur de raisonnement, tel ou tel risque ou avantage de chacune des solutions proposées. Ce dialogue est aujourd’hui impossible avec nos IA. La plupart semblent d’ailleurs programmées pour nous donner raison : si vous ne l’avez jamais fait, faites le test : « Es-tu sûr de ta réponse ? » ou « Je ne suis pas d’accord avec le résultat, peux-tu expliquer ? ». Il y a alors de fortes chances que les réponses proposées installent le doute dans votre tête sur la qualité des IA. Par contre, si l’on a compris les capacités de chacune, leur valeur ajoutée, leurs défauts et limites, on sera bien plus à l’aise dans les décisions à prendre suite à leurs réponses. Finalement, est-ce bien différent de la connexion avec nos collaborateurs ou nos pairs ?
Maintenant que nous avons rappelé quelques fondamentaux et que la première partie du livre nous a éclairé sur les différents fonctionnements des IA, la question est de savoir comment faire évoluer nos processus de décision grâce ou avec l’IA ? Quelles décisions, dans quelles limites, peut-on confier nos décisions à l’IA ? Quand interdire à l’IA de décider ? Comment partager notre système de valeurs avec l’IA ? Rendez-vous la semaine prochaine pour la suite de cet article.
En attendant, si vous vous posez ces questions, commandez et lisez « Faut-il encore décider ? », c’est passionnant.
[2] Système 1 / Système 2, les deux vitesses de la pensée. Flammarion 2012
Partager sur
Revenir à tous les articles
Retour en haut
Nous utilisons des cookies pour vous garantir la meilleure expérience sur notre site web. Si vous continuez à utiliser ce site, nous supposerons que vous en êtes satisfait.
Blog
Réfléchir au-delà de la pensée dominante.
IA, qui décide ? Elle ou nous ?
1ère partie – Elles ne réfléchissent pas toutes de la même façon.
Dans cette première partie, nous allons voir, ou revoir, ce qui est indispensable de comprendre ou savoir sur les IA avant de pouvoir répondre à la question posée dans le titre dans une deuxième partie qui sera publiée dans une semaine.
Nous nous posons tous des questions, aussi bien philosophiques que très techniques, sur l’utilisation de l’IA. Pour ma part, j’utilise Mistral car je suis chauvin et qu’il faut soutenir l’effort de souveraineté. Il y a des jours où le résultat que produit mon IA me bluffe par son résultat sur une question ou un problème qui me paraissait compliqué. Et puis, dans l’heure qui suit, je tombe de ma chaise tellement sa réponse peut être stupide ou complètement erronée sur une question à laquelle aurait répondu facilement un enfant de 10 ans ou une simple recherche Google. D’où peuvent bien provenir ces écarts ? Si la réponse de mon IA me fait douter, est-ce que je dois suivre ce qu’elle me dit, ou est-ce que je fais confiance à mon intuition ou à mon propre processus de réflexion ?
Le livre « Faut-il encore décider ? La décision à l’heure de l’intelligence artificielle[1] » sortie récemment en librairie, apporte des réponses et des réflexions sur ces deux questions très différentes. Il est écrit à quatre mains : d’une part, Olivier Sibony, professeur à HEC qui a publié de nombreux ouvrages sur le processus de décision ; je l’avais découvert lors de mes propres travaux sur le management de la complexité ; d’autre part, Éric Hazan, dirigeant d’un fonds d’investissement, enseignant à HEC et à Sciences Po, qui a publié plusieurs ouvrages sur la transformation digitale et l’IA.
Je vous conseille cet ouvrage rapide et facile à lire malgré la profondeur de la réflexion et les aspects techniques qui expliquent le fonctionnement des IA. Des IA, le des est important car il n’y a pas un type d’IA, mais plusieurs. En pleine période de bac de français, résumé…
Avant de résumer, je reviens rapidement sur quelques basiques qu’il me semble fondamental de garder en tête : l’IA n’est pas intelligente, l’IA ne pense pas, l’IA n’est que mathématique, science de la probabilité et puissance de calcul gigantesque. L’IA est créée (pour le moment…) par l’homme et n’est que le miroir de ses qualités et de ses défauts ; il est acquis que les IA ont les mêmes biais que leurs créateurs. On se souvient du débat sur la question de savoir si ChatGPT était « woke » ou pas. N’oublions pas que les IA ont besoin d’un volume considérable de données pour espérer atteindre un niveau de fiabilité acceptable et nous garantir un faible niveau d’erreur.
Avant de savoir s’il faut retenir la décision proposée par l’IA ou pas, il faut savoir de quelle IA on parle. Pourquoi l’IA peut-elle faire des erreurs stupides ? Les auteurs apportent une réponse qui m’a tout autant étonné que convaincu : « Il faut revenir à l’idée fondatrice de l’IA, qui est de faire réfléchir des machines à la manière des humains. ». Les premiers travaux des petits génies de l’IA ont été inspirés des recherches du prix Nobel d’économie 2002 Daniel Kahneman (1934-2024). Ses travaux menés au cours des années 1970-1980 ont permis des avancées majeures dans la compréhension du fonctionnement de notre cerveau. Dans son livre Système 1 / système 2, les deux vitesses de la pensée[2], il explique comment notre cerveau travaille. Schématiquement, le système 1 est celui du fonctionnement réflexe, celui qui réagit instantanément à toute sollicitation en s’appuyant sur l’intuition et l’expérience. Le système 2 est celui de la réflexion volontaire qui utilise principalement la logique et le fruit de nos savoir-faire, qu’ils soient manuels ou intellectuels. Système 1 est rapide, Système 2 est lent et paresseux ; il ne démarre que si on le lui demande et cela demande un effort conscient. Système 2 a tendance à laisser travailler Système 1 sans toujours très bien le contrôler. Au fil de 30 ans d’avancées techniques, et surtout du développement récent des puissances de calcul, les « réseaux de neurones », base technique d’un certain type d’IA, s’inspirent du fonctionnement du Système 1. « Ils apprennent de manière rapide, automatique et associative, sans avoir besoin de règles explicites. Il se forge une sorte d’intuition fondée sur la statistique ». Ce que l’on appelle les LLM (Large Language Model) génèrent leur réponse en choisissant, après chaque ensemble de mots, celui qui a la plus forte probabilité d’occurrence.
Ce type d’IA est dit « connexionniste ». « Les LLM nous ébahissent par leurs capacités à mener une conversation avec nous sur n’importe quel sujet (…) à reconnaître et à produire des images et plus généralement à s’acquitter avec fluidité des tâches qui nous semblaient encore récemment inaccessibles à une machine. En revanche, il est souvent impossible, même pour des spécialistes, de comprendre comment elles arrivent à leur conclusion. Celles-ci varient d’ailleurs souvent si on leur pose la même question plusieurs fois. ». Ces IA sont donc celles qui sont utilisées quand il s’agit de travailler sur des mots, des images et des sons. Elles ne « raisonnent » pas au sens classique du terme mais se forgent une sorte d’intuition fondée sur la statistique.
Le second type d’IA est dit « symbolique » ou GOFAI (good old-fashioned artificial intelligence). Ce type de système réplique, à force de règles et de symboles, la manière humaine de résoudre un problème. C’est une tentative d’imitation du fonctionnement de notre Système 2. À partir de la succession infinie de règles de base, l’intelligence n’est ici rien d’autre que le résultat d’un puissant calcul itératif. Partout où il faut se conformer rigoureusement à une logique prédéterminée, ces systèmes restent indispensables. C’est le domaine des robots et des systèmes automatiques de pilotage. La limite de ces systèmes est connue, illustrée par certains farceurs qui se déguisent en panneau « Stop » pour arrêter un véhicule autonome. On ne sait pas aujourd’hui comment apprendre à la machine à décider avec toute la fiabilité nécessaire si ce panneau « Stop » est un vrai ou une farce alors que c’est simplissime pour un candidat au permis de conduire. C’est là que certaines erreurs de ce type d’IA nous paraissent totalement stupides.
Nous avons donc face à nous deux types d’IA au fonctionnement totalement opposé ; les unes sont rigides, les autres sont flexibles. L’exemple de ce qui s’est passé à San Francisco il y a deux mois est intéressant. Alors que la ville était sous des trombes d’eau depuis plusieurs heures et que les rues étaient inondées, les taxis autonomes qui pullulent dans cette ville se sont arrêtés. Au propre comme au figuré, ils se sont noyés car leur compréhension de la situation extérieure ne correspondait à aucune des règles apprises. Au-delà des sourires narquois des réseaux sociaux se moquant des taxis arrêtés au milieu de carrefours avec les portes fermées empêchant les clients de sortir pour « raison de sécurité », l’exemple permet de mieux comprendre les limites des IA que l’on utilise. En comprenant cela, on pourrait se dire qu’en mixant les deux logiques, une fois que l’IA « symbolique » du taxi autonome serait arrivée à la limite de sa compréhension, elle aurait pu utiliser une autre IA « connexionniste » sur base de réseau de neurones pour comprendre « simplement » qu’il pleuvait vraiment trop pour continuer en toute sécurité. Elle aurait alors proposé à la première de se trouver une solution de sécurité autre que de s’arrêter là où il était. Cette connexion que nous faisons quelquefois avec difficulté entre nos propres Système 1 et Système 2 est un défi qui est loin d’être résolu par nos petits génies de l’IA et qui fait douter aujourd’hui les plus grands, comme Sam Altman de la possibilité, à horizon visible, d’avoir des véhicules totalement autonomes avec un niveau acceptable de fiabilité.
Ceux qui ont entendu parler de cet exemple des taxis autonomes de San Francisco savent que les taxis autonomes de la seconde flotte autorisée à circuler à San Francisco ne se sont pas arrêtés. Il ne faut surtout pas penser qu’ils étaient plus fiables pour circuler dans des conditions extrêmes où quasiment plus aucun véhicule ne circulait ; le curseur « risque » n’avait simplement pas été positionné de la même façon dans les règles édictées de l’IA embarquée. Cela ouvre le débat de qui et comment est décidé le niveau de risque acceptable, comment lui faire confiance ? Nous n’avons pas tous la même perception de ce risque (n’est-ce pas JD ?).
Cela nous amène au processus de décision du manager et du dirigeant. Savoir s’il peut suivre ce que lui propose son IA dépend d’abord de savoir comment travaille son IA. Suivant le problème posé, on comprend assez bien que les différents types d’IA ne vont pas travailler de la même façon. De plus, une même IA peut donner deux réponses très différentes à une même question ; cela peut être déstabilisant, mais n’est-ce pas le cas tous les jours quand deux collaborateurs proposent deux approches différentes à un même problème ? On va alors demander à chacun d’expliquer son raisonnement et tenter de déceler tel ou tel manque, telle ou telle erreur de raisonnement, tel ou tel risque ou avantage de chacune des solutions proposées. Ce dialogue est aujourd’hui impossible avec nos IA. La plupart semblent d’ailleurs programmées pour nous donner raison : si vous ne l’avez jamais fait, faites le test : « Es-tu sûr de ta réponse ? » ou « Je ne suis pas d’accord avec le résultat, peux-tu expliquer ? ». Il y a alors de fortes chances que les réponses proposées installent le doute dans votre tête sur la qualité des IA. Par contre, si l’on a compris les capacités de chacune, leur valeur ajoutée, leurs défauts et limites, on sera bien plus à l’aise dans les décisions à prendre suite à leurs réponses. Finalement, est-ce bien différent de la connexion avec nos collaborateurs ou nos pairs ?
Maintenant que nous avons rappelé quelques fondamentaux et que la première partie du livre nous a éclairé sur les différents fonctionnements des IA, la question est de savoir comment faire évoluer nos processus de décision grâce ou avec l’IA ? Quelles décisions, dans quelles limites, peut-on confier nos décisions à l’IA ? Quand interdire à l’IA de décider ? Comment partager notre système de valeurs avec l’IA ? Rendez-vous la semaine prochaine pour la suite de cet article.
En attendant, si vous vous posez ces questions, commandez et lisez « Faut-il encore décider ? », c’est passionnant.
25 juin 2026
Michel MATHIEU
Doctor of business administration.
[1] Faut-il encore décider ? Flammarion 2026
[2] Système 1 / Système 2, les deux vitesses de la pensée. Flammarion 2012
Partager sur
Revenir à tous les articles