Permettre aux êtres le mot final peut nuire aux décisions IA

Permettre aux êtres le mot final peut nuire aux décisions IA

En juillet 2026, 26 salariés de Meta ont demandé à un tribunal fédéral américain de suspendre leur licenciement. Ils affirmaient que des systèmes assistés par l’IA avaient évalué, classé puis sélectionné les employés visés par un plan portant sur quelque 8 000 postes. Meta a répondu que des responsables opérationnels avaient pris les décisions à partir de critères documentés et qu’aucun choix n’avait été effectué par l’IA. Le juge a estimé que ces allégations soulevaient de « sérieuses questions », rejeté la demande immédiate et réclamé davantage de preuves. Le litige n’est pas tranché. Mais il donne une forme concrète à une interrogation qui s’impose dans le débat public mondial : lorsqu’un algorithme influence une décision lourde de conséquences, qui décide réellement, la machine ou l’être humain ?

Cette question traverse Faut-il encore décider ? La décision humaine à l’ère de l’intelligence artificielle, publié en février 2026 par Eric Hazan et Olivier Sibony. Les auteurs examinent la prise de décision en médecine, dans le recrutement, la justice, le crédit, l’investissement et les politiques publiques. Ils partent d’un constat : dans certaines situations bien circonscrites, les machines prennent déjà de meilleures décisions que les humains. Le problème central apparaît lorsque la machine et l’expert ne sont pas d’accord.

Pour Olivier Sibony, la prise de décision est liée à l’autonomie et à l’identité professionnelle. « Décider est une prérogative que nous associons à notre autonomie, à notre dignité et à notre rôle, particulièrement au travail », expliquait-il dans un entretien peu après la parution du livre en 2026. Les responsabilités d’un dirigeant sont souvent définies par les décisions qu’il est autorisé à prendre. Les déléguer peut donc modifier son identité professionnelle autant que sa performance.

Quand l’IA et le jugement humain divergent

La réponse habituelle au désaccord consiste à laisser le contrôle à l’humain. Olivier Sibony affirme que, lorsqu’il demande à des dirigeants qui devrait avoir le dernier mot, 99 % répondent qu’il devrait leur revenir. Le raisonnement paraît simple : consulter la machine, puis mobiliser son expérience et son jugement pour trancher chaque cas particulier.

Eric Hazan et Olivier Sibony pointent le problème posé par cette organisation. Si un algorithme est, en moyenne, manifestement plus précis qu’un décideur humain, les désaccords entre l’algorithme et son superviseur s’expliquent plus souvent par le fait que l’algorithme a raison et l’humain tort. Autrement dit, les recommandations que l’humain est le plus tenté d’écarter sont précisément celles où il se trompe.

Les auteurs citent une étude sur la précision des diagnostics : les médecins donnaient la bonne réponse dans 74 % des cas, contre 90 % pour un système d’IA. Fournir le diagnostic de l’IA au médecin tout en lui laissant la décision finale n’entraînait pratiquement aucune amélioration : la précision n’atteignait que 76 %. Pourquoi ? Parce que les médecins rejetaient souvent l’avis de l’algorithme lorsqu’il contredisait le leur. « Si l’IA est véritablement meilleure, nous devons accepter de lui déléguer la décision plutôt que de simplement la consulter », explique Olivier Sibony. « Ce n’est pas abdiquer sa responsabilité, mais changer le moment où on l’exerce. La responsabilité consiste à choisir le système d’IA que l’on utilisera et à vérifier qu’il est effectivement plus performant. C’est parce que vous êtes responsable des décisions, et que vous voulez qu’elles soient aussi exactes que possible, que vous devez faire confiance à l’IA. »

Quelles décisions exigent un processus humain

La cartographie des décisions artificielles proposée dans le livre fixe des limites claires à la délégation. La première est technique. L’IA apprend à partir d’exemples comparables. Les décisions sans précédent pertinent se situent donc dans ce que les auteurs appellent la « zone interdite ». Un tir nucléaire, la réponse à un attentat terroriste sans précédent ou le recours à la géo-ingénierie face à une urgence climatique offrent peu, voire pas, d’expériences antérieures dont un système pourrait tirer des enseignements.

La seconde limite tient à la valeur de l’acte humain lui-même. Les auteurs citent les armes autonomes, les verdicts pénaux ou encore l’élection d’associés dans un cabinet d’avocats. Dans ces situations, la légitimité repose sur une responsabilité visible, une procédure formelle, le débat, la jurisprudence et la possibilité, pour les personnes concernées, d’être entendues.

Un algorithme pourrait accélérer un verdict, voire réduire le nombre d’erreurs. Pour autant, la légitimité de la décision continue de découler de l’audience, de la procédure et de l’exercice visible de la responsabilité. « Obtenir directement la réponse de l’IA reviendrait à être déposé en hélicoptère au sommet d’une montagne au lieu de la gravir », observe Olivier Sibony. « Dans ces cas, le chemin compte autant que la destination. »

Ces décisions sont rares dans le cadre proposé par les auteurs, mais elles sont lourdes de conséquences. Leur particularité est que la responsabilité ou la procédure humaine fait partie de la valeur même de la décision, indépendamment de la qualité du résultat prédit.

Quand la codécision apporte de la valeur

La délégation complète fonctionne le mieux lorsque deux conditions sont réunies : suffisamment de données pertinentes et un objectif pouvant être formulé clairement. De nombreuses décisions managériales ne satisfont pas l’une de ces conditions. Les investisseurs en capital-investissement poursuivent des objectifs financiers clairs, mais disposent de données limitées, dispersées et inégales sur les entreprises non cotées. Les recruteurs ont accès à de nombreuses informations, mais peinent souvent à préciser comment arbitrer entre l’expérience, les diplômes, le potentiel et l’adéquation avec l’équipe.

Entraîner un système de recrutement à partir de choix passés transforme cette ambiguïté en un modèle issu des décisions antérieures. Le système reproduit alors ces choix, y compris les biais systémiques, les erreurs accidentelles et les occasions manquées. Olivier Sibony cite un prestataire qui promet d’aider les employeurs à recruter des « clones » de leurs collaborateurs performants. Or, la réussite passée n’indique en rien si les candidats écartés auraient pu obtenir de meilleurs résultats.

Les auteurs situent ces situations dans un « champ de la codécision ». La personne conserve son autorité tandis que l’IA joue le rôle d’un contradicteur exigeant. Un modèle de langage peut poser des questions, faire ressortir des informations négligées, tester des hypothèses et contraindre le décideur à formuler ses critères avec davantage de précision. Olivier Sibony compare ce rôle à celui d’un sparring-partner : un interlocuteur qui renforce le processus sans recevoir le pouvoir de trancher.

Qui fixe les objectifs de l’algorithme

Les décisions les plus difficiles répondent souvent à plusieurs objectifs légitimes. Le livre prend l’exemple de l’attribution des organes. Plus de 20 000 personnes sont en attente d’une greffe en France, et des algorithmes contribuent à déterminer qui recevra un organe rare. Le système doit concilier l’utilité, qui favorise les personnes les plus susceptibles d’en bénéficier, avec l’équité, le temps d’attente, l’urgence médicale, l’âge et la proximité géographique.

L’algorithme applique ces priorités de manière cohérente ; c’est à la société de définir ce qu’il convient de privilégier. La décision politique consiste à fixer l’objectif, à choisir les arbitrages et à déterminer qui peut les modifier. Eric Hazan et Olivier Sibony abordent donc la prise de décision par l’IA comme une question de pouvoir et de gouvernance démocratique : qui décide, au nom de qui et selon quelles règles ?

Les auteurs décrivent plusieurs scénarios d’avenir, dont l’un où l’IA serait massivement rejetée et un autre où elle acquerrait un degré inquiétant de contrôle non supervisé sur les décisions qui affectent les humains. Le scénario qu’ils privilégient associe toutefois une large adoption à un contrôle citoyen. Il prévoit une définition démocratique des objectifs algorithmiques, des infrastructures de données publiques ou coopératives et une supervision indépendante des systèmes critiques.

Qui peut rendre les décisions des machines fiables ?

La délégation suppose également de prouver la supériorité du système. Un recruteur qui traite un million de candidatures peut avoir besoin d’une sélection automatisée, tout en ayant peu de moyens de vérifier les affirmations du fournisseur. Olivier Sibony compare l’auto-certification de ce dernier au fait de demander à un boucher si sa viande est bonne. Les auteurs appellent à créer une autorité indépendante d’audit de l’IA, dotée de pouvoirs d’enquête, de contrôle et de sanction. Ils la comparent aux organismes qui certifient les avions ou les médicaments. Les utilisateurs font confiance à ces systèmes sans en comprendre tous les mécanismes parce qu’un organisme indépendant les a vérifiés.

Le cadre réglementaire européen fixe désormais plusieurs de ces exigences. Selon la Commission européenne, les obligations de transparence prévues par le règlement sur l’IA commenceront à s’appliquer le 2 août 2026. D’après le calendrier convenu dans le cadre de l’AI Omnibus, les règles visant les systèmes à haut risque dans l’emploi, l’éducation, la migration et d’autres domaines lourds de conséquences doivent entrer en vigueur le 2 décembre 2027. Elles comprennent la gestion des risques, la documentation, le suivi et le contrôle humain.

L’efficacité de ce contrôle dépend de la manière dont la personne utilise le système. Eric Hazan et Olivier Sibony demandent si le superviseur humain dispose de suffisamment d’informations, d’indépendance et d’autorité pour suivre ou contester la recommandation pour des raisons valables. Ils reviennent aussi à l’objectif lui-même. « Aucune IA ne peut faire ce que nous voulons si nous ne savons pas nous-mêmes ce que nous voulons », concluent-ils.