Pour lutter contre la désinformation, les plateformes doivent agir plus vite

Début janvier 2025, Meta a annoncé un changement controversé dans sa politique de lutte contre la désinformation : le remplacement des organismes indépendants de vérification des faits sur Facebook et Instagram par un système inspiré des Community Notes. 

Selon l’entreprise, cette évolution vise à favoriser « davantage de liberté d’expression et moins d’erreurs », en s’appuyant sur les contributions des utilisateurs pour contextualiser les publications trompeuses. Un argumentaire qui rappelle celui de X, qui a adopté une politique similaire après son rachat par Elon Musk. 

Mais nos recherches consacrées à cette plateforme mettent en évidence une faiblesse majeure de ce modèle : la vitesse de propagation des fausses informations dépasse largement celle des rectifications. 

Les exemples récents montrent à quel point la désinformation peut rapidement déstabiliser les marchés financiers et fragiliser la réputation des entreprises. 

En 2023, un tweet fabriqué montrant une fausse explosion près du Pentagone a ébranlé la Bourse américaine, provoquant une baisse brève, mais significative, des marchés. 

Autre épisode marquant : en novembre 2022, un faux tweet publié au nom du laboratoire pharmaceutique Eli Lilly annonçait la gratuité de l’insuline. Cette publication a coûté à la multinationale 22 milliards de dollars de valeur boursière. 

Le phénomène n’est pourtant pas nouveau. Dès 2013, une fausse information faisant état d’explosions à la Maison-Blanche avait entraîné, en quelques minutes, une perte de 130 milliards de dollars de capitalisation boursière pour les entreprises composant l’indice S&P 500. 

Community Notes : les limites de la modération collaborative 

Ces exemples montrent que les fausses informations ne constituent pas une simple nuisance. Elles représentent une menace sociale, économique, politique et réputationnelle majeure. 

C’est l’un des enseignements de plusieurs années de recherche menées à partir d’une base de données comprenant environ 240 000 notes issues du programme Community Notes de X, anciennement Twitter. 

Ce système permet aux utilisateurs d'apporter collectivement des éléments de contexte à des publications potentiellement trompeuses. 

Notre objectif était de mesurer l'effet causal de l'ajout de ces informations contextuelles sur la diffusion des contenus concernés. 

Si ce programme fournit des enseignements précieux pour lutter contre la désinformation, nos résultats en révèlent également les limites structurelles. 

Notre étude montre ainsi que les Community Notes doublent la probabilité qu'un tweet soit supprimé par son auteur. 

Mais le problème réside dans leur délai de publication : environ 50 % des retweets interviennent dans les six premières heures suivant la mise en ligne d'un message. 

Or, si les Community Notes réduisent en moyenne de plus de 60 % le nombre de retweets, le délai médian nécessaire à leur publication dépasse 18 heures. Un temps de réaction beaucoup trop long pour freiner la diffusion virale initiale d'une fausse information. 

Ces résultats rejoignent ceux d'une étude du MIT publiée en 2018, selon laquelle les fausses informations peuvent circuler « 10 à 20 fois plus vite que les faits ». 

Ils mettent ainsi en lumière un défi majeur : si la vérification collaborative des faits représente un outil utile, son fonctionnement actuel et sa lenteur ne permettent pas de contenir efficacement la propagation rapide de la désinformation. 

D'autant que cette propagation ne cesse de s'accélérer. 

Face à la désinformation, repenser le leadership 

La décision de Meta de remplacer les organismes indépendants de vérification des faits par un système inspiré des Community Notes sur Instagram et Facebook souligne l'urgence de repenser la lutte contre la désinformation à grande échelle. 

Cette annonce a provoqué une vague de critiques, notamment de la part de l'International Fact-Checking Network (IFCN), qui a adressé une lettre ouverte à Mark Zuckerberg. 

L'organisation y alertait sur les risques accrus de désinformation et leurs conséquences pour les entreprises comme pour la société. 

Elle soulignait également qu'une telle approche risquait d'affaiblir les mécanismes de responsabilité et d'aggraver la diffusion rapide des fausses informations, exposant particulièrement les entreprises. 

Comme le montrent nos travaux, les systèmes de modération doivent évoluer pour intervenir à la même vitesse que la désinformation se propage. 

Nous estimons que l'intégration d'outils fondés sur l'intelligence artificielle pourrait considérablement renforcer les capacités d'intervention humaine, en permettant de détecter et de signaler plus rapidement les contenus potentiellement dangereux. 

Par exemple, des modèles de machine learning entraînés à reconnaître les caractéristiques récurrentes des fausses informations pourraient constituer des systèmes d'alerte précoce. 

Les grands modèles de langage (Large Language Models, ou LLM) pourraient compléter ces dispositifs en analysant les caractéristiques linguistiques et les thèmes des publications virales pour leur apporter des éléments de contexte en temps réel. 

Cette double approche permettrait aux plateformes et aux entreprises de réagir plus efficacement à la désinformation, quasiment en temps réel. 

Par ailleurs, le développement de partenariats entre les plateformes de réseaux sociaux, les pouvoirs publics et les acteurs privés pourrait favoriser l'émergence de normes communes pour lutter contre les fausses informations. 

Comment promouvoir une IA centrée sur l'humain ? 

Parallèlement à nos recherches sur la vérification des faits, nous étudions différentes initiatives réglementaires, notamment le règlement européen sur l'intelligence artificielle (AI Act) et le projet de directive européenne sur la responsabilité en matière d'IA. 

Ces dispositifs visent à promouvoir une approche de l'intelligence artificielle centrée sur l'humain. 

Dans une étude récente, nous explorons une double approche permettant d'éviter à la fois une réglementation excessive et des politiques publiques inefficaces dans le domaine de l'IA. 

Selon nous, pour qu'une réglementation puisse véritablement promouvoir une IA centrée sur l'humain, les droits humains doivent devenir le principal critère d'évaluation des systèmes d'intelligence artificielle, afin de mettre en balance les différents objectifs poursuivis sur le marché. 

Une première mesure concrète consisterait à imposer un test explicite de proportionnalité. 

Ce test repose sur la reconnaissance du fait que les systèmes d'IA peuvent avoir des conséquences sur certains droits fondamentaux, notamment le respect de la vie privée et la non-discrimination. 

Il obligerait les concepteurs à rendre explicites les arbitrages entre les stratégies d'optimisation destinées à atteindre les objectifs économiques assignés aux systèmes d'IA et leurs effets négatifs potentiels sur les droits humains. 

Le principe de proportionnalité permettrait également de clarifier les arbitrages entre différents droits. 

C'est notamment le cas lorsque des algorithmes assurent la modération des contenus. 

En décidant si un message potentiellement offensant doit ou non être modéré, ces systèmes opèrent en réalité un arbitrage entre la liberté d'expression et le droit à la non-discrimination. 

Notre deuxième proposition consiste à adopter une approche coévolutive, prenant en compte l'ensemble du cycle de vie des systèmes d'IA. 

L'objectif est de garantir la responsabilité des acteurs bien au-delà de la seule phase de conception. 

Pour cela, nous préconisons un contrôle humain effectif ainsi qu'une interaction continue entre les personnes et les systèmes d'intelligence artificielle, tout au long de leur cycle de vie. 

Cette approche permettrait aux décideurs d'actualiser et d'adapter en permanence les systèmes d'IA, afin de répondre aux difficultés identifiées à chaque étape. 

Garder une longueur d'avance 

Dans un environnement digital en perpétuelle évolution, la confiance est devenue un actif aussi précieux que le chiffre d'affaires. 

La propagation rapide de la désinformation, amplifiée par les plateformes dont le fonctionnement obéit à des logiques de marché, représente à la fois un risque et une opportunité pour les entreprises et les pouvoirs publics. 

Les recherches et les exemples concrets montrent que les organisations qui anticipent ces défis peuvent renforcer leur résilience tout en préservant durablement leur intégrité. 

Pour y parvenir, il faut conjuguer innovation technologique et coopération stratégique. 

Les entreprises doivent intégrer des outils fondés sur l'IA capables de détecter les fausses informations et d'en limiter les effets plus rapidement qu'elles ne se propagent. 

Mais la technologie ne suffit pas. Le leadership joue également un rôle déterminant. 

En adoptant des cadres réglementaires adaptés et en mettant en œuvre des tests de proportionnalité, les organisations peuvent veiller à ce que les droits humains restent au cœur de leurs stratégies d'intelligence artificielle. 

Cette approche réglementaire permet de rendre explicites les arbitrages entre les objectifs économiques et leurs conséquences potentielles sur des droits tels que le respect de la vie privée et la non-discrimination. 

En outre, une supervision humaine continue tout au long du cycle de vie de l'IA garantit que les systèmes puissent évoluer en fonction des nouveaux risques et des enjeux éthiques émergents. 

Les entreprises qui prennent les devants en investissant dans ces stratégies ne se contentent pas de protéger leur réputation. 

Elles contribuent également à construire une société mieux informée et plus résiliente. 

Elles peuvent ainsi transformer les crises actuelles en opportunités d'innovation et de leadership, et contribuer à façonner un avenir dans lequel la confiance et la responsabilité deviennent les fondements de la réussite.