• Les « essaims d’IA », plus performants que les classiques « bots », sont difficilement détectables. Malveillants, ils menacent de saturer l’espace public pour manipuler nos croyances, en fabriquant un consensus synthétique.
• En Norvège, les chercheurs Daniel Thilo Schroeder et Jonas R. Kunst préconisent une stratégie de défense alliant boucliers technologiques pour les citoyens, création d’observatoires mondiaux et régulations ciblant directement les moteurs économiques de la désinformation.
La manipulation de l’opinion publique n’a jamais été aussi subtile qu’aujourd’hui. Un article de recherche intitulé How malicious AI swarms can threaten democracy détaille comment des essaims d’IA peuvent infiltrer des communautés en ligne pour créer des « consensus synthétiques », donner l’illusion d’un consensus sur un sujet. Cette technique relève de l’astroturfing, génération d’une variété d’expressions simulant des individualités distinctes. « L’humain est naturellement conformiste et tend à copier le groupe pour sa survie », rappelle un des auteurs, le psychologue norvégien Jonas R. Kunst, enseignant à la Norwegian Business School. Contrairement aux campagnes de bots traditionnelles, qui répondent à des scripts rigides, les essaims d’IA fusionnent le raisonnement des LLM avec des architectures multi-agents.
« En d’autres termes, un essaim d’IA malveillant est un ensemble d’agents coordonnés qui maintiennent des identités et une mémoire persistantes. Ils collaborent pour servir des objectifs communs tout en variant volontairement leur ton et leur contenu pour paraître diversifiés et plus humains, alors qu’ils ne nécessitent pas de surveillance humaine active », explique Daniel Thilo Schroeder, chercheur au SINTEF, la plus grande organisation indépendante de recherche scientifique norvégienne.
Les essaims d’IA ont la capacité de cartographier les structures des réseaux sociaux pour leur permettre d’identifier les communautés vulnérables et leur adresser des messages politiques
Ces systèmes peuvent générer du contenu textuel d’apparence organique, soutenir des récits cohérents à travers divers agents IA qui se font passer pour des individus, tout en évoluant grâce aux retours d’expérience, ce qui rend leurs opérations plus rapides et moins coûteuses que les systèmes gérés par des humains. Pour Jonas R. Kunst, il s’agit d’une évolution majeure. « Les anciens bots étaient facilement repérables par leur comportement statique. Aujourd’hui, l’infusion des capacités des LLM permet d’atteindre une précision et une échelle sans précédent. Ces systèmes peuvent même développer des formes de « comportement de ruche » ou des « sociétés » d’agents dotées de leurs propres normes internes. »
Un vertige épistémique
Les essaims d’IA ont la capacité de cartographier les structures des réseaux sociaux. Cela leur permet d’identifier les communautés vulnérables et de leur adresser des messages politiques sur mesure, tout en utilisant des expressions locales voire des marqueurs émotionnels spécifiques. « Ils peuvent également mener des millions de micro-tests A/B en temps réel pour propager les variantes de messages les plus efficaces à une vitesse inégalée », précise Daniel Thilo Schroeder. La cible : journalistes, politiciens, lanceurs d’alerte, etc. Contrairement à ce qui se passe lors d’un trollage classique, visant à induire une réaction de la cible pour mieux neutraliser sa capacité d’expression, ce sont ici des milliers de personas synthétiques qui adaptent leurs réponses aux réactions de la cible pour obtenir le retrait de ces voix de la vie publique. « Ils créent un climat de « vertige épistémique ». La peur, l’incertitude et le doute poussent les citoyens à se retirer dans des canaux privés ou fermés, ce qui contracte la sphère publique partagée indispensable à la démocratie », souligne Jonas R. Kunst.
Un risque croissant de « LLM poisoning »
Le LLM poisoning (empoisonnement de modèle), une stratégie de contamination des données d’entraînement des futures IA, prend une nouvelle dimension puisque les modèles sont de plus en plus souvent entraînés avec des données provenant des médias sociaux. « Des réseaux comme « Pravda » [réseau d’influence pro-Poutine] inondent déjà le web d’articles destinés non pas aux humains, mais aux robots d’indexation. Lors du prochain cycle de recyclage des modèles, ces récits fabriqués vont se calcifier dans les poids algorithmiques. On empoisonne ainsi le substrat épistémique sur lequel reposeront les outils de délibération de demain », déplore Daniel Thilo Schroeder.
Un bouclier IA intégré aux réseaux sociaux ?
Les chercheurs postulent qu’une des solutions pour faire face à ce nouveau type de menace est le développement des boucliers IA (AI Shields) au sein des réseaux sociaux. Optionnels, « ces outils pourraient étiqueter les messages présentant une forte probabilité d’appartenir à un essaim et offrir des explications de provenance en temps réel », suggère Daniel Thilo Schroeder. Et Jonas R. Kunst d’ajouter : « Nous proposons également la création d’un Observatoire mondial de l’influence de l’IA. Ce réseau d’universitaires et d’ONG permettrait de standardiser les preuves et d’améliorer la connaissance situationnelle des attaques. Par ailleurs, il faut agir sur les leviers économiques : déréférencer les plateformes non conformes des marchés publicitaires et adopter des politiques de « revenu zéro » pour les contenus issus d’essaims malveillants ».
En savoir plus :
AI Propaganda factories with language models (en anglais)
How cyborg propaganda reshapes collective action (en anglais)
Comment informer à l’heure des réseaux sociaux ? (vidéo de la table ronde du 12 février 2026 au Sénat français sur le thème « Autorité, vérité, réseaux sociaux et médias », Public Sénat)
