Intelligence artificielle et manipulation de l’information

Industrialisation de la manipulation de l’information grâce l’intelligence artificielle : repenser l’analyse des mouvements d’opinion.

L’information est une arme puissante utilisée par de nombreux acteurs. L’enquête story killers¹ portant sur des entreprises spécialisées dans la diffusion de fausses informations dans les grands médias en est une des démonstrations. Les Fake news, les deep fakes ou plus généralement la manipulation de l’information pour servir des objectifs politiques ou économiquessont maintenant courantes. Dans ce contexte, la démocratisation de l’utilisation de l’intelligence artificielle peut permettre une industrialisation des campagnes d’opinion manipulées.

Comment les grandes entreprises peuvent-elles identifier ces faux mouvements ? Comment peuvent-elles réagir ?

Nous vous en parlions il a quelques mois, l’astroturfing est un véritable outil de manipulation.

Depuis la naissance des réseaux sociaux et en particulier du web conversationnel tout a chacun peut s’exprimer et participe à la fabrication de l’opinion. Jusqu’ici la manipulation était opérée par des individus servant des intérêts plus ou moins louables. Le Parti des 50 centimes en République Populaire de Chine est la plus grande communauté d’astroturfers du monde. Elle comptait 300 000 membres en 2008. Le nom du parti des 50 centimes fait référence aux 50 centimes de Yuan que gagnent les membres pour chaque message posté.

Bing Liu, un expert en data mining de l’université de l’Illinois aux États-Unis, estime qu’un tiers des commentaires sur Internet sont faux et servent à créer une image positive d’une marque, qu’ils soient postés manuellement ou par des « bots ». Différencier les messages postés par de véritables comptes appartenant à des personnes et par de faux profils devient de plus en plus difficile.

Par conséquent, les véritables mouvements populaires s’en retrouvent affaiblis ou utilisés.

En effet, l’astroturfing n’a pas pour objectif de construire un mouvement d’opinion de toute pièce mais bien de prendre comme fondement une réalité sociale et/ou sociétale. On peut citer les campagnes L214 qui se fondent sur des idées politiques partagées dans la société. Dans le cadre de ces campagnes, on observe plusieurs tweets qui sont des exacts copiés-collés les uns des autres. Ces contributions permettent de faire du volume et de capitaliser sur les revendications sociétales préexistantes. Bien-être animal, écologie, modèles d’agriculture plus soutenable sont autant de sujets de plus en plus présents dans le débat public. Les campagnes de L214 capitalisent donc grâce à l’astroturfing au profit notamment des start-up de création de viande in-vitro ou des industriels du soja basés aux États-Unis. Les effets ne sont pas immédiats mais la stratégie est pensée sur le long terme et vise à préparer les sociétés à de nouveaux modes de consommations.

Alors, en quoi l’intelligence artificielle a-t-elle à voir avec de telles campagnes ? Avec l’intelligence artificielle, on passerait d’une activité de manipulation artisanale à une activité industrielle.

Dans ce contexte, les entreprises doivent être d’autant plus attentives et devraient se doter d’outils performants permettant d’identifier ce type de pratique. Analyser les réseaux sociaux avec des critères quantitatifs ne suffit plus. Une analyse qualitative est essentielle afin de comprendre les forces en présence, les communautés mobilisées et les cibles potentielles de l’astroturfing pour adapter la stratégie en conséquence et identifier ses vrais faux ennemis.

Lors de la propagation de fausses informations, il convient de rectifier au plus vite, à un moment où vous êtes encore crédible pour le faire. Lors d’une campagne de propagande, la réactivité va ici aussi être la clé pour remettre les faits au centre du débat.

Grâce à une analyse fine des cartographies de conversation et des « bots », une stratégie réactive peut être mise en place plus rapidement et contrer les feux naissants sur les réseaux sociaux.

¹ Pendant des mois, une centaine de journalistes internationaux ont enquêté sur les opérations d’influence en ligne et sur la manipulation des réseaux sociaux par des entreprises spécialisées. Ces « mercenaires » de l’information ont été utilisé dans le cadre de campagnes politiques par exemple.