Bots + IA : menace sur novembre

Des centaines de bots, constituant un « réseau d’agents dormants actifs depuis plus de dix ans », inondent X de fausses informations, visant notamment Kamala Harris, tout en soutenant les intérêts pro-Kremlin, rapporte une étude récente de l’American Sunlight Project (ASP). Malgré les promesses d’Elon Musk d’éradiquer ces comptes, ils continuent de proliférer, dissimulant leurs activités parmi des posts anodins.

En parallèle, OpenAI a révélé la semaine dernière avoir identifié plus de 20 opérations menées par des acteurs étrangers depuis janvier 2024, cherchant à exploiter des outils comme ChatGPT pour générer des contenus manipulés. Ces opérations, qui seraient menées par la Russie, l’Iran et d’autres, tentent de semer la discorde dans l’élection américaine, mais aussi en Europe et dans d’autres pays. Selon OpenAi, ces opérations vont de « simples demandes de génération de contenu à des efforts complexes, en plusieurs étapes, pour analyser et répondre aux messages des médias sociaux ». Bien que ces campagnes n’aient pas encore atteint une viralité massive, la montée des contenus générés par l’IA constatée depuis des mois fait peser un risque majeur sur le scrutin américain.

Les bots pro-russes ne sont donc plus les seuls responsables de la désinformation à grande échelle, comme ce fut le cas en 2016. Les outils d’IA, s’ils ne sont pas rigoureusement surveillés, pourraient être utilisés pour amplifier ces manipulations, et servir les intérêts de nombreux autres acteurs. Cette menace vaut non seulement pour novembre aux Etats-Unis, mais aussi pour les quelques 4 milliards de personnes qui voteront dans une quarantaine de pays au cours de l’année à venir.

16/10/2024