BigTech vs. deepfakes

A l’approche des élections européennes et américaines, la menace des deepfakes politiques créés par l’intelligence artificielle générative se fait à nouveau sentir. Ces contenus manipulés ont récemment perturbé les élections législatives slovaques, avant lesquelles des vidéos manipulées par IA mettant en scène le leader progressiste Michal Šimečka ont été largement diffusées. Cet épisode souligne le besoin impérieux de continuer à nous protéger contre ce type de désinformation, qui peut être orchestrée depuis l’étranger.

 

Preuve que la menace d’ingérence persiste, ces dernières semaines, Viginum, le Service français de vigilance et de protection contre les ingérences numériques étrangères, a successivement mis à jour une opération d' »amplification artificielle » en ligne des photos des tags représentant des étoiles de David dans Paris, puis une campagne de désinformation liée à l’Azerbaïdjan ciblant Paris 2024.

 

Face au fléau des deepfakes, les géants de la technologie ont pris des mesures significatives. Meta a renforcé ses contrôles publicitaires pour les campagnes politiques, exigeant la divulgation de l’utilisation de l’IA. De son côté, Google a introduit des « labels » pour la transparence dans les publicités politiques. Microsoft a développé un outil capable de reconnaître les photos et vidéos manipulées, tout comme YouTube, qui promet de signaler les vidéos générées et modifiées par une IA.

 

Dans le contexte actuel hautement inflammable, une autre initiative, française celle-là, apparaît comme une lueur d’espoir. En unissant les forces de Make.org, Sciences Po, la Sorbonne, le CNRS, le GENCI et des acteurs de l’IA tels que Hugging, le projet « GenAI for Democracy » vise à développer des modèles de langage open source compatibles avec les principes démocratiques. Figure aussi au lancement de cette initiative le Project Liberty, lancé par Frank McCourt pour un Internet au service des citoyens, déjà en lien avec Georgetown. D’autres universités américaines et européennes pourraient suivre.

 

« Il ne faut pas refaire les mêmes erreurs qu’avec les réseaux sociaux, dont on a du mal à juguler les effets néfastes », explique Axel Dauchez, créateur de Make.org à l’origine du projet. Le programme de recherche de deux ans sera financé à hauteur de 8 millions d’euros dès l’an prochain, 50 chercheurs et ingénieurs vont s’y engager. A court terme, un sommet européen pour la sécurité des élections accompagné d’une assemblée d’experts des solutions technologiques devrait se tenir avant les élections européennes de 2024.