2024 : la menace des deepfakes audio

Dans le New Hampshire, des habitants ont reçu d’étranges appels téléphoniques automatiques imitant la voix du président Biden leur demandant… de ne pas aller voter à la primaire démocrate.

Qu’on se le dise, les manipulations nées de l’IA peuvent aussi être 100% audio. « On est beaucoup moins conscient de la façon dont l’audio peut être manipulé, ce qui nous rend vraiment vulnérables » alerte Henry Ajder, expert en IA auprès d’Adobe, de Meta et d’EY, qui ajoute dans le FT: « lorsqu’il s’agit de manipulation visuelle, tout le monde est habitué à Photoshop, on sait au moins que cela existe ».

Vendredi, OpenAI a pris la décision de débrancher Dean.Bot, une IA personnalisée qui imitait la voix du candidat démocrate Dean Phillips, challenger de Joe Biden à la primaire démocrate, et permettait aux électeurs de dialoguer avec lui. Il ne s’agit pas dans ce cas d’une manipulation, mais cette décision traduit la volonté d’OpenAI d’interdire l’utilisation de sa technologie dans le cadre de la campagne présidentielle, tout en soignant son image de marque.

L’inquiétude monte à l’approche des échéances cruciales prévues en 2024. Cette année, plus de deux milliards d’électeurs vont se rendre aux urnes. Autant de cibles potentielles pour des opérations de propagande.

L’avantage du deepfake audio ? Son coût. Les startups proposant ce type de prestation se multiplient, et offrent un accès aisé à des outils qui peuvent être mis au service d’opérations de désinformation à peu de frais en ciblant les individus par téléphone.

Les plateformes de réseaux sociaux travaillent à contrer le phénomène, mais il est paradoxalement plus difficile d’identifier un son manipulé qu’une image transformée. En effet, l’ajout de bruit environnant dans le montage sonore peut brouiller les pistes. C’était le cas d’un deepfake du chef de l’opposition britannique, Sir Keir Starmer, qui aurait réprimandé un collaborateur, et paraissait avoir été enregistré dans un restaurant très bruyant.

Robert Weissman, président du groupe de défense des consommateurs Public Citizen l’affirme dans le FT : « Le moment du deepfake politique est arrivé. Les décideurs politiques doivent se hâter de mettre en place des protections, faute de quoi nous risquons le chaos électoral ».

24/01/2024