Les GAFAM s'unissent pour contrer Deepfakes électoraux générés par l'IA

Une vingtaine des mastodontes de la tech, dont Google, Meta et Microsoft, viennent de signer un accord définissant des principes forts pour lutter contre les deepfakes et autres contenus trompeurs générés par IA, qui menacent l’intégrité des processus électoraux mondiaux. Examinons les engagements essentiels de ce texte historique.

Les géants de la tech dégainent contre la manipulation électorale par l’IA

L’intelligence artificielle (IA) provoque une révolution dans tous les secteurs, à la fois porteuse de promesses et de menaces. Les hackers l’ont bien compris, eux qui détournent les dernières innovations technologiques pour créer des armes de manipulation massive.

Selon un article paru dans Le Monde, les principaux acteurs technologiques ont signé vendredi un accord sans précédent pour contrer une de ces cybermenaces : les deepfakes électoraux générés par IA. Ces hypertrucages qui imitent parfaitement le visage, la voix et les gestes de personnalités politiques risquent de semer le doute et la désinformation à l’approche de scrutins cruciaux.

La signature est intervenue lors du Forum de Munich sur la sécurité, rassemblant des dirigeants internationaux comme la Vice-présidente américaine Kamala Harris, la présidente de la Commission Européenne Ursula von der Leyen ou encore le président ukrainien Volodymyr Zelensky.

Le timing de cet accord est crucial. Selon Le Monde, près de la moitié de la population mondiale en âge de voter sera appelée aux urnes en 2024, dont des élections majeures comme la présidentielle américaine. 

Concrètement, cet accord de trois pages dévoilé le 16 février cible les contenus Audiovisuels générés par IA pour usurper l’identité de candidats ou répandre de fausses nouvelles sur les modalités de vote. Une manipulation des esprits massive qui pourrait ébranler les processus démocratiques, d’où cet appel à la mobilisation générale du secteur technologique.

Une menace encore limitée, mais en expansion

Les entreprises signataires s’engagent à développer des outils permettant d’assurer la traçabilité des contenus générés par intelligence artificielle (IA). L’objectif : pouvoir remonter facilement à la source de création d’une image ou vidéo trompeuse.

Il pourrait s’agir par exemple d’intégrer des « tatouages numériques » invisibles, une sorte de marquage incorporé au moment même de la génération par l’algorithme IA. Cette traçabilité faciliterait grandement la modération de ces contenus sensibles. Un travail en ce sens déjà en cours, avec notamment l’élaboration de standards comme C2PA.

Les signataires prévoient aussi le déploiement de technologies pour détecter automatiquement les contenus trompeurs une fois publiés en ligne. Et des mécanismes pour permettre aux utilisateurs de signaler plus facilement les contenus suspects. Bien sûr, tout en faisant preuve d’équilibre entre modération efficace et respect de la liberté d’expression.

Si les cas vérifiés de deepfakes électoraux restent encore marginaux, le risque de cyberattaques sophistiquées lors des élections 2024 est réel et pris très au sérieux. Rappelons que de nombreuses femmes sont déjà victimes de deepfakes non consentis réalisés avec les mêmes outils d’IA générative, comme récemment la star Taylor Swift.

L’accord signé par les géants du numérique est donc un bon début, mais ne constitue pas une solution définitive. La vigilance de tous les acteurs de la société sera nécessaire pour maintenir l’intégrité du processus démocratique à l’ère de l’IA générative.