Des experts internationaux en guerre contre l’IA ?

La technologie IA avance à pas de géant et révolutionne de nombreux domaines. Elle s’accompagne toutefois de nombreux inconvénients. Les deepfakes figurent parmi les dangers de cette technologie. Face à la prolifération de ces faux contenus numériques, des experts tirent la sonnette d’alarme et appellent à une législation plus stricte.

Un appel à une régulation ferme pour protéger l’intégrité numérique

Les législations actuelles en matière d’intelligence artificielle n’encadrent pas suffisamment la production et la diffusion de contenus deepfakes. C’est ce que déplore un collège d’experts internationaux dans une lettre ouverte intitulée « Perturber la chaîne d’approvisionnement des deepfakes » et publiée ce 21 février. Ces chercheurs invitent les législateurs à adopter des mesures strictes afin de mettre fin à la diffusion de contenus deepfakes, notamment les images et vidéos à caractère sexuel ou ayant pour but, la désinformation politique.

Dans le groupe d’experts, l’on retrouve des leaders d’opinion tels que Andrew Yang, Stuart Russell, Joy Buolamwini, Sarah Gardner, Gary Marcus, Steven Pinker, Sneha Revanur et bien d’autres personnalités influentes. Dans cette lettre, les experts proposent des recommandations concrètes pour limiter les multiples conséquences négatives de ces contenus générés via l’IA.

Ils exhortent les législateurs à criminaliser les deepfakes pornographiques et à prévoir des sanctions contre les auteurs de ces contenus nuisibles. Les experts exigent également que les développeurs et les distributeurs de logiciels IA prennent des mesures pour empêcher la création de ces deepfakes.

Les deepfakes p0rn0 de Taylor Swift enflamment Internet depuis quelques jours… et les journalistes sont en train de blâmer les nouvelles IA ! 👀

Mais en réalité, les IA savent faire ça depuis longtemps :

L'une des 1e vidéos deepfake date de 1997 et peut se retrouver sur… pic.twitter.com/ao4e6YdLZu

— Lou (@byLouIA) February 17, 2024

Une réponse à la prolifération de ces faux enregistrements générés via l’IA

Les deepfakes ont littéralement explosé en 2023. Le site Home Security Heroes estime à plus de 95 820, le nombre de vidéos deepfakes générées via IA et diffusées au cours de l’année écoulée. Il s’agit d’une augmentation de plus 550 % si l’on compare ces chiffres à ceux de l’année 2019. La pornographie constitue une proportion importante de ces contenus. Elle représente à elle seule, 98 % des vidéos deepfakes générées en 2023.

Aux États-Unis par exemple, plusieurs contenus deepfakes ont inondé les médias sociaux ces dernières semaines. De fausses images pornographiques de la célèbre chanteuse Taylor Swift ont d’abord agité le réseau social X. Les contenus publiés ont été vus par plus de 45 millions d’internautes et ont enregistré des centaines de milliers de likes. Une autre vidéo pornographique de certaines étudiantes d’un lycée du News Jersey générée avec l’aide de l’IA est également devenue virale sur les réseaux sociaux.

Enfin, un deepfake audio usurpant la voix du président Joe Biden a été réalisé pour empêcher les électeurs démocrates de l’État du New Hampshire de se présenter aux urnes. Ces événements soulignent l’urgence de la situation et l’importance d’une législation qui condamne fermement la production et la diffusion de ces faux contenus créés grâce à l’IA.