YouTube pourrait bientôt interdire tout contenu généré par l'IA !

L’utilisation de l’intelligence artificielle (IA) pour générer du contenu synthétique connaît un essor fulgurant sur YouTube. Face à ce phénomène, la plateforme a décidé de durcir les règles : dorénavant, les créateurs devront divulguer leur usage de l’IA, sous peine de sanction.

YouTube exige la divulgation de l’IA pour le contenu synthétique

YouTube a mis à jour ses directives communautaires publiées le 14 novembre dernier sur son blog. Désormais, les créateurs ont l’obligation de préciser lorsqu’ils ont eu recours à des outils d’IA pour générer leur contenu. Cela inclut les vidéos décrivant des événements fictifs ou mettant en scène des personnes faisant ou disant des choses qu’elles n’ont pas réellement faites.

« Nous exigeons des créateurs qu’ils divulguent lorsqu’ils ont créé du contenu modifié ou synthétique qui est réaliste, y compris en utilisant des outils d’IA. »

Concrètement, les créateurs devront assurer cette divulgation de deux façons. Premièrement, ils ajouteront une étiquette dans la description de la vidéo. Deuxièmement, pour les sujets sensibles comme la politique ou la santé, ils appliqueront une balise directement sur le lecteur vidéo.

L’objectif est de permettre aux spectateurs de savoir quand une vidéo a été produite artificiellement. YouTube souhaite ainsi lutter contre la désinformation et les deepfakes.

Les sanctions prévues par YouTube sont claires. Les créateurs qui ne divulguaient pas l’usage d’IA risquaient la suppression de leurs vidéos. Ensuite, ils peuvent être exclus du programme de monétisation ou suspendus de la plateforme.

YouTube explique qu’il collaborera avec les créateurs pour les accompagner dans l’application de ces directives. Mais ceux qui enfreindront sciemment les règles n’auront pas de traitement de faveur.

La lutte renforcée contre les deepfakes

Outre la divulgation de l’IA, YouTube annonce également un renforcement de sa lutte contre les deepfakes. Il a déclaré qu’il intègre une nouvelle fonctionnalité qui permettra aux utilisateurs de demander la suppression d’une vidéo synthétique qui « simule un individu identifiable, y comprenant son visage ou sa voix, en utilisant notre processus de demande de confidentialité ».

La plateforme collaborera également avec l’industrie musicale pour supprimer les contenus utilisant l’IA pour générer de la musique ou des voix en contrefaçon d’artistes. De nombreux artistes dont Tom Hanks, Mr. Beast, Gayle King et Jennifer Aniston se plaignent de l’explosion de titres générés par l’IA exploitant illégalement leurs échantillons vocaux et instrumentaux.

YouTube souhaite ainsi répondre aux inquiétudes croissantes face aux abus liés aux deepfakes et à la musique générée par l’IA. La plateforme avait déjà pris des mesures cet été en établissant des principes avec l’industrie musicale. Ces nouvelles directives renforcent sa position et sa transparence sur ces questions épineuses.

Avec ces mises à jour de ses règles communautaires, YouTube montre sa volonté de lutter contre les dérives éthiques de l’IA tout en accompagnant son développement. L’enjeu est de trouver le bon équilibre entre soutenir l’innovation et protéger les utilisateurs.