Audio-Jacking : Comment l'IA déjoue les conversations en direct

Des chercheurs d’IBM Security ont récemment révélé une méthode alarmante de manipulation des conversations en direct, exploitant l’intelligence artificielle (IA) de manière insidieuse. Dans une expérience choquante, l’IA a été utilisée pour intercepter et altérer une conversation téléphonique entre deux personnes sans que ces dernières ne se rendent compte de rien. Cette attaque, baptisée « audio-jacking », exploite les avancées de l’IA générative et de la technologie deepfake audio.

L’IA déjoue les conversations en direct : Une attaque effroyablement simple

L’IA, génératrice de deepfakes, est-elle vraiment menaçant comme l’indique l’ONU ? Dans une expérience choquante révélée par des chercheurs d’IBM Security, l’IA a été utilisée pour intercepter et altérer une conversation téléphonique entre deux personnes sans que ces dernières ne se rendent compte de rien. Cette attaque, baptisée « audio-jacking », exploite les avancées de l’IA générative et de la technologie deepfake audio.

Security researchers unveil deepfake #AI audio attack that hijacks live conversations :#IBM Security researchers recently discovered a “surprisingly and scarily easy” technique to hijack and manipulate live conversations using artificial intelligence (AI).
The attack, called… pic.twitter.com/JjWbZbdLJX

— TOBTC (@_TOBTC) February 5, 2024

L’IA est programmée pour détecter des mots ou des phrases spécifiques et remplacer la voix authentique par une fausse lorsqu’elle est sollicitée à divulguer des informations sensibles telles que des coordonnées bancaires ou de wallet Bitcoin (BTC) mal sécurisé. Le résultat est une manipulation silencieuse des détails d’une conversation financière en direct, sans éveiller les soupçons des participants.

« Nous avons récemment publié des recherches montrant comment des adversaires pouvaient hypnotiser des LLM pour les mettre au service d’objectifs néfastes, simplement en utilisant des messages-guides en anglais. Mais pour continuer à explorer cette nouvelle surface d’attaque, nous ne sommes pas arrêtés là. Dans ce blog, nous présentons une tentative réussie d’interception et de ‘détournement’ d’une conversation en direct, et d’utilisation de LLM pour comprendre la conversation afin de manipuler la sortie audio à l’insu des locuteurs à des fins malveillantes », peut-on lire sur le site d’IBM Security.

Cette révélation soulève des préoccupations majeures quant à l’utilisation abusive de cette technologie par des individus malveillants, mettant en lumière la nécessité de renforcer la sécurité des communications en ligne.

IA générative : une nouvelle arme dans l’arsenal des hackers

L’audio-jacking d’IA, une vraie menace en cours de conversation direct ? C’est ce que confirme les chercheurs d’IBM Security.

L’utilisation de l’IA générative pour intercepter et altérer les discussions audio est décrite comme « étonnamment et effroyablement facile ». Les pirates peuvent ainsi contourner les dispositifs de sécurité traditionnels.

Outre le risque de transferts de fonds frauduleux, cette technologie ouvre la porte à une censure invisible, modifiant en temps réel le contenu des émissions et discours politiques.

L’IA générative ouvre de nouvelles perspectives pour les cybercriminels, combinant différentes techniques pour des attaques sophistiquées.

Pour illustrer cette menace, une expérience a été menée, démontrant la capacité de modifier le contexte d’une conversation en direct. Cette méthode subtile rend la détection difficile, transformant les participants en marionnettes manipulées à distance.