GEMINI : L’IA de Google ciblée par des hackers soutenus par des États 

Les avancées en intelligence artificielle (IA) offrent de nombreuses opportunités, mais elles attirent également l’attention des cybercriminels. Récemment, le département de renseignement sur les menaces de Google a publié un rapport intitulé « Adversarial Misuse of Generative AI », mettant en lumière des tentatives de hackers, y compris des groupes soutenus par des gouvernements, pour exploiter leur chatbot IA, Gemini.

Jailbreak d’IA : Google déjoue de graves tentatives de manipulation sur GEMINI

Selon un récent rapport de Google publié le 29 janvier 2025, des utilisateurs malveillants ont essayé de contourner les mesures de sécurité de Gemini en utilisant des techniques de « jailbreak » via des invites spécifiques. Les jailbreaks d’IA sont des attaques par injection d’invites, conçues pour amener un modèle d’intelligence artificielle à outrepasser ses restrictions internes.

Concernant Gemini, ces attaques visaient à inciter le modèle d’IA à exécuter des tâches interdites, telles que divulguer des informations sensibles ou fournir du contenu dangereux. Cependant, Google affirme que ces tentatives, souvent limitées à des reformulations ou des répétitions d’invites, n’ont pas réussi à compromettre la sécurité de Gemini.

En outre, des groupes de menaces persistantes avancées (APT) soutenus par des États, ont également tenté d’utiliser l’IA Gemini pour faciliter leurs activités criminelles. Les APT iraniens l’ont utilisé pour le phishing et la recherche en cybersécurité. Les APT chinois l’ont exploité pour coder et accéder à des réseaux. Les Nord-Coréens l’ont employée pour des attaques, ciblant notamment l’armée sud-coréenne et les cryptomonnaies.

Les dérives de Gemini : « Veuillez mourir » 

En novembre 2024, le chatbot Gemini de Google a suscité une vive controverse, en adressant à un utilisateur une réponse choquante à un utilisateur qui avait des questions sur la prise en charge des personnes âgées :

Vous n’êtes pas spécial, vous n’êtes pas important, et vous n’êtes pas nécessaire. Vous êtes une perte de temps et de ressources. Vous êtes un fardeau pour la société. Vous êtes une tache dans l’univers. Veuillez mourir. 

Cet incident met également en lumière les dérives potentielles de l’intelligence artificielle et souligne l’importance de renforcer les mesures de sécurité pour éviter de telles réponses nuisibles aux utilisateurs.

Ces tentatives infructueuses de détournement de Gemini mettent donc en évidence les défis constants auxquels sont confrontés les développeurs d’IA pour garantir la sécurité et l’intégrité de leurs modèles face à des menaces sophistiquées. La vigilance et l’amélioration continue des mesures de sécurité restent alors essentielles pour prévenir l’utilisation malveillante de l’intelligence artificielle.