Pourquoi Immunefi a-t-elle banni l’utilisation de ChatGPT sur sa plateforme ?

Immunefi est une plateforme qui récompense les white hackers qui trouvent et font des rapports sur des vulnérabilités Blockchain. Elle a pris la décision de bannir les utilisateurs qui se servent de ChatGPT pour générer les rapports de Bug. Le plus surprenant ? le logiciel d’intelligence artificielle est lui-même d’accord avec ce bannissement.

#ImmunefiStats

We've permanently banned 15 people so far for submitting ChatGPT reports.

— Immunefi (@immunefi) January 11, 2023

ChatGPT, une intelligence artificielle pas si intelligente ?

Sur son compte Twitter, la plateforme qui lutte contre les piratages Defi déclare : « Jusqu’à présent, nous avons définitivement banni 15 personnes pour avoir soumis des rapports ChatGPT. » Relayant une publication Coindesk, la plateforme continue en expliquant sa décision dans un autre Tweet : « Il y a une différence entre quelque chose comme GitHub Copilot et ChatGPT. Avec le premier, vous dirigez le processus et le rôle de Copilot est d’offrir des suggestions utiles dans le contexte, que vous acceptez ou rejetez lorsque vous écrivez votre programme. 

Avec ce dernier, vous utilisez une seule invite pour générer quelque chose qui ressemble à un rapport de bogue bien écrit, mais qui n’a aucun sens lorsqu’on l’analyse plus en détail. » Elle termine en disant : « Cela fait perdre du temps au white hat, à Immunefi et aux projets. C’est pourquoi nous interdisons les rapports ChatGPT ». Entre temps, on a enregistré le bannissement de deux autres utilisateurs, portant le nombre total de bannis à 17.

Que pense ChatGPT de son bannissement de la plateforme Immunefi ?

ChatGPT, l’intelligence artificielle développée par OpenAI aurait du mal à rédiger des rapports, mais l’IA n’a aucun problème avec son bannissement. D’ailleurs, Immunefi a demandé à ChatGPT pourquoi l’IA pense qu’on ne devrait pas l’utiliser elle-même pour générer des rapports de bug. ChatGPT a répondu : « Ce n’est généralement pas une bonne idée de soumettre des rapports de bugs à partir de ChatGPT ou de tout autre modèle de génération de langage. En effet, les modèles de génération de langage tels que ChatGPT ne sont pas conçus pour diagnostiquer ou identifier les problèmes techniques. Au lieu de cela, ils sont formés pour produire des textes de type humain basés sur les commentaires qu’ils ont reçus. »

Immunefi n’exclut toutefois pas la possibilité de réintégrer des logiciels IA pour les rapports de bug à l’avenir. Ce type de logiciel pourrait être la solution pour lutter contre les nombreuses attaques Blockchain.