World ID : Le protocole indispensable à l'ère de ChatGPT ?

Le projet Worldcoin, financé par Sam Altman, le CEO d’OpenAI, a récemment annoncé le lancement d’un protocole d’identité ouvert et permissionless : World ID. Il permet aux individus de vérifier leur nature humaine en ligne tout en conservant leur anonymat grâce aux preuves à divulgation nulle de connaissance, les fameux zero knowledge proof. Cette initiative semble cruciale à l’ère du règne des IA où la notion d’identité humaine est plus que jamais menacée dans le Cyberespace.

World ID : prouver son humanité sous le règne des IA

Les capacités de l’IA se rapprochent rapidement de celles des humains et les ont déjà surpassées dans de nombreux domaines spécialisés. L’essor des modèles de langage (LLM) ces dernières années a permis aux machines d’élargir leur spectre de compétences grâce à la maîtrise de la langue.

Le coût d’accès à des modèles d’IA de plus en plus puissants se réduit continuellement depuis quelques années. Les modèles de génération d’images Stable Diffusion ou Midjourney permettent entre autres de générer des deep fakes. Le modèle de langage LLaMA de Meta a été publié et peut être exécuté sur un ordinateur portable. 

Certains estiment que le règne de l’IA approche à grand pas.

Distinguer l’homme de la machine intelligente

Les avancées en intelligence artificielle rendent toutefois difficile la distinction entre l’IA et les humains sur Internet. Jusque très récemment, nous jugions les messages basés sur le texte suffisants pour établir la nature humaine derrière un acteur numérique. Ce temps est bientôt révolu.

Les bots sont présents sur les plateformes de médias sociaux et participent à des campagnes de manipulation depuis un certain temps. Cependant, dans la plupart des cas, il était possible de les différencier des utilisateurs humains authentiques. Aujourd’hui, l’IA moderne a déjà réussi le Test de Turing ou est très proche de le faire. Cela rendra impossible à l’avenir de déterminer le caractère humain en se basant uniquement sur l’intelligence ou la maîtrise de la langue.

De plus, les récentes usurpations d’identité à l’aide de deep fakes ont montré que même la génération de vidéo ne suffira sans doute plus à prouver notre humanité. Prouver son humanité dans le domaine numérique sera sans conteste un outil essentiel dans ce nouveau chapitre de l’histoire humaine.

Alors qu’il existe diverses approches sur la façon dont une « preuve de personne » pourrait finir par être mise en œuvre, il est crucial qu’une infrastructure aussi importante privilégie la vie privée, la souveraineté individuelle, l’inclusivité et la décentralisation afin d’éviter de basculer dans un scénario dystopique.

World ID et Intelligence Artificielle

« Worldcoin construit le plus grand réseau d’identité et financier du monde en tant que service public. Notre objectif est de créer un accès universel à l’économie mondiale, quel que soit le pays ou l’origine, et d’accélérer la transition vers un avenir économique qui accueille et profite à tous les habitants de la planète. World ID permettra finalement au protocole d’être gouverné par le peuple, garantissant que le protocole profite à tous. », site internet de Worldcoin.

The Orb never needs to store or upload images since they are processed locally on the device.

Both World ID and the World App are self-custodial.

Most importantly, the user stays anonymous through zero-knowledge proofs. https://t.co/nO3rz4vLHW

— Alex Blania (@alexblania) March 31, 2023

En réponse à ce défi, le projet Worldcoin a lancé un protocole d’identité ouvert appelé World ID. Les individus peuvent réaliser une authentification humaine unique à travers un dispositif biométrique sécurisé, tout en préservant leur vie privée. Cela ouvre la voie à un revenu universel de base financé par l’IA et non tributaire d’un État, ainsi qu’à une distribution équitable de cryptomonnaies à l’échelle mondiale.

Cette machine de pointe utilise plusieurs réseaux neuronaux pour valider l’identité humaine sans stocker aucune donnée d’image. World ID permet donc à chacun de prouver son humanité en ligne sans nécessiter un tiers. Le protocole utilise des preuves à divulgation nulle de connaissance pour maximiser la confidentialité et sera finalement gouverné par les gens grâce à une décentralisation du projet.

La nécessité d’une preuve de personne (PoP) face aux IA

L’IA générative avancée introduit la nécessité de deux mécanismes pour améliorer la confiance en ligne :

• Limiter le nombre de comptes que chaque individu peut créer pour se protéger contre les attaques Sybil. Cela est particulièrement pertinent pour permettre une gouvernance numérique et décentralisée et pour distribuer équitablement des ressources rares comme un revenu de base universel (RBU).
• Prévenir la diffusion de contenu généré par l’IA, qui est pratiquement indiscernable du contenu créé par l’homme, pour tromper ou diffuser de la désinformation à grande échelle.

Bien qu’il n’y ait pas de solution miracle, la preuve de personne répond à ces deux défis.

L’authentification des comptes via PoP fournit une limitation naturelle qui élimine les attaques Sybil. Les gens pourraient naturellement authentifier des bots, mais ce n’est pas scalable. Par exemple, la création de 1 000 comptes de bots nécessiterait de trouver 1 000 utilisateurs humains prêts à vérifier constamment leur authenticité.

Distinguer le contenu créé par l’homme du contenu généré par l’IA est plus difficile. Il est important de noter que le contenu généré par l’IA n’est pas nécessairement indésirable. Cela ne devient un problème que s’il est utilisé pour diffuser de la désinformation de manière crédible et à grande échelle.

PoP permet aux utilisateurs de choisir des interactions exclusivement avec des comptes authentifiés ou du contenu vérifié. De la même manière que les utilisateurs peuvent filtrer différents types de contenu sur les médias sociaux (par exemple, les pages « Abonnements » et « Pour Vous » sur Twitter), PoP facilite le filtrage du contenu produit par des comptes humains.

Introducing Worldcoin, a new cryptocurrency that will be distributed fairly to as many people as possible.

Details about how it works: https://t.co/DLcAmUA4u3 pic.twitter.com/xC3W2U6Xi3

— Sam Altman (@sama) October 21, 2021

Un monde avec la preuve de personne

Avec l’avancement de l’IA, une distribution d’une partie de la valeur créée par le biais du revenu universel jouera un rôle de plus en plus vital pour contrer la concentration du pouvoir économique. Pour garantir que chaque individu ne s’inscrit qu’une seule fois et pour garantir une distribution équitable, un protocole mondial de preuve de personne est nécessaire. Cela est particulièrement pertinent dans les économies en développement, où les programmes d’aide sociale sont confrontés au problème de la capture des ressources.

En 2021, l’Inde a économisé 5 milliards de dollars dans des programmes de subventions en mettant en œuvre un système basé sur les biométries qui a réduit la fraude. Un protocole décentralisé de preuve de personne peut étendre des avantages similaires à n’importe quel projet ou organisation à l’échelle mondiale, permettant un partage de valeur plus important avec les utilisateurs et un alignement des incitations.

Lutter contre le spam

De plus, en traitant exclusivement les messages vérifiés par des humains, la preuve de personne pose les bases d’un filtrage avancé du spam et rend inutiles les CAPTCHA ou la protection contre les DDoS du navigateur, offrant une expérience utilisateur fluide.

La preuve de personne permet également de créer des scores de réputation en empêchant efficacement la création de plusieurs comptes.

Le futur de la démocratie ?

Les projets Web3 reposent souvent sur une gouvernance basée sur des tokens (un token, un vote), ce qui peut exclure certains individus et favoriser de manière disproportionnée ceux qui ont un plus grand pouvoir économique. À ce jour, seuls quelques projets ont exploré le vote démocratique réel.

En regardant en arrière, il sera difficile de croire qu’il y a eu un moment où il n’y avait pas de moyen simple et respectueux de la vie privée pour s’authentifier sur Internet.

Les défis de la preuve de personne

Lors de l’évaluation des approches pour construire une preuve de personne à l’échelle mondiale, plusieurs considérations importantes sont à prendre en compte :

• Vie privée. Toutes les interactions doivent être anonymes par défaut.

• Souveraineté. Les utilisateurs doivent toujours être en contrôle de leurs comptes, de leurs données et de la manière dont elles sont partagées.

• Résistance à la fraude. Le mécanisme doit être capable de prévenir les doubles inscriptions. Un mécanisme peu fiable qui permet des inscriptions multiples restreindrait sévèrement l’espace de conception des applications possibles.

I think Worldcoin is more privacy-preserving than centralized services we use today. All Worldcoin, or anyone, could ever tell is if someone has already signed up for the service.

The hash is cryptographically decoupled from the wallet and all future transactions.

— Sam Altman (@sama) October 23, 2021

Mécanismes alternatifs à la preuve de personne

La tentative la plus simple pour établir une preuve de personne à grande échelle implique l’utilisation de comptes existants tels que les emails, les numéros de téléphone et les réseaux sociaux. Cependant, cette méthode échoue car une personne peut avoir plusieurs comptes sur chaque type de plateforme.

De plus, les CAPTCHA, que l’on utilise couramment pour prévenir les bots, sont inefficaces ici car n’importe quel humain peut en passer plusieurs. Même les implémentations les plus récentes, qui s’appuient essentiellement sur un système de réputation interne, ont leurs limites. En théorie, on pourrait utiliser cela à l’échelle mondiale, mais en pratique, cela échoue pour plusieurs raisons.

On ne peut tout simplement pas appliquer les services KYC à l’échelle mondiale : plus de 50% de la population mondiale n’a pas d’identité vérifiable numériquement. De plus, il est difficile de construire une vérification KYC qui respecte la vie privée. Lorsqu’on utilise des fournisseurs KYC, on doit partager des données sensibles.

Autre méthode : l’analyse du graphe social. On pourrait en théorie déduire d’un réseau de relations que les utilisateurs ayant plus de 5 amis sont plus susceptibles d’être de vrais utilisateurs. Si la création de relations supplémentaires est suffisamment difficile, chaque utilisateur ne pourra maintenir qu’un seul profil avec des relations sociales riches, qui pourra servir de preuve d’identité humaine (PoP) pour l’utilisateur.

Finalement, ces approches exigent d’abandonner complètement la notion d’être humain unique, en acceptant la possibilité que certaines personnes puissent posséder plusieurs comptes. Ainsi, l’approche de l‘analyse du graphe social ne répond pas non plus à l’exigence de résistance à la fraude pour la PoP.

World ID : le recours à la biométrie

Chacun des systèmes décrits ci-dessus échoue à vérifier efficacement l’unicité à l’échelle mondiale. Le seul mécanisme qui satisfait toutes les exigences de la PoP dans des environnements à grande échelle est la biométrie. Le gouvernement indien a prouvé l’efficacité de la biométrie en mettant en œuvre le système Aadhaar, économisant 5 milliards de dollars par an en fraude.

Bien que cela puisse sembler contre-intuitif, on peut construire des systèmes biométriques de manière très respectueuse de la vie privée, car on n’a pas besoin de sauvegarder les images. La décentralisation du système de vérification est même possible.

Différents systèmes ont des exigences différentes. Authentifier un utilisateur via Face ID en tant que propriétaire légitime d’un téléphone est très différent de vérifier des milliards de personnes comme uniques.

Le séquençage de l’ADN pourrait en théorie fournir une précision suffisante, mais l’ADN révèle beaucoup d’informations privées supplémentaires sur l’utilisateur (au moins à la partie qui effectue le séquençage). De plus, il est difficile de passer à l’échelle d’un point de vue économique.

Quel matériel pour vérifier les identités humaines ?

La voie la plus rapide et la plus évolutive serait d’utiliser des smartphones. Cependant, les caméras de smartphones sont insuffisantes pour la biométrie de l’iris en raison de leur faible résolution, ce qui diminue la précision.

Pour la preuve de personne, la dimension la plus importante n’est pas l’identification (c’est-à-dire répondre à la question « Est-ce que quelqu’un est qui il prétend être? »), mais plutôt prouver que quelqu’un ne fait pas encore partie de l’ensemble (c’est-à-dire répondre à « Cette personne est-elle déjà enregistrée? »).

Une attaque réussie sur un système de preuve de personne ne nécessite pas que l’attaquant usurpe l’identité d’un individu existant. Il suffit que l’attaquant ait l’air différent de tous ceux qui se sont inscrits jusqu’à présent. Les téléphones manquent de caméras multi-angles ainsi que d’un éclairage suffisamment performant pour détecter avec une grande confiance les tentatives de contrefaçon.

World ID : le projet titanesque ?

Le projet Worldcoin a établi un mécanisme de preuve de personne basé sur un appareil matériel utilisant la biométrie de l’iris car c’est la seule approche pour garantir l’inclusivité (c’est-à-dire que tout le monde peut s’inscrire quel que soit son lieu ou son origine) et la résistance à la fraude. L’appareil matériel délivre des justificatifs de preuve de personne résistants à l’IA.

L’émission de l’attestation préserve la vie privée, car le système ne conserve aucune image. L’utilisation de l’attestation ne révèle aucune information sur l’individu, puisque le protocole utilise des preuves à divulgation nulle de connaissance.

Cerise sur le gâteau : Worldcoin vient de lever 100 millions de dollars pour financer ses développements.

OpenAI’s Sam Altman nears $100mn funding for Worldcoin crypto project https://t.co/YQZnYsUVAW

— Financial Times (@FinancialTimes) May 14, 2023

Le projet Worldcoin vient de lancer un protocole permettant aux humains de se distinguer des autres humains et des IA en ligne. Cette initiative jette les bases d’une identité numérique globale pour autonomiser les individus. Associée à une couche financière, elle permet de partager la richesse et de construire l’infrastructure pour un revenu de base universel (RBU) global financé par l’IA, indépendant des États.