Ontology appelle à la vérification humaine dans les données d'entraînement de l'IA sans sacrifier la vie privée

Ontology attire l'attention sur un problème croissant dans le monde de l'IA : comment prouver qu'une donnée d'entraînement provient d'une vraie personne sans transformer l'ensemble du processus en cauchemar pour la vie privée ?

Dans une publication récente, le projet a soutenu que la réponse ne devrait pas être davantage de surveillance. Au lieu de demander aux contributeurs de fournir des selfies, des pièces d'identité, des scans biométriques et d'autres informations personnelles, Ontology affirme que l'industrie devrait s'appuyer sur des identifiants vérifiables et la divulgation sélective, afin que les gens puissent prouver qu'ils sont humains sans tout révéler sur eux-mêmes.

Cette idée est plus importante aujourd'hui qu'elle ne l'était il y a un an. La conversation autour des données d'entraînement pour l'IA a clairement évolué. Elle portait autrefois principalement sur l'échelle, le volume et la quantité de données que l'on pouvait collecter. Désormais, la grande question est de savoir d'où proviennent ces données, si elles sont réellement produites par des humains, et dans quelle mesure elles ont déjà été polluées par des contenus synthétiques.

Cette préoccupation n'est plus une question de niche. Elle est devenue l'un des plus grands casse-têtes auxquels font face les équipes d'IA qui cherchent à construire des modèles plus fiables et plus propres. Ontology affirme que le marché commence déjà à traiter la preuve d'humanité comme un actif précieux. Les données humaines vérifiées deviennent quelque chose pour lequel les entreprises pourraient avoir à payer plus cher.

La demande augmente, mais l'offre est limitée, et la manière dont de nombreuses plateformes prévoient de vérifier les personnes est, selon l'entreprise, profondément défaillante. Le chemin le plus facile pour la plupart des plateformes est aussi le plus intrusif.

Si elles veulent savoir si quelqu'un est humain, elles demandent généralement de plus en plus d'informations personnelles. Elles peuvent exiger un selfie, une pièce d'identité gouvernementale, une vérification de vivacité, un suivi comportemental, une empreinte digitale de l'appareil, ou un mélange de tout ce qui précède.

Chaque couche peut renforcer la confiance dans la vérification, mais elle signifie aussi que l'utilisateur cède davantage de sa vie privée. Au fil du temps, la personne qui tente de prouver qu'elle est réelle est réduite à un ensemble de points de données stockés sur les systèmes d'autrui. Ontology soutient qu'il s'agit du mauvais compromis.

L'entreprise affirme que le problème n'est pas que les gens ont besoin d'être vérifiés. Le problème est que le modèle actuel suppose que la vérification doit s'accompagner d'une exposition permanente. C'est ce qui se passe lorsque l'industrie utilise des outils centralisés conçus pour collecter le maximum de données possible. En pratique, l'humain devient le coût de la confiance.

La véritable percée

L'alternative qu'Ontology préconise est fondée sur le W3C Verifiable Credentials Data Model 2.0, annoncé en tant que Recommandation en mai 2025. L'idée est assez simple, même si la cryptographie qui la sous-tend ne l'est pas : un émetteur de confiance, tel qu'un gouvernement, une banque ou un prestataire de vérification, peut confirmer une information sur une personne une seule fois, et cet identifiant peut résider sur l'appareil de l'utilisateur lui-même.

Lorsqu'une plateforme a ultérieurement besoin de savoir si cette personne est humaine, l'utilisateur peut présenter une preuve cryptographique au lieu de transmettre l'intégralité du dossier sous-jacent. Cela signifie que le vérificateur obtient ce dont il a besoin, et rien de plus.

Il apprend qu'un émetteur de confiance a confirmé que la personne est humaine. Il ne voit pas le fichier d'identité complet de la personne, ses données biométriques ou d'autres informations supplémentaires. L'émetteur n'a pas besoin d'être contacté à chaque utilisation de l'identifiant, et l'utilisateur ne laisse pas derrière lui une traçabilité d'identifiants liables sur différentes plateformes.

Ontology affirme que la véritable percée ici est la divulgation sélective. C'est ce qui rend le système genuinement respectueux de la vie privée. Un identifiant peut contenir beaucoup d'informations, mais l'utilisateur ne révèle que les éléments pertinents pour la demande spécifique. Ainsi, si une plateforme n'a besoin que d'une preuve d'humanité, elle obtient exactement cela et rien d'autre.

Aucune donnée personnelle supplémentaire, aucune donnée biométrique, aucun fragment de profil réutilisable qui pourrait être assemblé ultérieurement. L'entreprise a également mentionné ses propres travaux en matière d'identité décentralisée, notamment ONT ID et le ONTO Wallet, comme exemples concrets de cette approche.

Selon Ontology, ces outils sont conçus pour conserver les identifiants sur l'appareil et permettre aux utilisateurs de générer des preuves localement, sans exposer leurs données privées aux émetteurs ou aux vérificateurs. Le point essentiel, cependant, ne concerne pas uniquement Ontology. Il s'agit de la direction que prend l'infrastructure de l'IA.

Alors que les entreprises s'empressent d'assainir leurs données d'entraînement et de déterminer ce qui peut encore être fiable, la pression pour vérifier les contributeurs humains ne fera que croître. La vraie question est de savoir si l'industrie résout ce problème en intégrant davantage de surveillance dans la chaîne, ou en utilisant des systèmes qui permettent aux gens de prouver qu'ils sont réels sans renoncer à leur vie privée dans le processus.

Ontology mise clairement sur la deuxième option. Et alors que les entreprises d'IA s'inquiètent désormais davantage de la provenance que de la quantité brute, ce pari pourrait commencer à ressembler moins à un argument de niche sur la vie privée et davantage à une exigence pratique pour la prochaine phase de collecte de données pour l'IA.