Comment fonctionne la détection de ressemblance IA, et pourquoi les plateformes se précipitent pour la développer
Alors que les images et vidéos truquées générées par IA se propagent rapidement en ligne, les plateformes de réseaux sociaux commencent à développer des outils permettant aux utilisateurs de détecter quand leur propre visage a été utilisé sans autorisation. Dernière initiative de TikTok en ce sens : un outil facultatif en cours de test qui permet aux utilisateurs de rechercher des « ressemblances IA » non autorisées les représentant.
Repérée par le consultant en réseaux sociaux Matt Navarra, la fonctionnalité est actuellement en phase de test limitée auprès de « certains » créateurs aux États-Unis. Zachary Kizer, porte-parole de TikTok aux États-Unis, a confirmé que l'outil est conçu pour analyser le contenu circulant sur la plateforme afin de détecter les images générées par IA utilisant le visage d'un utilisateur sans son consentement.
Un détail important sur le fonctionnement de l'outil est que les utilisateurs doivent d'abord vérifier leur identité. Les créateurs souhaitant participer au test doivent se soumettre à un scan de selfie en temps réel et à une vérification de pièce d'identité via une entreprise appelée Jumio, une couche de sécurité conçue pour confirmer que l'outil appartient réellement à cette personne.
Selon Kizer, TikTok ne conserve pas les documents d'identité ni les données faciales ; ces informations sont supprimées une fois le processus de vérification terminé. Ce type de garantie en matière de confidentialité est essentiel pour convaincre les utilisateurs de partager des données biométriques sensibles, le risque de mauvaise utilisation des données de reconnaissance faciale relevant de la même catégorie de problème que celui que l'outil vise à résoudre.
TikTok n'est pas seul dans cette démarche. YouTube travaille sur un outil similaire et l'a récemment rendu disponible à tous les utilisateurs adultes. Le fait que deux grandes plateformes aient développé des outils comparables dans un délai similaire suggère que les faux contenus générés par IA sont devenus un problème partagé et urgent pour les grandes plateformes.
La force motrice derrière ces outils tient au fait que la technologie des deepfakes est devenue à la fois plus accessible et plus convaincante ces dernières années. Des vidéos truquées qui nécessitaient autrefois une expertise technique peuvent désormais être générées en quelques minutes avec des applications grand public, un risque grandissant pour les célébrités, les responsables politiques et les utilisateurs ordinaires.
Les experts rappellent toutefois les limites de ces outils de détection. Un système de recherche de « ressemblance IA » ne peut analyser que le contenu hébergé sur les serveurs de cette plateforme ; si le visage d'un utilisateur est détourné sur une autre plateforme ou dans des applications de messagerie fermées, ces outils n'ont aucune capacité de le détecter.
Malgré cela, la demande pour ce type de fonctionnalité est forte chez les créateurs. Les personnes ayant un large public s'inquiètent en particulier de voir leur visage utilisé sans autorisation pour fabriquer de faux témoignages, des publicités frauduleuses ou du contenu destiné à nuire à leur réputation.
La diffusion de tels outils montre que les plateformes investissent désormais non seulement dans des systèmes réactifs de signalement pour les problèmes de contenu généré par IA, mais aussi dans des systèmes proactifs que les utilisateurs peuvent exécuter eux-mêmes. Cela intervient à un moment où la pression réglementaire et publique sur les plateformes concernant cette question s'intensifie.
L'outil de TikTok reste en phase de test limitée et on ignore quand il pourrait être déployé plus largement, mais la décision de YouTube d'ouvrir sa propre version à tous les utilisateurs adultes laisse penser que TikTok pourrait à terme suivre une voie similaire.
À lire ensuite
Les essaims d'agents expliqués : comment l'exécution simultanée de nombreux modèles d'IA transforme l'économie des coûts
Un nombre croissant d'outils de codage par IA déploient désormais des dizaines d'agents IA travaillant en parallèle sur une tâche, plutôt que de s'appuyer sur un seul modèle. Voici ce qu'est réellement un « essaim d'agents », pourquoi cela change le calcul des coûts liés au développement logiciel assisté par IA, et quels compromis il introduit.
AliExpress écope d'une amende record de 625 millions de dollars de l'UE pour des jouets et cosmétiques dangereux
L'Union européenne a infligé à AliExpress une amende record de 625 millions de dollars en vertu de son règlement sur les services numériques, après que la place de marché en ligne n'a pas retiré des annonces de jouets dangereux et de cosmétiques nocifs malgré des avertissements répétés. L'entreprise dit être choquée par l'ampleur de la sanction.
SpaceX dans votre fonds indiciel, expliqué
Les fonds indiciels sont présentés comme l'un des moyens d'investissement les plus sûrs et les plus passifs, répartissant le risque sur l'ensemble du marché plutôt que de miser sur des entreprises individuelles. Alors que SpaceX se dirige vers une introduction en bourse à une valorisation d'environ 1 770 milliards de dollars, les investisseurs ordinaires en fonds indiciels pourraient finir par en détenir une part, qu'ils l'aient voulu ou non.
Pourquoi Google conçoit sa propre puce IA, et ce que cela signifierait pour Gemini
La maison mère de Google, Alphabet, développerait selon plusieurs sources une nouvelle puce destinée à rendre ses modèles d'IA Gemini beaucoup plus efficaces. Voici pourquoi les puces sur mesure comptent autant pour les entreprises d'IA en ce moment, et ce qu'un Gemini plus efficace pourrait signifier en termes de coûts et de capacités.
L'accord historique de 1,5 milliard de dollars d'Anthropic sur le droit d'auteur reçoit son approbation finale
Un tribunal américain a accordé son approbation définitive à l'accord de 1,5 milliard de dollars conclu par Anthropic concernant l'utilisation de livres protégés par le droit d'auteur pour entraîner ses modèles d'IA, clôturant l'une des affaires juridiques les plus suivies du secteur. Cet accord règle ce litige précis, mais laisse en suspens la question plus large de la formation des IA et du droit d'auteur.