Les nouvelles générations d’IA sont de plus en plus performantes. Elles ne sont plus limitées aux informations integrées par leurs créateurs, mais désormais aussi nourries de toutes les données qu’elles trouvent en ligne. On parle ici de toutes les news, questions, forums et autres plateformes, mais aussi de toutes les données que vous avez partagées et/ou qui vous concernent (photos, publications, messages, profils, CV, actualités, etc…). Flippant? Attendez la suite.

En 2020, un article du NYT intitulé “la société secrète qui pourrait mettre fin à votre vie privée telle que vous la connaissez” révèle qu’une société américaine a mis au point un système de reconnaissance faciale ultrapuissant qui permet de reconnaitre n’importe qui à partir d’une simple photo. Cette société c’est CLEARVIEW AI.

Sa force? Avoir aspiré des millions de photographies de sites aussi variés que Facebook, Vimeo, Youtube, et Instagram pour créer la plus grande base de données au monde 😎.

Pourquoi l’activité de Clearview est un problème?

• La société a été créée par des personnalités de la droite radicale avec comme objectif de trouver tous les immigrants clandestins aux USA. Elle a d’ailleurs un juteux contrat avec les services d’immigration. On sait que Clearview vend ses services à la police, mais aussi à des sociétés commerciales, mais nous n’en connaissons pas la liste. Son activité est opaque, et a pour motto “on vous reconnaîtra, où que vous soyez”. Bye Bye privacy…

• l’IA de Clearview est biaisée et commet des erreurs: en 2023 un afro-américain a été arrêté à tort suite à une erreur de reconnaissance faciale de Clearview.

• Aucune personne présente dans cette base de données ne sait que ses données sont traitées par Clearview , ni comment ou pourquoi elles font l’objet d’un traitement.

Comment on le sait ? Parce qu’après plusieurs mois de batailles judiciaires, nous avons découvert que non seulement Clearview avait nos données, notre nom, et qu’elle connaissait notre métier, mais également qu’elle avait des photos de nous que nous n’avions jamais vues, et nous matchait avec des visages qui n’étaient pas le nôtre. Et ce, sans jamais en avoir été informé, ni sachant qui avait eu accès à nos données…

Maintenant qu’on est bien stressés, on fait quoi ?

• On remercie l’Union Européenne d’avoir créé le RGPD. Grâce à lui, nous avons pu porter plainte devant la CNIL, et Clearview a été condamnée à une amende de 20 millions d’Euros, et son activité est désormais interdite en France. Elle n’a donc ni le droit de vendre ses services, ni le droit de stocker des photographies ou le nom de personnes résidant en France*.

• On fait encore plus attention aux photographies et contenus que l’on partage en ligne maintenant que l’on sait que les IA aspirent tout ce qu’elles trouvent.

• On reste informés parce que le savoir c’est le pouvoir 💪, en regardant l’excellent documentaire de France24 sur le sujet ou en écoutant notre épisode de podcast dédié en compagnie de Jérôme Hourdeaux, journaliste chez Mediapart et auteur de l’enquête sur Clearview.

*Pour info nous avons été informés que Clearview n’a ni payé l’amende infligée par la CNIL ni supprimé nos données. N’ayant pas de siège social en Europe, c’est quasi-impossible pour la CNIL de faire respecter sa décision. Mais ne vous inquiétez pas, on y travaille 😉.