L'IA est-elle une menace pour nos libertés ?

L'exemple de la reconnaissance faciale, et des données au service de l'État

Newsletter du 28 février 2024

 

Les nouvelles générations d’IA sont de plus en plus performantes. Elles ne sont plus limitées aux informations integrées par leurs créateurs, mais désormais aussi nourries de toutes les données qu’elles trouvent en ligne. On parle ici de toutes les news, questions, forums et autres plateformes, mais aussi de toutes les données que vous avez partagées et/ou qui vous concernent (photos, publications, messages, profils, CV, actualités, etc…). Flippant? Attendez la suite.

 

En 2020, un article du NYT intitulé “la société secrète qui pourrait mettre fin à votre vie privée telle que vous la connaissez” révèle qu’une société américaine a mis au point un système de reconnaissance faciale ultrapuissant qui permet de reconnaitre n’importe qui à partir d’une simple photo. Cette société c’est CLEARVIEW AI.

 

Sa force? Avoir aspiré des millions de photographies de sites aussi variés que Facebook, Vimeo, Youtube, et Instagram pour créer la plus grande base de données au monde 😎.

 

Pourquoi l’activité de Clearview est un problème?

  • La société a été créée par des personnalités de la droite radicale avec comme objectif de trouver tous les immigrants clandestins aux USA. Elle a d’ailleurs un juteux contrat avec les services d’immigration. On sait que Clearview vend ses services à la police, mais aussi à des sociétés commerciales, mais nous n’en connaissons pas la liste. Son activité est opaque, et a pour motto “on vous reconnaîtra, où que vous soyez. Bye Bye privacy…

  • l’IA de Clearview est biaisée et commet des erreurs: en 2023 un afro-américain a été arrêté à tort suite à une erreur de reconnaissance faciale de Clearview.

  • Aucune personne présente dans cette base de données ne sait que ses données sont traitées par Clearview , ni comment ou pourquoi elles font l’objet d’un traitement.

 
 

Comment on le sait ? Parce qu’après plusieurs mois de batailles judiciaires, nous avons découvert que non seulement Clearview avait nos données, notre nom, et qu’elle connaissait notre métier, mais également qu’elle avait des photos de nous que nous n’avions jamais vues, et nous matchait avec des visages qui n’étaient pas le nôtre. Et ce, sans jamais en avoir été informé, ni sachant qui avait eu accès à nos données…

 

Maintenant qu’on est bien stressés, on fait quoi ?

 

*Pour info nous avons été informés que Clearview n’a ni payé l’amende infligée par la CNIL ni supprimé nos données. N’ayant pas de siège social en Europe, c’est quasi-impossible pour la CNIL de faire respecter sa décision. Mais ne vous inquiétez pas, on y travaille 😉.

Des recommandations culturelles en partenariat avec Vive la Culture !

La collecte de données au service de l’État

A l’heure où nous livrons volontairement (ou non) tous les détails de nos vies aux algorithmes, comment les Etats pourraient-ils ne pas s’en servir pour assurer l’ordre ?

 

Nulle part où se cacher – 2014
Glenn Grennwald – Jean-Claude Lattès

Glenn Greenwald, est l’un des trois journalistes dépositaires des documents top secret d’Edward Snowden, dont seulement 1% a été publié à ce jour. Écrit comme un thriller ce livre ne laisse aucun doute sur les intentions de la NSA : « Tout collecter », « Tout traiter », « Tout exploiter », « Tout mettre en commun », « Tout flairer », et en définitive, « Tout savoir ».

 

Brazil – 1985
Terry Gilliam – 20th Century Studios

Dans ce film futuriste, Sam Lowry, un archiviste au service d’un Etat totalitaire, est pris au piège de la bureaucratie. Les mésaventures d’un Edward Snowden ou d’un(e) Chelsea Manning rappellent que les archivistes pris de scrupules encourent aujourd’hui le même danger à sortir du système, que Sam Lowry dans “Brazil”.

 

Californium – 2016
Brice Roy – Arte France

« Californium » est un jeu vidéo conçu comme une invitation à explorer et à approfondir les sujets abordés par Philip K. Dick dans ses romans, notamment la frontière entre réalité et monde parallèle.