Dans le cadre d’une enquĂŞte europĂ©enne coordonnĂ©e par l’ONG Fair Trials, La Quadrature du Net s’est chargĂ©e d’enquĂŞter sur les polices françaises et publie un rapport complet sur leurs pratiques numĂ©riques de « police prĂ©dictive ». Cinq logiciels sont Ă©tudiĂ©s, utilisĂ©s par la police nationale (PredVol, RTM), la gendarmerie (PAVED) ou des polices municipales (Smart Police, M-Pulse).
La « police prĂ©dictive » est un rĂŞve de policier : faire entrer dans un logiciel toutes les donnĂ©es possibles, des procès-verbaux de police, des mains courantes et des plaintes, des donnĂ©es fournies par les pompiers, les hĂ´pitaux, le trafic routier, et mĂŞme la mĂ©tĂ©o, pour prĂ©voir grâce Ă la puissance de l’intelligence artificielle (cette dĂ©esse) et des algorithmes (ses elfes), les lieux et les moments oĂą les dĂ©linquants vont sĂ©vir. AgrĂ©geant des montagnes de donnĂ©es et les passant Ă la moulinette de logiciels conçus dans d’autres buts plus sĂ©rieux (la prĂ©vision des tremblements de terre, par exemple), ces outils n’ont jamais dĂ©montrĂ© une efficacitĂ© supĂ©rieure Ă celle d’un agent expĂ©rimentĂ©. Ils risquent en plus d’amplifier les discriminations structurelles auxquelles participe dĂ©jĂ l’institution policière. Cela n’a pas empĂŞchĂ©, aux États-Unis, en Grande-Bretagne ou en France, que des sommes considĂ©rables leur soient consacrĂ©es, dans l’espoir d’affecter les effectifs de police au bon endroit au bon moment, grâce aux prophĂ©ties des logiciels.
C’est une lecture en deux temps que nous vous proposons.
D’une part le rapport en lui-mĂŞme, qui prĂ©sente avec beaucoup de prĂ©cision les logiciels, leurs finalitĂ©s, leur fonctionnement, les donnĂ©es qu’ils exploitent, et les consĂ©quences pratiques qu’ils entraĂ®nent pour le travail des agents. Un document de rĂ©fĂ©rence sur le sujet, qui croise des informations techniques et opĂ©rationnelles, apporte des Ă©lĂ©ments historiques et met en lien ces « innovations » avec d’autres tendances qui traversent les politiques de sĂ©curitĂ©.
D’autre part, un article introductif qui propose une synthèse thĂ©matique des prĂ©supposĂ©s qui entourent ces outils policiers (prĂ©jugĂ©s sociaux, corrĂ©lations approximatives, choix techniques arbitraires) et de leurs consĂ©quences (automatisation et renforcement des logiques de stigmatisation sociale, gĂ©ographique, etc.). MalgrĂ© leur nullitĂ© et leur nocivitĂ© dĂ©montrĂ©es, ces outils continuent d’ĂŞtre en usage en France. Notre article se termine donc sur un appel Ă tĂ©moignages : aidez-nous Ă faire interdire les outils de la rĂ©pression policière automatisĂ©e !
Lire l’article : https://www.laquadrature.net/2024/01/18/la-police-predictive-en-france-contre-lopacite-et-les-discriminations-la-necessite-dune-interdiction/
Lire le rapport : https://www.laquadrature.net/wp-content/uploads/sites/8/2024/01/20240118_LQDN_policepredictive.pdf
LĂ©galisĂ©e par la loi Jeux Olympiques en mai 2023, l’utilisation « expĂ©rimentale » de la vidĂ©osurveillance algorithmique (VSA) est entrĂ©e dans sa phase d’application. Les entreprises candidates pour les essais prĂ©alables ont reçu leur part du marchĂ© : chacune sait dĂ©sormais dans quelle zone (il y en a 4), et dans quel secteur d’activitĂ© elles pourront dĂ©ployer leurs logiciels de surveillance automatisĂ©e (enceintes sportives, espaces publics, transports, etc.).
N’ayant pas le temps ni les compĂ©tences de dĂ©velopper lui mĂŞme ces solutions, le ministère de l’IntĂ©rieur a choisi la facilitĂ©, c’est-Ă -dire d’acheter sur le marchĂ© des outils dĂ©jĂ existants. Et sans surprise, on retrouve dans la liste des entreprises retenues tous les « suspects habituels » dont nous suivons le travail depuis plusieurs annĂ©es dans notre campagne Technopolice.
Rien d’Ă©tonnant bien sĂ»r dans le fait de confier un travail Ă ceux qui le font dĂ©jĂ depuis plusieurs annĂ©es, mĂŞme si c’Ă©tait jusqu’alors de manière illĂ©gale. Mais c’est surtout l’entĂ©rinement d’une logique purement opĂ©rationnelle oĂą les fantasmes policiers et la stratĂ©gie industrielle marchent main dans la main. Cet Ă©tat de fait entraĂ®ne Ă nos yeux les plus grands dangers : la discussion politique et la prudence dĂ©mocratique sont Ă©vacuĂ©es et annulĂ©es par la logique unie de l’industrie et de la police, l’une rĂ©pondant aux vĹ“ux de l’autre, l’autre validant seule les propositions techniques de l’une. Le « comitĂ© de pilotage » du dispositif au sein de ministère de l’IntĂ©rieur est d’ailleurs dirigĂ© par une haute fonctionnaire spĂ©cialiste des « industries et innovations de sĂ©curitĂ© », et chargĂ©e de faciliter les partenariats entre la puissance publique et les entreprises privĂ©es nationales. Les citoyens et leurs droits ne sont pas invitĂ©s Ă la table.
Les dispositifs de VSA vont donc se dĂ©ployer dans les semaines qui viennent, et la pĂ©riode d’expĂ©rimentation durera bien au-delĂ des JO de Paris, jusqu’en mars 2025, lors d’Ă©vènements d’ordre « rĂ©crĂ©atif, sportif et culturel » (le dĂ©lassement oui, mais sous surveillance). Un « comitĂ© d’Ă©valuation » constituĂ© de deux « collèges » aura son mot Ă dire sur les rĂ©sultats de ces expĂ©riences. On n’attend rien de surprenant venant du collège des utilisateurs eux-mĂŞmes (police et autres), et notre attention se portera sur le second collège qui doit rĂ©unir des chercheurs, des juristes et des parlementaires — nous verrons. Pour l’heure, tout est en place pour valider Ă l’avance le succès et la pĂ©rennisation de ces mesures exceptionnelles — « Plus vite, plus haut, plus fort ».
Vous trouverez dans l’article le dĂ©tail des cas d’usage, les noms des entreprises retenues, et le dĂ©tail du dispositif d’Ă©valuation, avec ses comitĂ©s et ses collèges. Bonne lecture Ă vous !
Lire l’article : https://www.laquadrature.net/2024/01/26/vsa-et-jeux-olympiques-coup-denvoi-pour-les-entreprises-de-surveillance/
L’Union europĂ©enne travaille sur un règlement autour de l’intelligence artificielle (IA), dont le texte a Ă©tĂ© rendu public en dĂ©cembre 2023. Sous la pression de plusieurs États, la France en tĂŞte, le texte se contente d’encadrer l’utilisation des techniques de surveillance biomĂ©trique de masse (SBM), qui recoupent en partie les applications de la vidĂ©osurveillance algorithmique (VSA), au lieu de les interdire. Le continent qui se targue d’avoir enfantĂ© les droits de l’Homme et la libertĂ© dĂ©mocratique ne trouve donc aucune raison de s’opposer Ă la surveillance systĂ©matique et massive des citoyens.
La reconnaissance des Ă©motions ou des couleurs de peaux ont par exemple passĂ© les filtres dĂ©mocratiques et se retrouve autorisĂ©e par le règlement IA. De mĂŞme pour la reconnaissance faciale a posteriori, d’abord rĂ©servĂ©e Ă des crimes graves et dĂ©sormais acceptĂ©e dans bien d’autres cas, sans limites claires.
La coalition europĂ©enne Reclaim Your Face, dont fait partie La Quadrature du Net, a publiĂ© le 18 janvier un communiquĂ© de presse en anglais et en allemand pour avertir des dangers rĂ©els et imminents qui pèsent sur l’ensemble des EuropĂ©ens, quelques semaines avant des Ă©lections europĂ©ennes dont on dit qu’elles verront probablement les partis d’extrĂŞme-droite sortir vainqueurs. Nous publions sur notre site la version française de ce communiquĂ©.
Lire l’article : https://www.laquadrature.net/2024/01/19/le-reglement-europeen-sur-lia-ninterdira-pas-la-surveillance-biometrique-de-masse/
Comme bon nombre d’associations, nous sommes en campagne de soutien pour financer notre travail en 2024. C’est pour nous l’occasion de présenter les grands chantiers qui nous attendent, principalement la lutte contre les algorithmes de contrôle social dans les administrations, la défense du droit au chiffrement des communications, la promotion de l’interopérabilité des services Web, et la réflexion nécessaire autour du numérique dans le contexte de la crise écologique mondiale.
Nous avons besoin de vous pour travailler en 2024 ! N’hésitez pas à faire un don de soutien à l’association, ou à faire connaître notre campagne de dons autour de vous. Merci pour votre aide !
Présentation des grands chantiers de 2024 : https://www.laquadrature.net/donner/ et https://www.laquadrature.net/2023/11/15/de-nouveaux-combats-pour-2024/
Faire un don pour soutenir La Quadrature : https://don.laquadrature.net/
Ă€ Ă©couter
Algorithmes administratifs
GAFAM et données personnelles
Divers