Amazon a mené une surveillance humaine sur les principaux centres de transport du Royaume-Uni. Le scanner facial existe depuis des années.


Des documents récemment publiés montrent qu'au cours des dernières années, l'intelligence artificielle du géant du commerce électronique a scanné les visages de milliers de passagers ferroviaires dans le pays, analysant leur âge, leur sexe, leurs émotions et d'autres caractéristiques. L'affaire concerne la Grande-Bretagne.

Les tests de surveillance de l'IA ont eu lieu dans huit gares du Royaume-Uni, dont d'immenses terminaux tels que Euston et Waterloo à Londres et Manchester Piccadilly. Les essais ont été supervisés par Network Rail, qui gère l'infrastructure ferroviaire du Royaume-Uni, dans le but de réduire la criminalité en informant rapidement le personnel des incidents de sécurité.

Les systèmes ont été formés pour détecter automatiquement les personnes traversant les voies, les foules sur les quais, les criminels potentiels tels que les voleurs de vélos, et même les « comportements antisociaux » tels que courir, crier, faire du skateboard et fumer. Des tests de capteurs séparés ont vérifié les sols glissants, les poubelles débordantes et les drains bouchés qui pourraient causer des dégâts.

Pour réaliser tout cela, Network Rail a connecté un mélange de caméras intelligentes capables de détecter des objets et des mouvements dans leurs flux vidéo, ainsi que des caméras de vidéosurveillance existantes connectées à la vision par ordinateur cloud d'Amazon, Rekognition.

Visages scannés par Amazon

Rekognition est une plate-forme de vision par ordinateur basée sur le cloud qui utilise l'apprentissage en profondeur pour analyser des images et des vidéos avec des fonctionnalités avancées telles que la reconnaissance d'objets, de texte et de visage.

Les détails proviennent de documents obtenus dans le cadre d'une demande d'information publique du groupe de défense des libertés civiles Big Brother Watch. Les documents montrent qu'entre 5 et 7 caméras ou capteurs IA ont été installés dans chaque station pour des tests jusqu'en avril 2023.

Malheureusement, la surveillance avait plus d’objectifs que simplement assurer la sécurité.

Les documents révèlent que l’IA pourrait utiliser des images de personnes pour générer « des analyses statistiques de la tranche d’âge et des données démographiques des hommes/femmes ». Elle était également capable d’analyser des émotions telles que le bonheur, la tristesse et la colère en scannant les expressions faciales. Une feuille de calcul comprenait jusqu'à 50 utilisations potentielles des systèmes de surveillance de l'IA, même si toutes n'avaient pas nécessairement été testées.

Les images ont été capturées lorsque les gens franchissaient une « ligne virtuelle » aux barrières de contrôle, puis envoyées à Rekognition d'Amazon pour analyse. Une idée mentionnée dans les documents était d'utiliser ces données pour optimiser la publicité et augmenter les revenus de vente au détail sur la base d'une « mesure de la satisfaction des passagers ».

Infraction grave

Un porte-parole de Network Rail a déclaré à Wired que l'agence prend la sécurité ferroviaire très au sérieux et utilise des technologies de pointe, notamment l'IA, « pour protéger les passagers, notre personnel et l'infrastructure ferroviaire contre la criminalité et d'autres menaces ».

Mais les défenseurs de la vie privée affirment qu’il y a eu un manque de transparence dans l’utilisation des systèmes de surveillance par IA dans les espaces publics tels que les centres de transport.

Le potentiel d’utilisation abusive des données personnelles – tel que le profilage démographique et émotionnel à des fins publicitaires – devient particulièrement réel lorsque de grandes entreprises sont impliquées.

A lire également