Des artistes s’expriment sur la surveillance basée sur l’intelligence artificielle. Un artiste de Berlin : Simon Weckert a conçu un motif qui peut perturber le système de reconnaissance d’objets et supprimer l’étiquette « personne » d’une image. Ce n’est rien de plus qu’un cyber-camouflage, mais oubliez le « chapeau d’invisibilité ». Vous serez toujours visible dans l’enregistrement : cependant, le système deviendra stupide et ne vous identifiera ni ne vous profilera.
La démonstration révèle que l’appareil photo fonctionne très bien à moins qu’une chemise avec des taches vertes et roses floues n’apparaisse dans le cadre. La possibilité de détection disparaît subitement, même si pour l’observateur rien n’a changé : il y a toujours une personne là-bas et celui qui regarde l’écran la reconnaîtra facilement. L’auteur du projet Digital Camouflage est l’artiste berlinois Simon Weckert, connu auparavant pour avoir provoqué un embouteillage fictif sur Google Maps à l’aide d’un chariot rempli de téléphones. Cette fois, il a décidé de tromper la surveillance automatique qui analyse les personnes et leur comportement.
Le motif joue dans le mécanisme de reconnaissance de la silhouette
Permettez-moi encore une fois de faire une réserve : la chemise ne vous rendra pas absolument invisible. Cependant, il utilise une technique pour perturber le modèle, ce qui affecte des éléments importants pour l’IA. Weckert a testé des modèles aléatoires ultérieurs sur sa propre caméra avec le système YOLO, une famille d’algorithmes conçus, entre autres, pour détecter des objets en temps réel et utilisés dans de nombreuses solutions de surveillance. Il a vérifié le niveau de confiance de la classification, puis a modifié les couleurs, fait pivoter et inversé certaines parties des graphiques. Plus on s’éloigne de la reconnaissance de l’objet comme humain, mieux c’est.
Il y a une mise en garde à cela : la démonstration concerne le système YOLO populaire et accessible au public, on ne sait pas comment les autres systèmes de vision se comporteront. Il est également difficile de dire comment l’impression se comportera sous différents éclairages, angles de caméra, distances, obstructions partielles et dans une foule (où il est très facile d’être obscurci). Vous n’y trouverez pas d’anonymat : traitez-le comme une performance artistique et non comme une méthode pour parvenir à l’invisibilité à l’ère de la surveillance universelle.
Les caméras voient plus que vous ne le pensez
Aujourd’hui, les systèmes de vision permettent de classer les personnes, les véhicules et les animaux, et des installations plus avancées tentent de détecter, par exemple, les bagarres, les comportements étranges, les personnes inconscientes et les colis suspects. Pour les services, il s’agit d’un moyen de détecter les menaces plus rapidement sans que l’opérateur n’observe constamment chaque image. Toutefois, cette surveillance, conformément à l’esprit de prévention par la prédiction, s’étend également aux personnes sans intentions malveillantes. Et ces personnes peuvent être affectées, par exemple, par une fausse alerte qui peut mal se terminer.
L’artiste s’est inspiré du renforcement de la surveillance dans le quartier de Kottbusser Tor à Berlin. Il y a un peu plus d’une semaine, le Netzpolitik allemand a rapporté qu’environ 30 caméras y étaient installées pour la police de Berlin, qui, après calibrage, devaient être connectées au logiciel d’Adesso. Le système doit analyser le comportement visible dans la diffusion et alerter les opérateurs des événements suspects, mais selon l’annonce, il ne reconnaîtra pas les visages. Il est difficile de dire si la chemise sera capable de tromper ce modèle en particulier et je ne serais pas surpris si elle échouait. Cependant, le ton de l’action est plus important que le résultat dans ce contexte.
Le camouflage numérique deviendra-t-il de plus en plus populaire ?
L’idée de Weckert n’est pas nouvelle. Des maquillages et des vêtements confondant reconnaissance faciale et empreintes avec des plaques d’immatriculation fictives ont déjà été créés pour surcharger les lecteurs automatiques. Tout change de manière dynamique avec le développement de modèles, des ensembles de formation plus importants et des changements dans les logiciels utilisés : les anciennes méthodes cessent de fonctionner car les développeurs de solutions les mettent à jour en fonction des méthodes d’attaque. La même limitation s’applique à la chemise Digital Camouflage. De nouvelles versions du tirage apparaîtront régulièrement avec les générations suivantes de YOLO : selon l’artiste, cela marquera même l’émergence de tendances qui se construiront… algorithmiquement.
Lire aussi : La police s’est déguisée en buisson et a surpris les conducteurs en train d’utiliser leur téléphone. Exagération?
Cependant, il y a un désaccord important dans tout cela : les artistes ont remarqué le problème et… l’ont résolu à leur manière. Un peu à contre-courant, un peu décadent, quelque peu intéressant. Ils ont profité du fait que les modèles ont leurs propres vulnérabilités, ils peuvent être trompés et faire échouer. Il y a cependant ici une asymétrie : chaque méthode d’attaque entraînera dans ce cas une mise à jour du modèle, une sorte de jeu du chat et de la souris. L’homme est une créature inventive, mais un modèle dispose d’un temps illimité, de vastes ressources et de possibilités d’itération presque infinies.
