Les flics ont mis Microsoft Copilot en cellule de détention après une hallucination controversée

Le chef de la police par intérim de la police des West Midlands a suspendu l’utilisation de Microsoft Copilot à la suite d’une controverse qui a conduit à la retraite anticipée de son prédécesseur suite à une recommandation visant à interdire aux supporters de football israéliens d’assister à un match de Birmingham.

La recommandation de la force d’empêcher les fans du Maccabi Tel Aviv d’assister au match de Ligue Europa contre Aston Villa le 6 novembre était en partie basée sur des éléments générés par l’outil d’IA concernant la perturbation d’un match inexistant contre le club londonien de West Ham.

Le 6 janvier, l’ancien chef de la police Craig Guildford a déclaré à la commission des affaires intérieures du Parlement que ses agents n’avaient pas utilisé l’IA pour trouver ces documents, puis a corrigé cela dans une lettre pour indiquer qu’ils l’avaient fait.

À la suite des critiques du ministre de l’Intérieur Shabana Mahmood et d’autres, Guildford a pris sa retraite à 52 ans. Le commissaire à la police et à la criminalité des West Midlands, Simon Foster, a déclaré qu’il avait déjà entamé le processus qui lui permettrait de licencier Guildford lorsqu’il a annoncé sa retraite.

Le chef de la police par intérim de la force, Scott Green, s’exprimant lors d’une réunion publique avec Foster le 27 janvier, a déclaré qu’il ne pouvait pas discuter des détails de la façon dont Copilot avait été utilisé car cela faisait l’objet d’une enquête de la part du Bureau indépendant pour la conduite de la police et du département des normes professionnelles de la police des West Midlands.

Mais Green a ajouté : « Dès mon premier jour au pouvoir, j’ai pris la mesure immédiate de désactiver l’accès à Microsoft Copilot au sein de la force. Comme tout le monde, nous utiliserons l’IA à l’avenir, nous utiliserons Microsoft Copilot, mais nous n’allons pas le faire tant que je ne serai pas satisfait de la conclusion de ce qui s’est passé dans cette affaire et tant que nous n’aurons pas mis en place une politique et des directives plus larges.

Répondre à une requête de Le registreFoster a déclaré : « L’intelligence artificielle a un rôle important à jouer dans le maintien de l’ordre, pour accroître la productivité, améliorer la détection des crimes et gérer les menaces émergentes. Cependant, l’utilisation de l’IA doit être éthique, licite, transparente et fondée sur des preuves, afin de maintenir la confiance du public.

« De sérieuses inquiétudes sont apparues concernant l’utilisation de Microsoft Copilot par la police des West Midlands, alors qu’elle se préparait à surveiller le match de football Aston Villa contre Maccabi Tel Aviv en novembre 2025 », a ajouté Foster. « Il est donc important que la police des West Midlands suspende son utilisation, tout en résolvant les questions liées à la gouvernance, à la surveillance et à la réglementation de son utilisation, de toute urgence. »

Lors de la réunion, Foster a également interrogé Green sur la mauvaise tenue des registres des réunions avec la police néerlandaise et sur les conclusions d’un biais de confirmation dans l’évaluation par la force du risque posé par les supporters du Maccabi Tel Aviv. Green s’est excusé pour la façon dont la force avait géré le travail, qualifiant les échecs de « accablants ». Il a déclaré que la force s’efforce de rétablir la confiance avec les communautés juives en enquêtant sur chaque rapport de crime de haine antisémite et en introduisant une formation sur l’antisémitisme pour le personnel.

Dans un livre blanc publié cette semaine, le gouvernement a présenté des plans pour une forte augmentation de l’utilisation de l’IA dans le maintien de l’ordre, en dépensant 115 millions de livres sterling au cours des trois prochaines années pour un nouveau Centre national pour l’IA dans le maintien de l’ordre, connu sous le nom de Police.AI, qui se concentrera initialement sur l’automatisation du travail administratif. ®