La police des West Midlands reçoit un carton rouge pour le match de football imaginaire de Copilot

Le Parlement britannique a rendu l’autopsie officielle de la saga Copilot de la police des West Midlands, et elle se lit comme une étude de cas sur la manière de ne pas mélanger l’IA générative avec la prise de décision en matière d’ordre public.

Les députés de la commission des affaires intérieures ont exposé leurs conclusions sur la façon dont la police des West Midlands a géré le match d’Aston Villa en novembre qui a vu l’interdiction des supporters du Maccabi Tel Aviv. La décision de la force s’appuyait en partie sur les affirmations générées par Copilot concernant le désordre lors d’un supposé match de West Ham, un élément qui n’existait que dans l’imagination du chatbot mais qui se retrouvait toujours dans les documents d’information.

Le rapport explique comment ces informations stupides ont réussi à remonter plus haut dans la chaîne qu’elles n’auraient jamais dû le faire. Les députés affirment que les allégations concernant le match fictif de West Ham ont fini par façonner la façon dont le risque était perçu, soulignant que le véritable problème n’était pas seulement l’hallucination elle-même, mais la facilité avec laquelle elle était prise au pied de la lettre.

Le comité ne va pas jusqu’à accuser l’ancien chef de la police Craig Guildford d’avoir délibérément induit le Parlement en erreur, soulignant qu’on ne lui avait pas dit avant son audience de témoignages le 6 janvier que l’IA avait été utilisée pour générer des documents incorrects. Cependant, les députés affirment qu’à ce stade, l’utilisation de l’IA avait déjà été divulguée en interne, ce qui permet de s’attendre raisonnablement à ce que Guildford et le chef de police adjoint Matt O’Hara aient été correctement informés avant de comparaître.

Les députés affirment que Guildford a fait preuve d’un manque remarquable de curiosité professionnelle en ne vérifiant pas correctement les preuves avant de les affronter, ajoutant que se tromper sur les faits à deux reprises indique des manquements plus larges en matière de diligence raisonnable plutôt qu’une erreur ponctuelle.

Le rapport indique qu’il n’aurait pas fallu deux séances de témoignages oraux et une correction écrite pour parvenir à un récit précis, et prévient que l’épisode soulève de sérieuses questions sur la transparence et l’attention aux détails au sein de la force.

Guildford avait déclaré au comité que les agents n’avaient pas utilisé l’IA pour trouver le matériel, mais avaient ensuite corrigé le dossier par écrit. Suite aux critiques du ministre de l’Intérieur Shabana Mahmood et d’autres, Guildford a pris sa retraite à 52 ans et le chef de la police par intérim a décidé de désactiver Copilot dans toute l’organisation pendant que les enquêteurs déterminaient ce qui s’était passé.

Pour l’avenir, les députés affirment que la force doit reconstruire la transparence et être beaucoup plus prudente quant à ce qu’elle considère comme du renseignement.

Tout cela arrive à un moment délicat pour les décideurs politiques. Dans un livre blanc publié le mois dernier, le gouvernement a présenté des plans visant à accélérer l’utilisation de l’IA dans les services de police, notamment 115 millions de livres sterling au cours des trois prochaines années pour un nouveau centre national pour l’IA dans la police, connu sous le nom de Police.AI, initialement axé sur l’automatisation du travail administratif. ®