A Miami, un petit robot livreur s’est retrouvé coincé sur les rails et… y est resté. Un instant plus tard, un train à grande vitesse l’a percuté et le sujet est devenu viral dans l’hémisphère occidental. Inutile d’expliquer que de telles situations peuvent se terminer non seulement par la perte du robot et sa destruction, mais aussi par une véritable tragédie dans laquelle quelqu’un meurt ? Cette courte vidéo dit toute la vérité sur l’autonomie : cela fonctionne très bien tant que le monde est prévisible pour la machine. Et si les choses ne se passent pas bien : selon les lois de Murphy ?
Les faits se sont produits jeudi 15 janvier vers 20 heures. heure locale. La vidéo a été enregistrée par Guillermo Dapelo, qui a repéré le robot alors qu’il promenait ses chiens. Selon lui, l’appareil était plus ou moins sur les rails 15 minutes — c’est-à-dire suffisamment longtemps pour que quelqu’un réagisse, et en même temps pour qu’il soit « pris en charge » par le train venant en sens inverse, qui n’a eu aucune pitié pour le robot.
L’enregistrement montre la séquence des événements : le robot s’arrête, le train avance à vitesse de croisière et, au bout d’une seconde, il se retrouve avec de la ferraille. Un chauffeur d’Uber Eats se trouvait à proximité et a contacté Coco Robotics pour lui signaler l’emplacement du robot. Pourquoi personne n’a-t-il réagi alors que le robot était resté sur les rails depuis quinze minutes ? Tu ne pourrais pas en prendre le contrôle ? Personne n’est venu en aide ou n’a prévenu l’opérateur ferroviaire de la menace ?
Autonomie sans entretien
Coco Robotics a confirmé que le robot leur appartenait au moment de l’enregistrement n’a pas effectué la livraison. L’entreprise explique l’incident comme une « panne matérielle rare ». La déclaration comprenait un discours d’entreprise typique : la sécurité est une priorité, les robots conduisent à la vitesse du marche, cèdent le passage aux humains et sont surveillés en temps réel par les humains. Alors, qu’est-ce qui n’a pas fonctionné ?
La surveillance en temps réel ne signifie pas automatiquement « la capacité de réagir immédiatement » si un robot reste coincé sur un trottoir. Bien sûr, vous pouvez le redémarrer à distance, le rediriger ou envoyer quelqu’un de l’équipe. S’il se retrouve coincé à un passage à niveau, l’espace-temps se courbe un peu et il lui reste tout simplement moins de temps pour réagir. Vous devez utiliser des protocoles légèrement différents et essayer de faire ce que vous pouvez pour éviter une collision grave.
Coco opère à Miami depuis plus d’un an et, selon le communiqué, y a parcouru des milliers de kilomètres sans incident grave, traversant les mêmes voies plusieurs fois par jour. Nous pouvons donc supposer qu’il s’agit d’une de ces exceptions critiques qui se produisent rarement. Mais nous savons déjà (de par cette situation « révélatrice ») que de tels cas, s’ils se produisent, se terminent mal. Cette fois pour la machine. Dans d’autres cas, la personne lésée peut être un être humain.
Les voies ferrées sont une infrastructure essentielle
Les robots de livraison sont conçus pour naviguer dans des environnements prévisibles. Un passage à niveau ressemble à celui-ci : juste quelques dalles et rails métalliques. Cependant, en termes de risque, c’est une ligue complètement différente. Le train ne tournera pas, il ne fera pas le « test de l’orignal », il ne s’arrêtera pas à moins de cinq mètres parce qu’il a détecté un obstacle. Le train est un tas de fer lourd doté d’une force cinétique énorme, d’un temps de freinage très long et d’une maniabilité nulle.
Un train de marchandises voyageant à vitesse de « croisière » peut nécessiter plus d’un milepour s’arrêter à zéro même en cas de freinage d’urgence. C’est une distance terriblement longue. Nous sommes face à un choc entre deux mondes : une autonomie urbaine légère et des infrastructures lourdes qui fonctionnent selon des règles différentes – et ne s’adapteront pas simplement parce que quelqu’un veut livrer des ramen ou des sushis à ses clients plus rapidement, plus facilement et de manière « sophistiquée ».
Que doit faire un robot lorsqu’il ne sait pas quoi faire ?
Lorsqu’un problème survient dans des systèmes autonomes, ce qui compte, c’est ce que fait l’appareil, quand ne comprend plus la situation. Il peut s’agir par exemple de se garer sur le bord de la route, de s’arrêter dans un endroit qui ne bloque pas la circulation, d’envoyer une alarme hautement prioritaire ou de se retirer automatiquement de la zone à risque. Les voies ferrées font partie de ces endroits où rester longtemps sur elles entraîne généralement une catastrophe.
Une géolocalisation des passages à niveau, des règles de précaution supplémentaires et même des interdictions d’entrée peuvent être appliquées si le système détecte un comportement instable des capteurs.
La supervision humaine fonctionne si l’humain est disponible
La déclaration de Coco comprend une phrase sur les « pilotes de sécurité humaine » qui surveillent la flotte. Le secteur de la livraison autonome fonctionne depuis longtemps sur un modèle d’autonomie assistée : un robot se conduit tout seul, mais un humain peut prendre le relais ou l’aider lorsqu’il est bloqué.
Si un opérateur supervise plusieurs machines, une file d’attente apparaît dans une situation critique. Et si l’événement est inhabituel, la reconnaissance du problème tarde. Le matériel vidéo suggère que le robot est resté sur les rails pendant plusieurs minutes. La question est de savoir ce qui est alors arrivé à l’opérateur de la machine.
Et plus ces systèmes deviennent courants, plus « rares » nous séduisent en nombre. Les statistiques sont un domaine impitoyable : même si une panne est extrêmement improbable, une flotte circulant quotidiennement dans une grande ville finira par en connaître une.
Lire aussi : Un robot est un outil, pas un compagnon. L’IA émotionnelle est une impasse
Avertissement de gros calibre
Laisser quoi que ce soit sur les voies – une voiture, des débris ou un robot – peut provoquer des dommages, des situations d’urgence et, dans des cas extrêmes, même des déraillements et d’énormes pertes : tant en infrastructures qu’en personnes. Il serait bon que le monde de la technologie traite cela à la fois comme un avertissement et comme une douche froide. Le prochain échec de ce type pourrait se terminer bien pire, et cette fois la « viralité » sera déterminée par le triste bilan des pertes rapportées par les médias, et non par l’étrangeté de la situation dans son ensemble.
