Portes ouvertes

À l’heure actuelle, nous déployons beaucoup d’efforts pour examiner le code écrit par l’IA afin de nous assurer qu’il est à la hauteur. Mais peut-être devons-nous commencer à nous préparer à un monde dans lequel le code écrit par les agents est si différent que nous ne pouvons même pas comprendre ce qu’ils font. Nous ne sommes probablement pas loin du fait que le code n’a pas d’importance – non pas parce que les agents écrivent un code si bon, mais parce que les agents écrivent du code que nous n’avons jamais vu auparavant et que nous ne pouvons pas concevoir actuellement.

Si le code devient quelque chose que nous, les humains, ne pouvons ou n’avons pas besoin de comprendre, alors comment pouvons-nous lui faire confiance ? Il semblerait que le travail de « développeur de logiciels » se transforme presque en celui d’un ingénieur QA : valider au lieu de produire. Si l’agent produit quelque chose qui fonctionne et fait exactement ce que nous lui demandons d’une manière qui ne nous intéresse pas, la tâche ne consiste-t-elle pas à prouver que ce qu’il fait est correct et ce que nous voulons ? Comme pour le problème d’Erdős, nous ne devrions probablement pas croire l’agent sur parole, mais simplement franchir cette porte ouverte.

Nous, les humains, devons comprendre que lorsque nous disons que quelque chose « ne peut pas être fait », nous voulons dire en réalité « aucun humain ne l’a encore fait ».

A lire également