La question devient alors pourquoiet il existe trois variables résolubles.
Problème 1. Les propres données de l’utilisateur sont hors de portée
Les données d’un utilisateur professionnel se trouvent dans des feuilles de calcul, des fichiers dans SharePoint, des applications telles que Salesforce et des plateformes de données telles que Databricks, Snowflake ou BigQuery. Pour y accéder, il faut déposer une demande auprès d’une équipe de plateforme de données dont la responsabilité régit tout. Bien entendu, comme vous le dira presque tous les ingénieurs de plateforme de données, les effectifs de l’équipe sont sous-dimensionnés par rapport aux demandes qu’elle reçoit, et ce que l’utilisateur professionnel obtient comme solution de contournement est souvent une copie d’une copie. Il s’agit peut-être d’un fichier CSV extrait il y a quelques mois ou d’un classeur transmis quatre fois avec des modifications non suivies. Ensuite, lorsqu’un agent se met à travailler sur ces données, l’utilisateur professionnel a quelque chose de rapide : travailler sur une version fantôme de la vérité. La traçabilité des données a disparu depuis longtemps avant que l’agent ne fasse son apparition, donc personne ne sait vraiment d’où viennent certains chiffres, et la confiance a été perdue. Pas bon quel que soit le cas d’utilisation, et probablement un événement de carrière si vous travaillez dans une institution financière.
Problème 2. Il n’y a pas de vérification des faits sur les données
Les chatbots remettent aux utilisateurs professionnels un résultat avec relativement peu de contexte pour que l’utilisateur puisse le valider. Leur montrer le code généré n’est pas la solution, car ces utilisateurs ne sont pas censés le lire. La bonne réponse n’est pas d’approuver des décisions prises avec des données qui ne peuvent pas être vérifiées, mais, comme le code d’expédition des programmeurs, la pression d’agir rapidement et de livrer l’emporte la plupart du temps sur « la bonne ». Et lorsqu’un auditeur ou un supérieur demande comment un chiffre a été produit, « l’IA l’a dit » n’est pas la réponse qu’un utilisateur professionnel voudra donner.
